发现最出色的 AI 工具

Shieldapi-mcp 为 AI 代理提供安全智能，包括密码泄露检查、声誉扫描和提示注入检测。

在Base上使用各种工具为AI代理钱包进行声誉评分。

一个包含29种工具的企业级AI治理层，用于决策分类、取证审计追踪和合规映射。

一个具有 Z3 形式验证的确定性 AI 安全策略引擎，用于通过 MCP 编写、验证和执行 AI 代理的机器可验证约束

通过监控令牌使用情况、上下文质量下降和会话疲劳，为 AI 代理提供对其认知状态的自知。

本文讨论了威胁行为者可以利用的关键攻击向量，以破坏或操纵大型语言模型（LLM）。

一个为 AI 代理提供出口代理、数据丢失防护扫描、SSRF 保护、MCP 响应扫描和工作区完整性监控的安全束缚装置。

增强 LLM 安全和隐私措施。

使用Opacus对PyTorch模型进行差分隐私训练

Fairlearn 评估并改进机器学习模型中的公平性。

用于异常值、对抗样本和数据漂移检测的开源Python库

为GPT系统提供安全的提示挑战

为AI安全和安全提供安全的LLM代理

为GitHub仓库提供AI驱动的安全代理。

用于解决安全挑战的AI代理

AI代理安全演示和攻击的源代码。

用于网络公平性的去偏社区检测AI项目

意外行为导致失败的AI目录化。

AI代理的快速信任层

使用新方法打破应用集成的LLM

Dropbox LLM 安全研究代码和结果。

NIST AI 100-2e2023 提供了一种对抗性机器学习的草拟分类法。