发现最出色的 AI 工具

一个用于检测人工智能生成艺术的工具

交易执行前对AI代理进行对抗性多模型推理验证。

一个用于评估和利用提示注入漏洞的工具

基于NVIDIA garak构建的开源Web应用程序，用于AI模型安全评估

一个用于 AI 交易代理的确定性加密验证器，用于验证交易和检测跑路行为。

用于 AI 代理的开源安全测试框架，可发现危险工具链组合并检测执行级别的副作用

ShellWard 是一款具有 8 层防御的 AI 代理安全中间件，可防御提示注入、数据窃取和危险命令。

Shieldapi-mcp 为 AI 代理提供安全智能，包括密码泄露检查、声誉扫描和提示注入检测。

在Base上使用各种工具为AI代理钱包进行声誉评分。

一个包含29种工具的企业级AI治理层，用于决策分类、取证审计追踪和合规映射。

一个具有 Z3 形式验证的确定性 AI 安全策略引擎，用于通过 MCP 编写、验证和执行 AI 代理的机器可验证约束

通过监控令牌使用情况、上下文质量下降和会话疲劳，为 AI 代理提供对其认知状态的自知。

本文讨论了威胁行为者可以利用的关键攻击向量，以破坏或操纵大型语言模型（LLM）。

一个为 AI 代理提供出口代理、数据丢失防护扫描、SSRF 保护、MCP 响应扫描和工作区完整性监控的安全束缚装置。

增强 LLM 安全和隐私措施。

使用Opacus对PyTorch模型进行差分隐私训练

Fairlearn 评估并改进机器学习模型中的公平性。

用于异常值、对抗样本和数据漂移检测的开源Python库

为GPT系统提供安全的提示挑战

为AI安全和安全提供安全的LLM代理

为GitHub仓库提供AI驱动的安全代理。

用于解决安全挑战的AI代理

AI代理安全演示和攻击的源代码。

用于网络公平性的去偏社区检测AI项目