发现最出色的 AI 工具

一个用于检测人工智能生成艺术的工具

交易执行前对AI代理进行对抗性多模型推理验证。

一个用于检测提示注入和越狱的微调模型，具有低误报率。

DeBERTa Prompt Injection Detector v2 是一个针对大型语言模型中的提示注入攻击进行检测而微调的 AI 模型。

Llama-Prompt-Guard-2-86M 是一个用于检测 LLM 管道中提示注入和越狱尝试的轻量级模型。

Llama-Guard-4-12B 是一种多模态安全分类器，用于检测 LLM 输入和输出中的有害内容

一个用于评估和利用提示注入漏洞的工具

基于NVIDIA garak构建的开源Web应用程序，用于AI模型安全评估

针对提示注入攻击的综合分类系统

一个免费的AI代理技能安全扫描器，分析SKILL.md、MCP配置文件和系统提示中的安全漏洞。

一个用于 AI 交易代理的确定性加密验证器，用于验证交易和检测跑路行为。

用于 AI 代理的开源安全测试框架，可发现危险工具链组合并检测执行级别的副作用

ShellWard 是一款具有 8 层防御的 AI 代理安全中间件，可防御提示注入、数据窃取和危险命令。

一个用于AI代理的安全扫描器，使用42+正则表达式模式检测提示注入

Shieldapi-mcp 为 AI 代理提供安全智能，包括密码泄露检查、声誉扫描和提示注入检测。

在Base上使用各种工具为AI代理钱包进行声誉评分。

一个包含29种工具的企业级AI治理层，用于决策分类、取证审计追踪和合规映射。

一个具有 Z3 形式验证的确定性 AI 安全策略引擎，用于通过 MCP 编写、验证和执行 AI 代理的机器可验证约束

通过监控令牌使用情况、上下文质量下降和会话疲劳，为 AI 代理提供对其认知状态的自知。

本文讨论了威胁行为者可以利用的关键攻击向量，以破坏或操纵大型语言模型（LLM）。

一个为 AI 代理提供出口代理、数据丢失防护扫描、SSRF 保护、MCP 响应扫描和工作区完整性监控的安全束缚装置。

检测文本是否真实或由GPT-2生成。

增强 LLM 安全和隐私措施。

使用Opacus对PyTorch模型进行差分隐私训练