探索最佳AI工具

一個用於偵測 AI 建構藝術的工具。

在交易執行前，為 AI 代理進行對抗性多模型推理驗證。

一個為了偵測提示注入和越獄而微調的模型，具有低偽陽性率。

DeBERTa Prompt Injection Detector v2 是一個針對大型語言模型中偵測提示注入攻擊而微調的 AI 模型。

Llama-Prompt-Guard-2-86M 是一個輕量級模型，用於偵測 LLM 管線中的提示注入和越獄嘗試。

Llama-Guard-4-12B 是一個多模態安全分類器，用於偵測 LLM 輸入和輸出中的有害內容

一個用於評估和利用提示注入漏洞的工具。

基於NVIDIA garak所建構的開源網路應用程式，用於AI模型安全性評估

一個全面的提示注入攻擊分類系統。

一個免費的 AI 代理技能安全掃描器，分析 SKILL.md、MCP 設定檔和系統提示以發現安全漏洞。

一個為 AI 交易代理提供的確定性加密驗證器，用於驗證交易和偵測偽裝撤回。

開源安全測試框架，用於 AI 前端，可發現危險工具鏈組合並偵測執行層級的副作用。

ShellWard 是一個具有 8 層防禦的 AI Agent 安全中介軟體，可防範提示注入、數據逸出和危險指令。

一個用於 AI 代理的保安掃描器，可使用 42+ 個正則表達式模式偵測提示注入

Shieldapi-mcp 提供針對 AI 代理的安全性智慧，包括密碼洩露檢查、聲譽掃描和提示注入偵測。

使用各種工具對 Base 上 AI 代理錢包進行聲譽評分。

一個具備 29 個工具的企業 AI 治理層，用於決策分類、法醫審計軌跡和合規地圖。

一個具有 Z3 形式驗證的確定性 AI 安全政策引擎，用於透過 MCP 寫入、驗證和執行 AI 前端的機器可驗證約束。

透過監控 token 利用情況、語境品質惡化及會話疲勞，賦予 AI 代理自我意識，以了解其認知狀態。

本文討論威脅行為者可以利用的關鍵攻擊向量，以侵蝕或操縱大型語言模型 (LLMs)。

一個供 AI 代理使用的安全繫結帶，提供帶有 DLP 扫描、SSRF 保護、MCP 响應扫描和工作區完整性監控的出口代理。

偵測文字是否為真實或由 GPT-2 創造。

增強大型語言模型的安全性和隱私措施。

使用 Opacus 以差分隱私的方式訓練 PyTorch 模型。