探索最佳AI工具

一個為 AI 交易代理提供的確定性加密驗證器，用於驗證交易和偵測偽裝撤回。

開源安全測試框架，用於 AI 前端，可發現危險工具鏈組合並偵測執行層級的副作用。

ShellWard 是一個具有 8 層防禦的 AI Agent 安全中介軟體，可防範提示注入、數據逸出和危險指令。

Shieldapi-mcp 提供針對 AI 代理的安全性智慧，包括密碼洩露檢查、聲譽掃描和提示注入偵測。

使用各種工具對 Base 上 AI 代理錢包進行聲譽評分。

一個具備 29 個工具的企業 AI 治理層，用於決策分類、法醫審計軌跡和合規地圖。

一個具有 Z3 形式驗證的確定性 AI 安全政策引擎，用於透過 MCP 寫入、驗證和執行 AI 前端的機器可驗證約束。

透過監控 token 利用情況、語境品質惡化及會話疲勞，賦予 AI 代理自我意識，以了解其認知狀態。

本文討論威脅行為者可以利用的關鍵攻擊向量，以侵蝕或操縱大型語言模型 (LLMs)。

一個供 AI 代理使用的安全繫結帶，提供帶有 DLP 扫描、SSRF 保護、MCP 响應扫描和工作區完整性監控的出口代理。

增強大型語言模型的安全性和隱私措施。

使用 Opacus 以差分隱私的方式訓練 PyTorch 模型。

Fairlearn 评估並改善機器學習模型的公平性。

開源 Python 庫，用於異常值、對抗性範例和數據漂移檢測。

為 GPT 系統設計的安裝提示挑戰

為 AI 安全和保安建立安全的 LLM 代理。

為 GitHub 倉儲庫提供的 AI 驅動安全代理。

用於解決安全挑戰的人工智能代理

AI 代理安全示範和攻擊的來源代碼。

針對網絡公平性的去偏誤社群檢測AI專案。

記錄 AI 意外行為，這些行為可能導致失敗。

AI 代理的快速信任層

使用新方法打破應用程式整合的大型語言模型。

Dropbox LLM 安全研究程式碼及結果。