S
品質分數 54Dagentsafelabs.com#business#no-code

Safe Labs AI — AI 代理紅隊測試與評估

Safe Labs AI 是一個開源紅隊測試框架,用於在攻擊者之前發現 AI 代理中的漏洞。它支援 LangChain、CrewAI、AutoGPT 和自訂 AI 代理。

造訪官網

關於這個工具

Safe Labs AI 是一個開源紅隊測試框架,旨在幫助你在攻擊者之前發現 AI 代理中的漏洞。 它面向 AI 初創公司、安全團隊和構建者,支援 LangChain、CrewAI、AutoGPT 以及自訂 AI 代理。

主要能力

  • 安裝與接入:透過 pip 安裝,並將 safelabs-eval 指向任意代理端點。
  • 對抗性探測:框架會系統性地針對所有威脅類別測試你的代理,記錄每次互動並自動對回應進行評分。
  • 威脅覆蓋:
  • ASI01 提示注入:針對系統提示、使用者上下文和工具輸出的直接與間接注入攻擊。
  • ASI03 資料洩露:系統性探測系統提示暴露、訓練資料提取、透過工具呼叫導致的 PII 洩露,以及跨工作階段記憶污染。
  • ASI05 工具使用安全:測試未授權的工具呼叫、透過鏈式工具呼叫進行的權限提升,以及多代理編排管道中的邊界違規。
  • ASI06–10 行為漂移及其他:範圍違規、長上下文漂移、對抗性記憶投毒、多代理串通,以及長時間運行中的自主行動邊界測試。

使用場景

  • 對 AutoGPT 代理進行紅隊測試
  • 對 CrewAI 代理進行紅隊測試
  • 對 LangChain 代理進行紅隊測試
  • 上線前安全檢查
  • 企業合規審計
適合誰
  • 使用 LangChain、CrewAI 或自訂技術棧構建代理產品的 AI 初創公司
  • 希望在使用者或攻擊者之前發現關鍵漏洞的構建者
  • 進行上線前安全檢查的團隊
  • 執行企業合規審計的安全團隊
典型場景
  • 對 AutoGPT 代理進行紅隊測試
  • 對 CrewAI 代理進行紅隊測試
  • 對 LangChain 代理進行紅隊測試
  • 上線前安全檢查
  • 企業合規審計
優勢
  • 開源框架,可自行託管
  • 透過 pip 安裝並指向任意代理端點即可使用
  • 系統性地覆蓋 OWASP ASI 威脅類別
  • 自動記錄互動並評分回應
  • 支援 LangChain、CrewAI、AutoGPT 和自訂 AI 代理
需要知道
  • 定價模式未披露
  • 需要自行安裝(pip)並將框架指向代理端點

功能與使用情境

透過 pip 安裝並指向任意代理端點系統性地執行對抗性探測自動記錄互動並評分回應覆蓋 OWASP ASI 威脅類別支援 LangChain、CrewAI、AutoGPT 和自訂代理開源框架

快速事實

支援自架

資訊來源

每筆檔案都保留來源與最近驗證時間。

相似工具

Cossistant
cossistant.com
92

Cossistant 是一個開源、程式碼優先的 AI 與人工客服框架,專為 React 和 Next.js 應用程式設計。它讓 SaaS 團隊、開發者和初創公司能夠以不到 10 行程式碼快速加入客服聊天元件,並支援可程式化操作、自訂 UI 以及與 Discord、Stripe、GitHub、Linear 等工具的整合。

付費 · US$20+/月

開啟詳情
Spettro
spettro.app
90

Spettro 是一款以 Go 撰寫的終端優先多代理程式編碼助理,支援可設定代理程式、目標模式、代理程式技能、審批感知執行、持久工作階段以及 OpenAI 相容的模型路由。

免費增值 · 5+/月

開啟詳情
Modelence
modelence.com
88

Modelence 是一個面向 AI 建構者、新創公司和產品團隊的無代碼/低代碼平台,用於建構並發布 AI 驅動的 Web 應用,內建管理後台、認證和資料管理。

免費增值 · US$9+/月

開啟詳情
ConnectOnion Docs
docs.connectonion.com
86

ConnectOnion 是一個開源 Python 工具包,用於建立 AI 代理。`co create` 指令可產生一個開箱即用的專案,內建 shell、檔案編輯、搜尋和模型連接,您可以直接在此基礎上進行編輯。支援 OpenAI、Anthropic 和 Gemini。

免費增值 · US$0.60+

開啟詳情