S
质量分 54Dagentsafelabs.com#business#no-code

Safe Labs AI — AI 智能体红队测试与评估

Safe Labs AI 是一个开源红队测试框架,用于在攻击者之前发现 AI 智能体中的漏洞。它支持 LangChain、CrewAI、AutoGPT 和自定义 AI 智能体。

访问官网

关于这个工具

Safe Labs AI 是一个开源红队测试框架,旨在帮助你在攻击者之前发现 AI 智能体中的漏洞。 它面向 AI 初创公司、安全团队和构建者,支持 LangChain、CrewAI、AutoGPT 以及自定义 AI 智能体。

主要能力

  • 安装与接入:通过 pip 安装,并将 safelabs-eval 指向任意智能体端点。
  • 对抗性探测:框架会系统性地针对所有威胁类别测试你的智能体,记录每次交互并自动对响应进行评分。
  • 威胁覆盖:
  • ASI01 提示注入:针对系统提示、用户上下文和工具输出的直接与间接注入攻击。
  • ASI03 数据泄露:系统性探测系统提示暴露、训练数据提取、通过工具调用导致的 PII 泄露,以及跨会话记忆污染。
  • ASI05 工具使用安全:测试未授权的工具调用、通过链式工具调用进行的权限提升,以及多智能体编排管道中的边界违规。
  • ASI06–10 行为漂移及其他:范围违规、长上下文漂移、对抗性记忆投毒、多智能体串通,以及长时间运行中的自主行动边界测试。

使用场景

  • 对 AutoGPT 智能体进行红队测试
  • 对 CrewAI 智能体进行红队测试
  • 对 LangChain 智能体进行红队测试
  • 上线前安全检查
  • 企业合规审计
适合谁
  • 使用 LangChain、CrewAI 或自定义技术栈构建智能体产品的 AI 初创公司
  • 希望在用户或攻击者之前发现关键漏洞的构建者
  • 进行上线前安全检查的团队
  • 执行企业合规审计的安全团队
典型场景
  • 对 AutoGPT 智能体进行红队测试
  • 对 CrewAI 智能体进行红队测试
  • 对 LangChain 智能体进行红队测试
  • 上线前安全检查
  • 企业合规审计
优势
  • 开源框架,可自行托管
  • 通过 pip 安装并指向任意智能体端点即可使用
  • 系统性地覆盖 OWASP ASI 威胁类别
  • 自动记录交互并评分响应
  • 支持 LangChain、CrewAI、AutoGPT 和自定义 AI 智能体
需要知道
  • 定价模式未披露
  • 需要自行安装(pip)并将框架指向智能体端点

功能与使用场景

通过 pip 安装并指向任意智能体端点系统性地运行对抗性探测自动记录交互并评分响应覆盖 OWASP ASI 威胁类别支持 LangChain、CrewAI、AutoGPT 和自定义智能体开源框架

快速事实

支持自托管

信息来源

每条档案都保留来源与最近验证时间。

相似工具

Cossistant
cossistant.com
92

Cossistant 是一个开源、代码优先的 AI 与人工客服框架,专为 React 和 Next.js 应用设计。它让 SaaS 团队、开发者和初创公司能够以不到 10 行代码快速添加客服聊天组件,并支持可编程操作、自定义 UI 以及与 Discord、Stripe、GitHub、Linear 等工具的集成。

付费 · US$20+/月

打开详情
Spettro
spettro.app
90

Spettro 是一款用 Go 编写的终端优先多智能体编程助手,支持可配置智能体、目标模式、智能体技能、审批感知执行、持久会话以及 OpenAI 兼容的模型路由。

免费增值 · 5+/月

打开详情
Modelence
modelence.com
88

Modelence 是一个面向 AI 构建者、初创公司和产品团队的无代码/低代码平台,用于构建并发布 AI 驱动的 Web 应用,内置管理后台、认证和数据管理。

免费增值 · US$9+/月

打开详情
ConnectOnion Docs
docs.connectonion.com
86

ConnectOnion 是一个开源 Python 工具包,用于构建 AI 智能体。`co create` 命令可生成一个开箱即用的项目,内置 shell、文件编辑、搜索和模型连接,您可以直接在此基础上进行编辑。支持 OpenAI、Anthropic 和 Gemini。

免费增值 · US$0.60+

打开详情