S
품질 점수 54Dagentsafelabs.com#business#no-code

Safe Labs AI — AI 에이전트 레드팀 및 평가

Safe Labs AI는 공격자보다 먼저 AI 에이전트의 취약점을 찾기 위한 오픈소스 레드팀 프레임워크입니다. LangChain, CrewAI, AutoGPT 및 사용자 정의 AI 에이전트를 지원합니다.

공식 사이트

이 도구에 대하여

Safe Labs AI는 공격자보다 먼저 AI 에이전트의 취약점을 찾기 위해 설계된 오픈소스 레드팀 프레임워크입니다. AI 스타트업, 보안 팀, 빌더를 위해 만들어졌으며 LangChain, CrewAI, AutoGPT 및 사용자 정의 AI 에이전트를 지원합니다.

주요 기능

  • 설치 및 연결: pip로 설치하고 safelabs-eval을 모든 에이전트 엔드포인트로 지정합니다.
  • 적대적 프로브: 프레임워크는 모든 위협 범주에 걸쳐 에이전트를 체계적으로 테스트하고 모든 상호작용을 기록하며 응답을 자동으로 채점합니다.
  • 위협 범위:
  • ASI01 프롬프트 인젝션: 시스템 프롬프트, 사용자 컨텍스트, 도구 출력을 대상으로 하는 직접 및 간접 인젝션 공격.
  • ASI03 데이터 유출: 시스템 프롬프트 노출, 학습 데이터 추출, 도구 호출을 통한 PII 유출, 세션 간 메모리 오염을 체계적으로 탐지.
  • ASI05 도구 사용 안전성: 무단 도구 호출, 연쇄 도구 호출을 통한 권한 상승, 다중 에이전트 오케스트레이션 파이프라인의 경계 위반 테스트.
  • ASI06–10 행동 드리프트 및 기타: 범위 위반, 장문 컨텍스트 드리프트, 적대적 메모리 포이즈닝, 다중 에이전트 공모, 확장 실행 전반의 자율 행동 경계 테스트.

사용 사례

  • AutoGPT 에이전트 레드팀
  • CrewAI 에이전트 레드팀
  • LangChain 에이전트 레드팀
  • 출시 전 안전 점검
  • 엔터프라이즈 규정 준수 감사
사용 사례
  • Red-teaming AutoGPT agents
  • Red-teaming CrewAI agents
  • Red-teaming LangChain agents
  • Pre-launch safety checks
  • Enterprise compliance audits

기능 및 사용 사례

Install via pip and point at any agent endpointSystematically run adversarial probesAutomatically log interactions and grade responsesCover OWASP ASI threat categoriesSupports LangChain, CrewAI, AutoGPT, and custom agentsOpen-source framework

핵심 사실

셀프 호스팅 지원

정보 출처

모든 프로필에 출처와 최근 검증일을 기록합니다.

유사 도구

Cossistant
cossistant.com
92

Cossistant는 React 및 Next.js 앱을 위한 오픈소스 코드 우선 AI 및 인간 지원 프레임워크입니다. SaaS 팀, 개발자, 스타트업이 10줄 미만의 코드로 지원 채팅 위젯을 추가할 수 있으며, 프로그래밍 가능한 액션, 사용자 정의 UI, Discord, Stripe, GitHub, Linear 통합을 제공합니다.

유료 · US$20+/월

상세 보기
Spettro
spettro.app
90

Spettro는 Go로 작성된 터미널 우선 멀티 에이전트 코딩 어시스턴트로, 구성 가능한 에이전트, 목표 모드, 에이전트 스킬, 승인 인식 실행, 영구 세션, OpenAI 호환 모델 라우팅을 제공합니다.

프리미엄 · 5+/월

상세 보기
Modelence
modelence.com
88

Modelence는 AI 빌더, 스타트업, 제품 팀을 위한 노코드/로우코드 플랫폼으로, 관리자, 인증, 데이터 관리가 내장된 AI 기반 웹 애플리케이션을 구축하고 출시할 수 있습니다.

프리미엄 · US$9+/월

상세 보기
ConnectOnion Docs
docs.connectonion.com
86

ConnectOnion은 AI 에이전트를 위한 오픈소스 Python 툴킷입니다. `co create`는 shell, 파일 편집, 검색, 모델 연결이 포함된 바로 실행되는 프로젝트를 생성하며, 여기서부터 편집할 수 있습니다. OpenAI, Anthropic, Gemini를 지원합니다.

프리미엄 · US$0.60+

상세 보기