S
Score qualité 54Dagentsafelabs.com#business#no-code

Safe Labs AI — Red-Teaming et évaluation des agents IA

Safe Labs AI est un framework open source de red-teaming pour trouver les vulnérabilités des agents IA avant les attaquants. Il prend en charge LangChain, CrewAI, AutoGPT et les agents IA personnalisés.

Visiter le site

À propos de cet outil

Safe Labs AI est un framework open source de red-teaming conçu pour vous aider à trouver les vulnérabilités de vos agents IA avant les attaquants. Il est destiné aux startups d'IA, aux équipes de sécurité et aux développeurs, et prend en charge LangChain, CrewAI, AutoGPT ainsi que les agents IA personnalisés.

Capacités principales

  • Installation et connexion : Installation via pip et pointage de safelabs-eval vers n'importe quel point de terminaison d'agent.
  • Sondes adverses : Le framework teste systématiquement votre agent sur toutes les catégories de menaces, en journalisant chaque interaction et en notant automatiquement les réponses.
  • Couverture des menaces :
  • ASI01 Injection de prompt : Attaques par injection directe et indirecte ciblant les prompts système, le contexte utilisateur et les sorties d'outils.
  • ASI03 Fuite de données : Sondage systématique pour l'exposition des prompts système, l'extraction de données d'entraînement, la fuite de PII via les appels d'outils et la contamination de la mémoire entre sessions.
  • ASI05 Sécurité d'utilisation des outils : Tests pour les invocations d'outils non autorisées, l'escalade de privilèges via des appels d'outils en chaîne et les violations de limites dans les pipelines d'orchestration multi-agents.
  • ASI06–10 Dérive comportementale et plus : Violations de périmètre, dérive de contexte long, empoisonnement de mémoire adversarial, collusion multi-agents et tests des limites d'action autonome sur des exécutions prolongées.

Cas d'usage

  • Red-teaming d'agents AutoGPT
  • Red-teaming d'agents CrewAI
  • Red-teaming d'agents LangChain
  • Contrôles de sécurité avant lancement
  • Audits de conformité en entreprise
Cas d’usage
  • Red-teaming AutoGPT agents
  • Red-teaming CrewAI agents
  • Red-teaming LangChain agents
  • Pre-launch safety checks
  • Enterprise compliance audits

Fonctions et usages

Install via pip and point at any agent endpointSystematically run adversarial probesAutomatically log interactions and grade responsesCover OWASP ASI threat categoriesSupports LangChain, CrewAI, AutoGPT, and custom agentsOpen-source framework

Faits rapides

Auto-hébergement possible

Sources

Chaque fiche conserve ses sources et sa date de vérification.

Outils similaires

Cossistant
cossistant.com
92

Cossistant est un framework de support IA et humain open source et code-first pour les applications React et Next.js. Il permet aux équipes SaaS, aux développeurs et aux startups d'ajouter un widget de chat de support en moins de 10 lignes de code, avec des actions programmables, une UI personnalisée et des intégrations avec Discord, Stripe, GitHub et Linear.

Payant · 20 $US+/mois

Voir les détails
Spettro
spettro.app
90

Spettro est un assistant de codage multi-agents axé terminal, écrit en Go, avec des agents configurables, un mode objectif, des compétences d'agent, une exécution sensible aux approbations, des sessions persistantes et un routage de modèles compatible OpenAI.

Freemium · 5+/mois

Voir les détails
Modelence
modelence.com
88

Modelence est une plateforme no-code/low-code pour les constructeurs d'IA, les startups et les équipes produit afin de créer et déployer des applications web alimentées par l'IA avec administration, authentification et gestion des données intégrées.

Freemium · 9 $US+/mois

Voir les détails
ConnectOnion Docs
docs.connectonion.com
86

ConnectOnion est une boîte à outils Python open source pour les agents IA. `co create` génère un projet déjà fonctionnel — shell, édition de fichiers, recherche et modèle connecté — et vous le modifiez à partir de là. Prend en charge OpenAI, Anthropic et Gemini.

Freemium · 0,60 $US+

Voir les détails