À propos de cet outil
AXIS est un outil open source et un cadre de notation conçu pour mesurer la qualité des services pour les agents IA. Il exécute des scénarios réels pour générer un score composite de 0 à 100, aidant les développeurs à identifier et corriger les goulots d'étranglement qui ralentissent les agents.
Fonctionnalités principales
- Exécution de scénarios : Exécutez des scénarios d'agents réels pour évaluer les performances du service dans des interactions réelles.
- Notation en quatre dimensions : Notation selon l'atteinte des objectifs, l'environnement, le service et l'agent, avec des détails pour chaque dimension.
- Initialisation de projet : Initialisez rapidement un projet avec la commande
axis init, en configurant interactivement le répertoire des scénarios et les agents. - Installation de compétences : Exécute automatiquement
npx skills add netlify/axis --allpour installer la compétence configure-axis dans les répertoires de configuration d'agents détectés. - Prise en charge des clés API : Nécessite une clé API pour au moins un agent pris en charge (par exemple, ANTHROPIC_API_KEY pour Claude Code).
Flux
de travail 1. Depuis la racine de votre projet, exécutez axis init et suivez les invites pour configurer le répertoire des scénarios et les agents. 2. Deux fichiers sont créés : axis.json scénario exemple et fichier de configuration d'agent. 3. Exécutez des scénarios pour obtenir un score AXIS composite de 0 à 100. 4. Utilisez la répartition en quatre dimensions pour localiser et corriger les problèmes affectant l'expérience des agents.
Dimensions de notation
- Atteinte des objectifs : L'agent a-t-il terminé la tâche ? Noté selon vos critères d'évaluation.
- Environnement : Comment l'agent interagit avec l'environnement système.
- Service : Qualité des réponses du service aux requêtes des agents.
- Agent : Performance d'exécution de l'agent lui-même. AXIS est gratuit et convient aux développeurs d'agents IA, aux fournisseurs de services et aux ingénieurs de plateforme.
Fonctions et usages
{json|js|ts} -minimal config with your chosen scenarios path and agentsAfter the files are written, init also runs npx skills add netlify/axis --all to install the configure-axis skill into your detected agent config directoriesAn API key for at least one supported agent (for example, ANTHROPIC_API_KEY for Claude Code)Breakdowns for each of the four scoring dimensions: Goal Achievement, Environment, Service, and AgentDimension What It Tells You Goal Achievement Did the agent complete the task? Scored against your rubric checksExecution & Agents -how AXIS runs scenarios, supported and custom agents, and workspace isolationExecution & Agents -how AXIS runs scenarios, supported and custom agents, and workspace isolation.Initialize Your Project From your project root, run: axis init In an interactive terminal, this prompts you for the scenarios directory, which agents to include (comma-separated, eInterpret Your Results The AXIS Result is a composite of four dimensions, each measuring a different aspect of the agent's interaction with your systemIt then creates two files: axisjson -a sample scenario that asks the agent to create a file with specific contentNext Steps Scoring Framework -how the four dimensions are calculated, what signals drive each score, and why the scoring works the way it does