このツールについて
OpenLIT
とは OpenLIT は、AI エンジニア、DevOps チーム、LLM 開発者、データサイエンティスト向けのオープンソース AI エンジニアリングプラットフォームです。OpenTelemetry 上に構築され、完全にセルフホスト可能で、LLM の可観測性、評価、プロンプト管理、コスト追跡をカバーします。
主な機能
- LLM の可観測性とトレーシング:LLM 呼び出しをトレースおよび監視します。
- AI コスト追跡:主要モデルの価格情報を同梱し、トレース、ダッシュボード、コストレポートに適用します。Auto Pricing は新しい LLM トレースの AI コスト追跡をスケジュールします。
- AI 支出の可視化:各開発者、チーム、プロジェクトが AI コーディングツールにいくら費やしているかを把握し、Claude Code、Cursor、Codex のコストをモデル別・ベンダー別に分解します。
- プロンプト管理:Prompt Hub でプロンプトを管理し、Otter に名前または ID でプロンプトをレビューさせることができます。
- ダッシュボードと分析:ダッシュボードとフォルダを作成し、ウィジェットを追加し、バックアップと復元が可能です。
- エージェントメモリ:ユーザー、実行、エージェント単位でスコープされた長期エージェントメモリを保存および検索します。
デプロイと統合
OpenLIT はオープンソースでセルフホスト型であり、サーバープロセス起動時に一度だけ読み込まれる環境変数で設定します(ホットリロードなし)。GitHub Releases からビルド済みバイナリを入手でき、GPU メトリクス収集と eBPF CUDA トレーシングをサポートします。
機能と用途
(/manage-models redirects here) Auto Pricing The Auto Pricing card schedules AI cost tracking for new LLM traces) Toolbar actions (Add Provider, SDK Usage, Import, Export) are icon-only with tooltips), since this isn’t a native VCS integration* metrics Confirm the host has a supported GPU: lspci | grep -E 'VGA|3D|Display' For NVIDIA: verify libnvidia-ml/opentelemetry-gpu-collector For eBPF CUDA tracing support, also run: make setup-bpf # installs bpftool, generates vmlinux16+ Was this page helpful? YesNo Suggest editsRaise issue2Latest patch of a minor version Pre-built binaries Download a binary for your platform from the GitHub Releases page3 Download your dashboard OpenLIT will automatically generate and download a JSON file containing your complete dashboard configurationA “Create a new dashboard or folder” popup will appearA secret’s Key becomes read-only once it’s created - you’d need to create a new secret under a different Key insteadAcceptance % is computed from edit-decision counts - accept and auto_accepted decisions against reject decisions - not from a raw lines-changed ratio.