关于这个工具
OpenLIT
是什么 OpenLIT 是一个开源 AI 工程平台,面向 AI 工程师、DevOps 团队、LLM 开发者和数据科学家。它基于 OpenTelemetry 构建,可完全自托管,用于 LLM 可观测性、评估、提示词管理与成本追踪。
核心能力
- LLM 可观测性与追踪:对 LLM 调用进行追踪与监控。
- AI 成本追踪:内置主流模型定价,并将成本应用于追踪、仪表盘和成本报告;Auto Pricing 可为新的 LLM 追踪安排 AI 成本追踪。
- AI 支出可见性:查看每位开发者、团队和项目在 AI 编码工具上的支出,按模型和供应商拆分 Claude Code、Cursor 和 Codex 的成本。
- 提示词管理:通过 Prompt Hub 管理提示词,并可让 Otter 按名称或 ID 审查提示词。
- 仪表盘与分析:创建仪表盘和文件夹、添加可视化组件,并支持备份与恢复。
- Agent 记忆:存储和搜索长期 Agent 记忆,可按用户、运行或 Agent 限定范围。
部署与集成
OpenLIT 为开源且可自托管,支持通过环境变量进行配置(服务器进程启动时读取,不支持热重载)。提供 GitHub Releases 预构建二进制文件,并支持 GPU 指标采集与 eBPF CUDA 追踪。
功能与使用场景
(/manage-models redirects here) Auto Pricing The Auto Pricing card schedules AI cost tracking for new LLM traces) Toolbar actions (Add Provider, SDK Usage, Import, Export) are icon-only with tooltips), since this isn’t a native VCS integration* metrics Confirm the host has a supported GPU: lspci | grep -E 'VGA|3D|Display' For NVIDIA: verify libnvidia-ml/opentelemetry-gpu-collector For eBPF CUDA tracing support, also run: make setup-bpf # installs bpftool, generates vmlinux16+ Was this page helpful? YesNo Suggest editsRaise issue2Latest patch of a minor version Pre-built binaries Download a binary for your platform from the GitHub Releases page3 Download your dashboard OpenLIT will automatically generate and download a JSON file containing your complete dashboard configurationA “Create a new dashboard or folder” popup will appearA secret’s Key becomes read-only once it’s created - you’d need to create a new secret under a different Key insteadAcceptance % is computed from edit-decision counts - accept and auto_accepted decisions against reject decisions - not from a raw lines-changed ratio.
使用分析
信息来源
每条档案都保留来源与最近验证时间。相似工具
Docs by LangChain
docs.langchain.com
90
Deploy and manage agents with durable execution, real-time streaming, and horizontal scaling.
免费增值 · US$1+/月
Cursor
cursor.com
90
Cursor 是一个 AI 驱动的编程平台,帮助开发者通过自主智能体构建软件。它支持桌面、网页和移动端,可在终端、Slack 和 GitHub 中运行。
付费 · US$8+/月
