關於這個工具
OpenLIT
是什麼 OpenLIT 是一個開源 AI 工程平台,鎖定 AI 工程師、DevOps 團隊、LLM 開發者與資料科學家。它建構於 OpenTelemetry 之上,可完全自託管,用於 LLM 可觀測性、評估、提示詞管理與成本追蹤。
核心能力
- LLM 可觀測性與追蹤:對 LLM 呼叫進行追蹤與監控。
- AI 成本追蹤:內建熱門模型定價,並將成本套用至追蹤、儀表板與成本報告;Auto Pricing 可為新的 LLM 追蹤安排 AI 成本追蹤。
- AI 支出可視性:查看每位開發者、團隊與專案在 AI 編碼工具上的支出,並依模型與供應商拆分 Claude Code、Cursor 與 Codex 的成本。
- 提示詞管理:透過 Prompt Hub 管理提示詞,並可讓 Otter 依名稱或 ID 審查提示詞。
- 儀表板與分析:建立儀表板與資料夾、新增視覺化元件,並支援備份與還原。
- Agent 記憶:儲存與搜尋長期 Agent 記憶,可依使用者、執行或 Agent 限定範圍。
部署與整合
OpenLIT 為開源且可自託管,支援透過環境變數進行設定(伺服器程序啟動時讀取,不支援熱重載)。提供 GitHub Releases 預建置二進位檔,並支援 GPU 指標採集與 eBPF CUDA 追蹤。
功能與使用情境
(/manage-models redirects here) Auto Pricing The Auto Pricing card schedules AI cost tracking for new LLM traces) Toolbar actions (Add Provider, SDK Usage, Import, Export) are icon-only with tooltips), since this isn’t a native VCS integration* metrics Confirm the host has a supported GPU: lspci | grep -E 'VGA|3D|Display' For NVIDIA: verify libnvidia-ml/opentelemetry-gpu-collector For eBPF CUDA tracing support, also run: make setup-bpf # installs bpftool, generates vmlinux16+ Was this page helpful? YesNo Suggest editsRaise issue2Latest patch of a minor version Pre-built binaries Download a binary for your platform from the GitHub Releases page3 Download your dashboard OpenLIT will automatically generate and download a JSON file containing your complete dashboard configurationA “Create a new dashboard or folder” popup will appearA secret’s Key becomes read-only once it’s created - you’d need to create a new secret under a different Key insteadAcceptance % is computed from edit-decision counts - accept and auto_accepted decisions against reject decisions - not from a raw lines-changed ratio.
使用分析
資訊來源
每筆檔案都保留來源與最近驗證時間。相似工具
Docs by LangChain
docs.langchain.com
90
Deploy and manage agents with durable execution, real-time streaming, and horizontal scaling.
免費增值 · US$1+/月
Cursor
cursor.com
90
Cursor 是一個 AI 驅動的程式設計平台,協助開發者透過自主代理建構軟體。它支援桌面、網頁和行動端,可在終端機、Slack 和 GitHub 中運行。
付費 · US$8+/月
