이 도구에 대하여
OpenLIT란
OpenLIT는 AI 엔지니어, DevOps 팀, LLM 개발자, 데이터 과학자를 위한 오픈소스 AI 엔지니어링 플랫폼입니다. OpenTelemetry 기반으로 구축되었고 완전한 셀프 호스팅이 가능하며, LLM 관측성, 평가, 프롬프트 관리, 비용 추적을 다룹니다.
핵심 기능
- LLM 관측성 및 추적: LLM 호출을 추적하고 모니터링합니다.
- AI 비용 추적: 인기 모델의 가격 정보를 기본 제공하고 이를 추적, 대시보드, 비용 보고서에 적용합니다. Auto Pricing은 새로운 LLM 추적에 대한 AI 비용 추적을 예약합니다.
- AI 지출 가시성: 각 개발자, 팀, 프로젝트가 AI 코딩 도구에 지출하는 금액을 확인하고, Claude Code, Cursor, Codex의 비용을 모델 및 벤더별로 분류합니다.
- 프롬프트 관리: Prompt Hub를 통해 프롬프트를 관리하고, Otter에게 이름이나 ID로 프롬프트를 검토하도록 요청할 수 있습니다.
- 대시보드 및 분석: 대시보드와 폴더를 생성하고 위젯을 추가하며 백업 및 복원을 지원합니다.
- 에이전트 메모리: 사용자, 실행 또는 에이전트 단위로 범위가 지정된 장기 에이전트 메모리를 저장하고 검색합니다.
배포
및 통합 OpenLIT는 오픈소스이며 셀프 호스팅 방식으로, 서버 프로세스 시작 시 한 번 읽히는 환경 변수로 구성합니다(핫 리로드 없음). GitHub Releases에서 사전 빌드된 바이너리를 제공하며, GPU 메트릭 수집과 eBPF CUDA 추적을 지원합니다.
기능 및 사용 사례
(/manage-models redirects here) Auto Pricing The Auto Pricing card schedules AI cost tracking for new LLM traces) Toolbar actions (Add Provider, SDK Usage, Import, Export) are icon-only with tooltips), since this isn’t a native VCS integration* metrics Confirm the host has a supported GPU: lspci | grep -E 'VGA|3D|Display' For NVIDIA: verify libnvidia-ml/opentelemetry-gpu-collector For eBPF CUDA tracing support, also run: make setup-bpf # installs bpftool, generates vmlinux16+ Was this page helpful? YesNo Suggest editsRaise issue2Latest patch of a minor version Pre-built binaries Download a binary for your platform from the GitHub Releases page3 Download your dashboard OpenLIT will automatically generate and download a JSON file containing your complete dashboard configurationA “Create a new dashboard or folder” popup will appearA secret’s Key becomes read-only once it’s created - you’d need to create a new secret under a different Key insteadAcceptance % is computed from edit-decision counts - accept and auto_accepted decisions against reject decisions - not from a raw lines-changed ratio.