工具 / OpenLLMetry

OpenLLMetry

  • framework
  • pipeline

基于 OpenTelemetry 的 LLM 应用埋点,接你已有的观测后端

不是又一个观测平台,而是一组建立在 OpenTelemetry 之上的扩展:为各家 LLM provider 与向量库提供标准 instrumentation,输出的是标准 OTel 数据,因此可以直接送进你已经在用的 Datadog、Honeycomb 等后端,不必再引入一套独立的存储与界面。若项目已经接了 OpenTelemetry,可以只加需要的那几个 instrumentation;若是从零开始,官方提供 traceloop-sdk 两行接入。其语义约定已被纳入 OpenTelemetry 社区的 LLM semantic conventions 讨论。JS/TS 版本在独立仓库 openllmetry-js。

pip install traceloop-sdk

← 返回工具库