#language-model #llm #proxy #logging #observability #api-calls

app chronicle-api

Chronicle LLM 代理打包为 API

9 个不稳定版本 (3 个破坏性更新)

0.4.3 2024年7月9日
0.4.2 2024年7月1日
0.4.0 2024年6月29日
0.3.2 2024年6月24日
0.1.1 2024年5月9日

#435数据库接口

Download history 119/week @ 2024-05-06 4/week @ 2024-05-13 2/week @ 2024-05-20 365/week @ 2024-05-27 44/week @ 2024-06-03 12/week @ 2024-06-10 162/week @ 2024-06-17 359/week @ 2024-06-24 380/week @ 2024-07-01 154/week @ 2024-07-08 100/week @ 2024-07-29

每月260 次下载

Apache-2.0

395KB
10K SLoC

chronicle

Chronicle 是语言模型 API 调用的代理,

  • 提供重试,并在调用失败时可选地回退到其他提供者
  • 将每个调用记录在数据库中,并发送 OpenTelemetry 事件
  • 允许您在不更改请求格式的情况下切换模型提供者 API。
  • 支持 SQLite 和 PostgreSQL 数据库
  • 附带一个即插即用的抓取函数,可以将 OpenAI SDK 调用重定向到 Chronicle。
  • 支持多步骤工作流的“运行”和“步骤”记录

查看路线图 了解当前状态和其他说明。

依赖关系

~88MB
~1.5M SLoC