LLM-SDK

适用于 OpenAI 兼容 API 的 SDK。

用法

使用 llm-sdk，通过 cargo add llm-sdk 添加。

特性

• 嵌入 API
• 转录 & 翻译 API
• 语音 API
• 带工具的聊天完成 API
• 聊天完成 API 流
• 带图像输入的聊天完成 API
• 创建图像 API
• 创建图像编辑 API
• 创建图像变体 API

由于助手 API 仍处于测试版且速度非常慢，因此我们目前没有计划支持它（及相关文件 API）。

示例

以下是如何使用 SDK 的示例

// create image
let sdk = LlmSdk::new("https://api.openai.com/v1", "your-api-key");
let req = CreateImageRequest::new("A happy little tree");
let res = sdk.create_image(req);

// chat completion
let messages = vec![
    ChatCompletionMessage::new_system("I can answer any question you ask me.", ""),
    ChatCompletionMessage::new_user("What is human life expectancy in the world?", "user1"),
];
let req = ChatCompletionRequest::new(messages);
let res = sdk.chat_completion(req).await?;

有关更多信息，请查看测试用例。