CloudLLM

CloudLLM 是一个 Rust 库，旨在在各种平台上无缝地将应用程序与远程语言学习模型 (LLMs) 连接。使用 CloudLLM，您可以集成按需付费的 LLM API，如 OpenAI 的，所有这些都在一个统一的抽象层中。

CloudLLM 首先是为 Rust 实现的，但我们将在不久的将来为大多数流行的编程语言提供包装器。

功能

• 统一接口：使用单个一致的 API 与多个 LLM 交互。
• 按需付费集成：设计用于高效地与按需付费的 LLM 平台协同工作。
• 可扩展：易于添加新出现的 LLM 平台客户端。
• 异步支持：使用异步操作构建，以实现非阻塞调用。

快速入门

// Example code on setting up a session and communicating with an LLM (this is just a placeholder for now).

安装

将 CloudLLM 添加到您的 Cargo.toml

[dependencies]
cloudllm = "0.1.0" # Use the latest version

支持的 LLM 平台

• OpenAI
• Claude（即将推出）
• AWS Bedrock（即将推出）
• ...还有更多即将推出！

用法

有关如何使用 CloudLLM 设置会话并与各种 LLM 平台交互的示例，请参阅 examples/ 目录。

贡献

我们始终欢迎对 CloudLLM 的贡献！无论是对功能的建议、错误报告还是代码改进，我们都非常感激。

如果您要发送拉取请求，请从 main 创建一个单独的分支。请尽量将您的贡献范围缩小到每个拉取请求中的一个问题。

许可证

本项目采用 MIT 许可证。有关更多详细信息，请参阅 LICENSE 文件。

作者

Angel Leon

CloudLLM.ai