1 个不稳定版本
0.13.0 | 2024年5月18日 |
---|
#13 在 #llm-chain
235KB
4.5K SLoC
llm-chain 🚀
llm-chain
是一组 Rust 包,旨在帮助您创建高级 LLM 应用,如聊天机器人、代理等。作为一个全面的 LLM-Ops 平台,我们提供强大的对云和本地托管 LLM 的支持。我们还提供强大的提示模板和将提示链式连接起来以执行多步骤链的链式支持,使 LLM 能够在单步中处理复杂任务。我们还提供矢量存储集成,使您的模型能够拥有长期记忆和主题知识。这使您能够构建复杂的应用程序。
示例 💡
为了帮助您开始,这里有一个如何使用 llm-chain
的示例。您可以在仓库中的 示例文件夹 中找到更多示例。
let exec = executor!()?;
let res = prompt!(
"You are a robot assistant for making personalized greetings",
"Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);
➡️ 教程:开始使用 llm-chain ➡️ 快速开始:根据我们的模板创建项目
功能 🌟
- 提示模板:创建可重复使用且易于定制的提示模板,以实现与 LLM 的一致和结构化交互。
- 链:构建强大的提示链,允许您逐步执行更复杂的任务,发挥 LLM 的全部潜力。
- ChatGPT 支持:支持 ChatGPT 模型,并计划在未来添加 OpenAI 的其他模型。
- LLaMa 支持:提供与 LLaMa 模型的无缝集成,使您能够使用 Facebook 的研究模型执行自然语言理解和生成任务。
- Alpaca 支持:纳入对斯坦福大学 Alpaca 模型的支持,扩大可用于高级 AI 应用程序的语言模型范围。
llm.rs
支持:使用我们的llm.rs
支持在 Rust 中使用 llms,无需依赖 C++ 代码。- 工具:通过让 AI 代理访问各种工具,如运行 Bash 命令、执行 Python 脚本或执行网络搜索,增强您 AI 代理的能力,实现更复杂、更强大的交互。
- 可扩展性:考虑到可扩展性进行设计,使得随着生态系统的增长,轻松集成额外的LLM。
- 社区驱动:我们欢迎并鼓励社区贡献,以帮助改进和扩展
llm-chain
的功能。
入门 🚀
要开始使用 llm-chain
,将其添加到您的 Cargo.toml
依赖中(您需要 Rust 1.65.0 或更高版本)
[dependencies]
llm-chain = "0.12.0"
llm-chain-openai = "0.12.0"
llm-chain-openai
的示例需要您设置 OPENAI_API_KEY
环境变量,您可以这样做
export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"
贡献 🤝
我们热烈欢迎大家的贡献!如果您有兴趣帮助改进 llm-chain
,请查阅我们的 CONTRIBUTING.md
文件以获取指南和最佳实践。
许可 📄
llm-chain
依据 MIT 许可协议 许可。
联系我们 🌐
如果您有任何问题、建议或反馈,请随时提出问题或加入我们的 社区 Discord。我们始终期待听取用户的声音并了解您对 llm-chain
的体验。
希望您能享受使用 llm-chain
来挖掘您项目中大型语言模型全部潜能。快乐编码! 🎉
依赖项
~27–41MB
~544K SLoC