26个版本 (9个破坏性版本)
0.13.0 | 2023年11月15日 |
---|---|
0.12.3 | 2023年6月27日 |
0.12.0 | 2023年5月31日 |
0.1.1-rc.1 | 2023年3月25日 |
#399 in 科学
每月477次下载
在 rustchain_discord_bot 中使用
235KB
4.5K SLoC
llm-chain 🚀
llm-chain
是一系列Rust包的集合,旨在帮助您创建高级LLM应用,如聊天机器人、代理等。作为一个综合性的LLM-Ops平台,我们支持云和本地部署的LLM。我们还提供强大的提示模板和多步链中提示的集成支持,使LLM能够逐步执行更复杂的任务。我们还提供向量存储集成,使模型能够拥有长期记忆和专业知识。这使您能够构建复杂的应用。
示例 💡
为了帮助您入门,这里有一个演示如何使用 llm-chain
的示例。您可以在存储库中的 示例文件夹 中找到更多示例。
let exec = executor!()?;
let res = prompt!(
"You are a robot assistant for making personalized greetings",
"Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);
➡️ 教程:开始使用llm-chain ➡️ 快速开始:根据我们的模板创建项目
功能 🌟
- 提示模板:创建可重复使用且易于定制的提示模板,以实现与LLM的一致性和结构化交互。
- 链:构建强大的提示链,允许您逐步执行更复杂的任务,充分利用LLM的潜力。
- ChatGPT支持:支持ChatGPT模型,并计划在未来添加OpenAI的其他模型。
- LLaMa支持:提供与LLaMa模型的无缝集成,使您能够使用Facebook的研究模型执行自然语言理解和生成任务。
- Alpaca支持:包含对斯坦福Alpaca模型的支持,扩展了可用于高级AI应用的可用语言模型的范围。
llm.rs
支持:使用我们的llm.rs
支持在Rust中使用llms,无需依赖C++代码。- 工具:通过让AI代理访问各种工具(如运行Bash命令、执行Python脚本或进行网络搜索)来增强其功能,使其能够进行更复杂和强大的交互。
- 可扩展性:考虑到可扩展性,随着生态系统的增长,轻松集成额外的LLM。
- 社区驱动:我们欢迎并鼓励社区贡献,以帮助改进和扩展
llm-chain
的功能。
开始使用 🚀
要开始使用llm-chain
,将其作为依赖项添加到您的Cargo.toml
中(您需要Rust 1.65.0或更高版本)
[dependencies]
llm-chain = "0.12.0"
llm-chain-openai = "0.12.0"
llm-chain-openai
的示例需要您设置OPENAI_API_KEY
环境变量,您可以这样做:
export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"
贡献 🤝
我们热烈欢迎来自每个人的贡献!如果您有兴趣帮助改进llm-chain
,请查看我们的CONTRIBUTING.md
文件,了解指南和最佳实践。
许可证 📄
llm-chain
在MIT许可证下授权。
联系我们 🌐
如果您有任何问题、建议或反馈,请随时打开一个问题或加入我们的社区Discord。我们总是很高兴听到用户关于llm-chain
的使用体验。
我们希望您喜欢使用llm-chain
来释放您项目中大型语言模型的全部潜力。祝您编码愉快!🎉
依赖项
~27–42MB
~546K SLoC