3个版本
0.14.2 | 2024年5月22日 |
---|---|
0.14.1 | 2024年5月21日 |
0.14.0 | 2024年5月19日 |
0.13.0 |
|
在 机器学习 中排名 153
每月下载量 53
在 7 crates 中使用
205KB
4K SLoC
ai-chain 🚀
ai-chain
是一组Rustcrate,旨在帮助您创建高级LLM应用,如聊天机器人、代理等。作为一个综合的LLM-Ops平台,我们为云和本地托管的LLM提供强大的支持。我们还提供强大的提示模板和链式提示的支持,这可以使LLM执行更复杂的任务,分步骤执行,充分利用LLM的潜力。我们还提供向量存储集成,使您的模型能够拥有长期记忆和专业知识。这使您能够构建复杂的应用程序。
此crate是ai-chain
的主crate。您需要一个驱动crate,如ai-chain-openai
,或ai-chain-local
示例 💡
为了帮助您开始,这里有一个演示如何使用ai-chain
的例子。您可以在存储库中的示例文件夹中找到更多示例。
let exec = executor!()?;
let res = prompt!(
"You are a robot assistant for making personalized greetings",
"Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);
➡️ 教程:开始使用ai-chain ➡️ 快速入门:根据我们的模板创建项目
功能 🌟
- 提示模板:创建可重用和易于定制的提示模板,以实现与LLM的一致和结构化交互。
- 链:构建强大的提示链,允许您分步骤执行更复杂的任务,充分利用LLM的潜力。
- ChatGPT支持:支持ChatGPT模型,并计划在未来添加OpenAI的其他模型。
- LLaMa支持:提供与LLaMa模型的无缝集成,使您可以使用Facebook的研究模型进行自然语言理解和生成任务。
- Alpaca支持:包含对斯坦福的Alpaca模型的支持,扩大了可用于高级AI应用的可用语言模型的范围。
- 工具:通过使AI代理能够访问各种工具(例如运行Bash命令、执行Python脚本或执行网络搜索)来增强其功能,从而实现更复杂和强大的交互。
- 可扩展性:考虑到可扩展性而设计,这使得随着生态系统的增长轻松集成额外的LLM。
- 社区驱动:我们欢迎并鼓励社区贡献,以帮助改进和扩展
ai-chain
的功能。
入门 🚀
要开始使用 ai-chain
,请在您的 Cargo.toml
文件中将其添加为依赖项。
cargo add ai-chain ai-chain-openai
ai-chain-openai
的示例需要您设置 OPENAI_API_KEY
环境变量,您可以通过以下方式完成
export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"
贡献 🤝
我们热烈欢迎每个人的贡献!如果您想帮助改进 ai-chain
,请查看我们的 CONTRIBUTING.md
文件,了解指导方针和最佳实践。
许可证 📄
ai-chain
采用 MIT 许可证。
联系我们 🌐
如果您有任何问题、建议或反馈,请随时提出问题或加入我们的 社区 Discord。我们总是很高兴听到用户关于 ai-chain
的体验。
我们希望您喜欢使用 ai-chain
来释放您项目中大语言模型的全部潜力。快乐的编码!🎉
依赖项
~19–34MB
~552K SLoC