#llm #ChatGPT #chain #langchain

ai-chain

一个用于串联多个LLM(如ChatGPT)以完成复杂任务的库,例如文本摘要

3个版本

0.14.2 2024年5月22日
0.14.1 2024年5月21日
0.14.0 2024年5月19日
0.13.0 2024年5月19日

机器学习 中排名 153

Download history 460/week @ 2024-05-19 7/week @ 2024-05-26 6/week @ 2024-06-02 3/week @ 2024-06-09 7/week @ 2024-06-16 1/week @ 2024-06-23 4/week @ 2024-07-07 40/week @ 2024-07-28 13/week @ 2024-08-11

每月下载量 53
7 crates 中使用

MIT 许可证

205KB
4K SLoC

ai-chain 🚀

ai-chain 是一组Rustcrate,旨在帮助您创建高级LLM应用,如聊天机器人、代理等。作为一个综合的LLM-Ops平台,我们为云和本地托管的LLM提供强大的支持。我们还提供强大的提示模板和链式提示的支持,这可以使LLM执行更复杂的任务,分步骤执行,充分利用LLM的潜力。我们还提供向量存储集成,使您的模型能够拥有长期记忆和专业知识。这使您能够构建复杂的应用程序。

此crate是ai-chain的主crate。您需要一个驱动crate,如ai-chain-openai,或ai-chain-local

Discord Crates.io License Docs: Tutorial

示例 💡

为了帮助您开始,这里有一个演示如何使用ai-chain的例子。您可以在存储库中的示例文件夹中找到更多示例。

let exec = executor!()?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

➡️ 教程:开始使用ai-chain ➡️ 快速入门:根据我们的模板创建项目

功能 🌟

  • 提示模板:创建可重用和易于定制的提示模板,以实现与LLM的一致和结构化交互。
  • :构建强大的提示链,允许您分步骤执行更复杂的任务,充分利用LLM的潜力。
  • ChatGPT支持:支持ChatGPT模型,并计划在未来添加OpenAI的其他模型。
  • LLaMa支持:提供与LLaMa模型的无缝集成,使您可以使用Facebook的研究模型进行自然语言理解和生成任务。
  • Alpaca支持:包含对斯坦福的Alpaca模型的支持,扩大了可用于高级AI应用的可用语言模型的范围。
  • 工具:通过使AI代理能够访问各种工具(例如运行Bash命令、执行Python脚本或执行网络搜索)来增强其功能,从而实现更复杂和强大的交互。
  • 可扩展性:考虑到可扩展性而设计,这使得随着生态系统的增长轻松集成额外的LLM。
  • 社区驱动:我们欢迎并鼓励社区贡献,以帮助改进和扩展 ai-chain 的功能。

入门 🚀

要开始使用 ai-chain,请在您的 Cargo.toml 文件中将其添加为依赖项。

cargo add ai-chain ai-chain-openai

ai-chain-openai 的示例需要您设置 OPENAI_API_KEY 环境变量,您可以通过以下方式完成

export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"

然后,参考文档示例来学习如何创建提示模板、链等。

贡献 🤝

我们热烈欢迎每个人的贡献!如果您想帮助改进 ai-chain,请查看我们的 CONTRIBUTING.md 文件,了解指导方针和最佳实践。

许可证 📄

ai-chain 采用 MIT 许可证

联系我们 🌐

如果您有任何问题、建议或反馈,请随时提出问题或加入我们的 社区 Discord。我们总是很高兴听到用户关于 ai-chain 的体验。

我们希望您喜欢使用 ai-chain 来释放您项目中大语言模型的全部潜力。快乐的编码!🎉

依赖项

~19–34MB
~552K SLoC