#llm-chain #language-model #llm #ChatGPT #chain #langchain

llm-chain-openai

一个实现OpenAI模型中llm-chains的库。链可以用来将模型系列应用于完成复杂任务,例如文本摘要。

26个版本 (9个破坏性版本)

0.13.0 2023年11月15日
0.12.3 2023年6月27日
0.12.0 2023年5月31日
0.1.1-rc.12023年3月25日

#399 in 科学

Download history 104/week @ 2024-03-13 115/week @ 2024-03-20 124/week @ 2024-03-27 176/week @ 2024-04-03 181/week @ 2024-04-10 88/week @ 2024-04-17 99/week @ 2024-04-24 103/week @ 2024-05-01 150/week @ 2024-05-08 151/week @ 2024-05-15 215/week @ 2024-05-22 126/week @ 2024-05-29 106/week @ 2024-06-05 148/week @ 2024-06-12 144/week @ 2024-06-19 58/week @ 2024-06-26

每月477次下载
rustchain_discord_bot 中使用

MIT 许可证

235KB
4.5K SLoC

llm-chain 🚀

llm-chain 是一系列Rust包的集合,旨在帮助您创建高级LLM应用,如聊天机器人、代理等。作为一个综合性的LLM-Ops平台,我们支持云和本地部署的LLM。我们还提供强大的提示模板和多步链中提示的集成支持,使LLM能够逐步执行更复杂的任务。我们还提供向量存储集成,使模型能够拥有长期记忆和专业知识。这使您能够构建复杂的应用。

Discord Crates.io License Docs: Tutorial

示例 💡

为了帮助您入门,这里有一个演示如何使用 llm-chain 的示例。您可以在存储库中的 示例文件夹 中找到更多示例。

let exec = executor!()?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

➡️ 教程:开始使用llm-chain ➡️ 快速开始:根据我们的模板创建项目

功能 🌟

  • 提示模板:创建可重复使用且易于定制的提示模板,以实现与LLM的一致性和结构化交互。
  • :构建强大的提示链,允许您逐步执行更复杂的任务,充分利用LLM的潜力。
  • ChatGPT支持:支持ChatGPT模型,并计划在未来添加OpenAI的其他模型。
  • LLaMa支持:提供与LLaMa模型的无缝集成,使您能够使用Facebook的研究模型执行自然语言理解和生成任务。
  • Alpaca支持:包含对斯坦福Alpaca模型的支持,扩展了可用于高级AI应用的可用语言模型的范围。
  • llm.rs 支持:使用我们的 llm.rs 支持在Rust中使用llms,无需依赖C++代码。
  • 工具:通过让AI代理访问各种工具(如运行Bash命令、执行Python脚本或进行网络搜索)来增强其功能,使其能够进行更复杂和强大的交互。
  • 可扩展性:考虑到可扩展性,随着生态系统的增长,轻松集成额外的LLM。
  • 社区驱动:我们欢迎并鼓励社区贡献,以帮助改进和扩展llm-chain的功能。

开始使用 🚀

要开始使用llm-chain,将其作为依赖项添加到您的Cargo.toml中(您需要Rust 1.65.0或更高版本)

[dependencies]
llm-chain = "0.12.0"
llm-chain-openai = "0.12.0"

llm-chain-openai的示例需要您设置OPENAI_API_KEY环境变量,您可以这样做:

export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"

然后,参考文档示例,了解如何创建提示模板、链等。

贡献 🤝

我们热烈欢迎来自每个人的贡献!如果您有兴趣帮助改进llm-chain,请查看我们的CONTRIBUTING.md文件,了解指南和最佳实践。

许可证 📄

llm-chainMIT许可证下授权。

联系我们 🌐

如果您有任何问题、建议或反馈,请随时打开一个问题或加入我们的社区Discord。我们总是很高兴听到用户关于llm-chain的使用体验。

我们希望您喜欢使用llm-chain来释放您项目中大型语言模型的全部潜力。祝您编码愉快!🎉

依赖项

~27–42MB
~546K SLoC