#llm #ChatGPT #chain #langchain

ai-chain-moonshot

这是一个实现用于OpenAI moonshot模型的ai-chains的库。链可以用于将模型系列应用于完成复杂任务,如文本摘要。

3个版本

0.14.2 2024年5月22日
0.14.1 2024年5月21日
0.14.0 2024年5月19日

#154 in 科学

Download history 424/week @ 2024-05-18 22/week @ 2024-05-25 9/week @ 2024-06-01 7/week @ 2024-06-08 2/week @ 2024-06-15 52/week @ 2024-07-27

每月52次下载

MIT许可证

285KB
5K SLoC

ai-chain 🚀

ai-chain是llm-chain的分支,增加了扩展

ai-chain是一组Rust crate,旨在帮助您创建高级LLM应用程序,如聊天机器人、代理等。作为一个全面的LLM-Ops平台,我们为云和本地托管的LLM提供了强大的支持。我们还提供了强大的提示模板和多步骤链中提示的组合支持,使LLM能够执行单步无法处理的复杂任务。我们还提供了矢量存储集成,使您的模型能够拥有长期记忆和专业知识。这使您能够构建复杂的应用程序。

路线图

变更日志 2024-05-22 0.14.4

  • 修复ai-chain executor costume错误
  • 添加qwen模型支持
  • 其他错误修复

变更日志 2024-05-21 0.14.3

  • 改进与openai兼容的api
  • 添加glm llm
  • 升级moonshot llm

示例 💡

为了帮助您开始,这里有一个如何使用ai-chain的示例。您可以在存储库的示例文件夹中找到更多示例。

let exec = executor!()?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

➡️ 教程:开始使用ai-chain ➡️ 快速入门:根据我们的模板创建项目

特性 🌟

  • 提示模板:创建可重用和易于定制的提示模板,以实现与LLM的一致和结构化交互。
  • :构建强大的提示链,允许您逐步执行更复杂的任务,充分发挥LLM的潜力。
  • ChatGPT支持:支持ChatGPT模型,并计划在未来添加OpenAI的其他模型。
  • LLaMa支持:提供与LLaMa模型的无缝集成,使您能够使用Facebook的研究模型执行自然语言理解和生成任务。
  • Alpaca支持:纳入对斯坦福大学Alpaca模型的支持,扩大了可用于高级AI应用的可用语言模型的范围。
  • llm.rs支持:使用我们的对llm.rs的支持,在Rust中使用llms而无需依赖C++代码。
  • 工具:通过提供各种工具(如运行Bash命令、执行Python脚本或执行网络搜索)来增强您的AI代理的能力,使它们能够进行更复杂和强大的交互。
  • 可扩展性:设计时考虑了可扩展性,使随着生态系统的增长轻松集成额外的LLM。
  • 社区驱动:我们欢迎并鼓励社区贡献以帮助改进和扩展ai-chain的功能。

入门 🚀

要开始使用ai-chain,请在您的Cargo.toml文件中将其添加为依赖项(您需要Rust 1.65.0或更高版本)

ai-chain-openai

  • cargo dependencies
[dependencies]
ai-chain = "0.14.2"
ai-chain-openai = "0.14.2"
  • 编码
env::set_var("OPENAI_API_KEY", "sk-7LVW4lfKX3ZL01Iwuz8H0oZsUaLsEuO7ri9bfRKV36NrTE1A");
let exec = executor!()?;
let res = prompt!(
"You are a robot assistant for making personalized greetings",
"Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

ai-chain-moonshot

  • cargo dependencies
[dependencies]
ai-chain = "0.14.2"
ai-chain-moonshot = "0.14.2"
  • 编码
env::set_var("OPENAI_API_KEY", "sk-7LVW4lfKX3ZL01Iwuz8H0oZsUaLsEuO7ri9bfRKV36NrTE1A");
let exec = executor!(mooonshot)?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

ai-chain-glm

  • cargo dependencies
[dependencies]
ai-chain = "0.14.2"
ai-chain-glm = "0.14.2"
  • 编码
env::set_var("OPENAI_API_KEY", "sk-7LVW4lfKX3ZL01Iwuz8H0oZsUaLsEuO7ri9bfRKV36NrTE1A");
let exec = executor!(glm)?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

ai-chain-qwen

  • cargo dependencies
[dependencies]
ai-chain = "0.14.2"
ai-chain-qwen = "0.14.2"
  • 编码
env::set_var("OPENAI_API_KEY", "sk-7LVW4lfKX3ZL01Iwuz8H0oZsUaLsEuO7ri9bfRKV36NrTE1A");
let exec = executor!(qwen)?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

The examples for `ai-chain-openai` or `ai-chain-moonshot` or others llms require you to set the `OPENAI_API_KEY` environment variable which you can do like this:

```bash
export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"
  • 支持定制LLM
env::set_var("OPENAI_API_KEY", "sk-7LVW4lfKX3ZL01Iwuz8H0oZsUaLsEuO7ri9bfRKV36NrTE1A");
let exec = executor!(costume,ai_chain_qwen)?;
let res = prompt!(
    "You are a robot assistant for making personalized greetings",
    "Make a personalized greeting for Joe"
)
.run(parameters()!, &exec)
.await?;
println!("{}", res);

The examples for `ai-chain-openai` or `ai-chain-moonshot` or others llms require you to set the `OPENAI_API_KEY` environment variable which you can do like this:

```bash
export OPENAI_API_KEY="sk-YOUR_OPEN_AI_KEY_HERE"

贡献 🤝

我们热烈欢迎来自每个人的贡献!如果您有兴趣帮助改进ai-chain,请查阅我们的CONTRIBUTING.md文件以获取指南和最佳实践。

许可 📄

ai-chainMIT许可

联系我们 🌐

依赖项

~31–45MB
~606K SLoC