#generative-ai #language-model #ai #llm #generative #agent #nlp

ai-agents

一个利用大型语言模型(LLMs)能力构建和管理生成式AI代理的Rust库

5个版本

0.2.3 2024年4月18日
0.2.2 2024年4月16日
0.2.1 2024年4月1日
0.1.4 2024年3月15日
0.1.3 2024年3月15日

#220 in Machine learning

MIT许可

42KB
994 代码行(不含注释)

ai-agents

本仓库是一个Rust库,旨在构建和管理生成式AI代理,利用大型语言模型(LLMs)如ChatGPT的能力,旨在提供强大且可扩展的框架,适用于各种场景。

ai-agents处于开发阶段的非常早期。

功能

  • 结构化数据流:利用PipelineNet在处理单元之间实现有序和高效的数据流,使复杂数据转换和决策能力成为可能。
  • 灵活架构:在PipelineNet中利用动态流控制以适应AI代理的行为。
  • 可扩展性:通过自定义单元实现轻松扩展核心功能。
  • 上下文分组:将单元组织成连贯的组以实现专注的执行,简化任务管理并提高处理清晰度。
  • 异步支持

软件包

  • ai-agent-macro
  • sllm-rs:一个用于与大型语言模型(LLMs)交互的软件包,包括发送请求和处理响应的实用工具。

示例

以下示例是特定情况的模拟,演示了ai-agents在特定场景中的应用

运行示例

要运行示例,您需要设置一个环境变量OPEN_API_KEY,其中包含您的API密钥。这可以通过在项目的根目录中创建一个.env文件来完成。

OPEN_API_KEY=your_api_key_here
  • 寻宝:一个游戏模拟,玩家的目标是通过与NPC互动在动态生成的场景中找到宝藏。

  • 电子商务聊天助手:一个有限的模拟代理,根据客户输入(如姓名和订单ID)解释订单的当前状态。

依赖项

~11–23MB
~349K SLoC