#llm-chain #language-model #llm #ChatGPT #chain #langchain

llm-chain-tools

为大型语言模型(LLM)提供工具(也称为“操作”)的库,使它们能够触发

5 个版本

0.4.0 2023年4月12日
0.1.4 2023年4月9日
0.1.3 2023年4月9日
0.1.2 2023年4月9日
0.1.1 2023年4月7日

#834机器学习

Download history 33/week @ 2024-04-01

每月58次 下载

MIT 许可证

215KB
4K SLoC

llm-chain-tools 🛠️

llm-chain-toolsllm-chain crate 的扩展,提供了一系列工具,可以让大型语言模型(LLM)访问各种实用程序,例如在您的计算机上运行 Bash 命令或执行网络搜索。

示例 💡

为了帮助您开始使用,这里有一个示例演示了如何使用 llm-chain-toolsllm-chain。您可以在仓库的 示例文件夹 中找到更多示例。

use llm_chain::Parameters;
use llm_chain_tools::create_tool_prompt_segment;
use llm_chain_tools::tools::BashTool;
use llm_chain_tools::ToolCollection;
use std::boxed::Box;
// A simple example generating a prompt with some tools.

fn main() {
    let tool_collection = ToolCollection::new(vec![Box::new(BashTool::new())]);
    let prompt =
        create_tool_prompt_segment(&tool_collection, "Please perform the following task: {}");
    println!(
        "{}",
        prompt.format(&Parameters::new_with_text(
            "Find the file GOAL.txt and tell me its content."
        ))
    );
}

功能 🌟

  • 工具管理:轻松创建并集成一组工具,供 LLM 执行各种任务。
  • 提示集成:无缝将工具描述集成到 LLM 提示中,以实现更有效的交互。
  • 预定义工具:提供各种预定义工具的子模块,用于常见任务,可直接使用。
  • 可扩展性:设计时考虑了可扩展性,便于根据需要集成更多工具。

入门 🚀

要开始使用 llm-chain-tools,请将其添加到您的 Cargo.toml 依赖项中

[dependencies]
llm-chain = "0.1.0"
llm-chain-openai = "0.1.0"
llm-chain-tools = "0.1.0"

然后,参考文档和示例学习如何创建和管理工具、将它们集成到提示中等等。

依赖项

~5–7MB
~132K SLoC