Rig

Rig 是一个 Rust 库，用于构建 LLM 驱动的应用，专注于人体工程学和模块化。

有关此包的更多信息，请参阅包文档。

目录

• 高级功能
• 安装
• 简单示例
• 集成

高级功能

• 全面支持 LLM 完成和嵌入工作流程
• 简单但强大的 LLM 提供程序（例如 OpenAI、Cohere）和矢量存储（例如 MongoDB、内存）的通用抽象
• 以最小化的样板代码将 LLM 集成到您的应用中

安装

cargo add rig-core

简单示例

use rig::{completion::Prompt, providers::openai};

#[tokio::main]
async fn main() {
    // Create OpenAI client and model
    // This requires the `OPENAI_API_KEY` environment variable to be set.
    let openai_client = openai::Client::from_env();

    let gpt4 = openai_client.model("gpt-4").build();

    // Prompt the model and print its response
    let response = gpt4
        .prompt("Who are you?")
        .await
        .expect("Failed to prompt GPT-4");

    println!("GPT-4: {response}");
}

注意使用 #[tokio::main] 需要您启用 tokio 的 宏 和 rt-multi-thread 功能或只需 全部 以启用所有功能 (cargo add tokio --features macros,rt-multi-thread).

集成

Rig 原生支持以下 LLM 提供程序

• OpenAI
• Cohere

此外，Rig 目前有以下集成子库

• MongoDB 矢量存储： rig-mongodb