-
aichat
一站式AI CLI工具
-
oatmeal
终端UI,用于使用不同的模型后端与大型语言模型(LLM)聊天,并直接集成您喜欢的编辑器!
-
langchain-rust
LangChain for Rust,Rust中编写基于LLM程序的最简单方式
-
nerve-ai
Nerve是一个工具,允许您使用任何选择的LLM创建具有状态的智能代理,无需编写任何代码。该工具为模型提供了一系列功能框架用于规划...
-
llmvm-core
llmvm的核心应用程序
-
shellchat
将自然语言转换为可执行或解释的shell命令
-
swiftide-integrations
专为AI应用程序设计的快速流式处理管道库
-
archiver
使用langchain-rust实现的RAG
-
swiftide-indexing
专为AI应用程序设计的快速流式处理管道库
-
swiftide
专为AI应用程序设计的快速流式处理管道库
-
dify-openai-apis
Dify平台服务的OpenAI兼容API
-
swiftide-query
专为AI应用程序设计的快速流式处理管道库
-
wasmedge-wasi-nn
为wasi-nn提供高级Rust绑定,具有LLM扩展
-
kalosm
预训练AI模型接口
-
ollama-inquire
从终端查询Ollama上发现的任何LLM!
-
ask-ollama
从终端查询Ollama上发现的任何LLM!
-
repocat
为LLM推理上下文连接github仓库中的所有代码和文本文件
-
llama-cpp-2
为Rust提供的llama.cpp绑定
-
aleph-alpha-client
在Rust代码中与Aleph Alpha API提供的大型语言模型交互
-
code2prompt
一个命令行(CLI)工具,可以从任何大小的代码库中快速生成LLM提示
-
cai
提示LLMs最快的CLI工具
-
llm-chain
串联运行LLMs(如ChatGPT)以完成复杂任务,例如文本摘要
-
mistralai-client
Mistral AI API 客户端库,用于 Rust(非官方版本)
-
llm
受 llama.cpp 启发的大语言模型推理库生态系统
-
anthropic-sdk
Anthropic Rust SDK
-
musicgpt
使用本地运行的大语言模型(LLM)根据自然语言提示生成音乐
-
llm-bridge
用于通过通用接口与各种大型语言模型(LLM)API交互的 SDK
-
promptbox
用于管理和执行 LLM 提示模板的 CLI 工具
-
llm_utils
LLM 的瑞士军刀:无链 - 仅工具
-
babel-bridge
用于通过通用接口与各种大型语言模型(LLM)API交互的 SDK
-
ct2rs
OpenNMT/CTranslate2 的 Rust 绑定
-
tenere
用 Rust 编写的 LLM 的 TUI 接口
-
kalosm-language
一组预训练的语言模型
-
endpoints
OpenAI 兼容端点的数据结构集合
-
mistral-rouille
Mistral Rouille 是从 Mistral 官方 OpenAPI 规范定制而来的 Rust crate。该 crate 提供了一个便捷且类型安全的接口,用于与 Mistral API 交互...
-
espionox
在 Rust 中创建多智能体工作流
-
acm-cli
一个简单易用的 AI 驱动的 CLI 工具,可轻松编写有意义的 Git 提交信息
-
llmvm-codeassist
一个由 LLM 驱动的代码助手,可自动从语言服务器协议服务器检索上下文(即类型定义)。
-
ai-chain
串联运行LLMs(如ChatGPT)以完成复杂任务,例如文本摘要
-
kalosm-sample
一个用于标记采样和结构化 LLM 采样的通用接口
-
groq-api-rust
与 Groq API 交互的能力
-
llm_api_access
一个用于查询流行 LLM 的包
-
callm
直接在您的硬件上运行生成式 AI 模型
-
llmvm-protocol
包含 llmvm 的协议/通信元素
-
llm-api-adapter
用于通过通用接口与各种大型语言模型(LLM)API交互的 SDK
-
claude_cli
Rust终端交互Anthropic语言模型(Claude)的CLI
-
anchor-chain
用于构建基于LLM应用程序的静态类型异步框架
-
cargo-context-ranger
快速获取Rust上下文,以构建帮助构建LLM提示的提示
-
orch
语言模型编排库
-
ai-chain-openai-compatible
为OpenAI的模型实现ai-chains。链可用于将模型系列应用于完成复杂任务,如文本摘要。
-
groq-api-rs
Groq云LLM API的客户端
-
pllm
可移植LLM
-
rig-core
用于构建LLM驱动应用程序的具有见解的库
-
llm_client
LLMs:结构化文本、决策、分类和基准。一个用户友好的界面,一次编写,在任何本地或API模型上运行。
-
ai-chain-openai
为OpenAI的模型实现ai-chains。链可用于将模型系列应用于完成复杂任务,如文本摘要。
-
llmvm-outsource
一个llmvm后端,将文本和聊天生成请求发送到已知的托管语言模型提供商
-
kalosm-language-model
语言模型/转换器的通用接口
-
fem-cli
一个命令行工具,通过LLM运行英语作为shell脚本
-
qdrant_rest_client
WebAssembly Qdrant SDK
-
chronicle-api
将Chronicle LLM代理打包为API
-
ai-chain-moonshot
实现适用于Moonshot OpenAI模型的ai-chains。链可用于将模型系列应用于完成复杂任务,如文本摘要。
-
palm_api
Google大型语言模型PaLM API的客户端库
-
ai-chain-qdrant
用于与ai-chain一起使用Qdrant
-
ai-chain-glm
实现适用于Moonshot OpenAI模型的ai-chains。链可用于将模型系列应用于完成复杂任务,如文本摘要。
-
llm-neox
为llm生态系统提供GPT-NeoX
-
ai00-core
在纯WebGPU中实现的RWKV语言模型
-
llm-daemon
作为守护进程的LLM
-
ai-agents
用于构建和管理生成式AI代理,利用大型语言模型(LLM)的功能
-
conva_ai
Rust SDK用于使用CONVA AI Copilots
-
cunw
一个生成表示目录结构和内容的文件的微小工具。旨在轻松为LLM提供上下文。
-
tuigents
针对使用本地知识库、工具和API请求本地运行、管理和监控AI代理的TUI界面。专注于使用本地运行和开放的模型...
-
chronicle-proxy
LLM提供商抽象和日志记录
-
orch_response
orch Executor 响应的模型
-
instructor-ai
允许用户进行验证的结构化输出
-
transprompt
以提示为中心的框架,用于在 Rust 中开发 LLM 应用程序
-
pax-generation
使用 LLM 生成 Pax 的工具
-
llm-weaver
管理与任何 LLM 的长对话
-
llm-base
llm
的基础;为模型实现提供通用结构。不推荐最终用户使用。 -
rbert
Bert 嵌入的接口
-
gguf-rs
GGUF 文件解析器
-
kalosm-llama
Llama 模型的接口
-
dify-client
Dify API 的客户端
-
glide-rs
最小 EinStack 客户端
-
rphi
Phi 模型的接口
-
cogni
LLM 的 Unix 原生接口
-
sllm-rs
适用于集成和交互各种类似GPT的API
-
llmservice-flows
flows.network的LLM服务集成
-
ai-chain-qwen
实现适用于Moonshot OpenAI模型的ai-chains。链可用于将模型系列应用于完成复杂任务,如文本摘要。
-
llm-sdk
适用于OpenAI兼容API的SDK
-
rs-llama-cpp
为LLaMA.cpp生成自动Rust绑定的工具
-
llm-bloom
BLOOM(大型科学开放科学开放获取多语言语言模型)适用于llm生态系统
-
smartgpt
为LLM提供使用插件完成复杂任务的能力
-
llm-chain-openai
为OpenAI模型实现
llm-chains
。链可用于将模型系列应用于完成复杂任务,例如文本摘要。 -
psource
CLI工具,将源代码格式化输出到stdout或直接复制到剪贴板
-
llm-gpt2
llm生态系统的GPT-2
-
llm-gptj
llm生态系统的GPT-J
-
tokengeex
基于UnigramLM和TokenMonster的高效代码分词器
-
web-rwkv-converter
将RWKV PTH模型转换为SafeTensors
-
cloudllm
在不同平台之间连接应用程序和远程LLM
-
llm-llama
为llm生态系统提供LLaMA(大型语言模型Meta AI)
-
pantry-rs
Rust API,用于与https://github.com/JuliaMerz/pantry中的pantry项目交互
-
coze
一个egui应用程序,用于与本地开源LLM进行交互
-
ai-chain-milvus
Milvus向量存储的驱动程序
-
llmchain
受LangChain启发的用于大型语言模型的框架
-
gitory-cli
基于你的git历史为你的项目构建一个故事
-
mechanise
A,希望是Rusty包装的Anthropic REST API,用于Anthropic的
claude
和可能有一天其他人…注意:此API部分由Anthropic的Sonnet模型创建 -
tyrell
更接近人类。以Rusty的方式与LLM交互。
-
jemini
正在进行中!(但功能最简单)_希望_是Rusty包装的Gemini REST API:https://ai.google.dev/tutorials/rest_quickstart?hl=en 注意:此API的主题和…
-
openai-magic-instantiate
使用大型语言模型实例化类型安全的值
-
llm-chain-llama
为LLamA实现
llm-chains
。链可用于将模型系列应用于完成复杂任务,例如代理。 -
shai
一个shell人工智能助手
-
asimov
构建高性能由大型语言模型驱动的应用程序
-
auto-rust
在编译时使用大型语言模型自动生成Rust代码
-
functions_ai
为LLMs实现的函数到字符串的转换
-
llmvm-core-lib
llmvm核心应用程序
-
llm-chain-qdrant
用于与llm-chain一起使用Qdrant
-
llmvm-chat
作为CLI聊天界面的llmvm前端
-
pick_action_from_image
从图像中选择一个动作
-
llmvm-outsource-lib
llmvm的后端外包
-
llm-cli
一个CLI,用于在支持的大型语言模型上运行推理。由
llm
库提供支持。 -
llm-rs
命令行界面,用于利用大型语言模型
-
oxidized-transformers
Transformers 库(尚不可用)
-
llm-chain-tools
为大型语言模型提供工具(也称为'操作'),它们可以触发
-
ggml
ggml 库的半语法 Rust 绑定(来自
ggml-sys
) -
llm-chain-hnsw
用于与 llm-chain 一起使用 hnsw
-
gpt4
用于与 openai gpt4 api 交互的命令行界面
-
chat-templates
用于提示 LLM 的聊天模板解析器/生成器
-
lucien
用于与 Lucid 模式中的 LLM 一起工作的日志记录代理
-
orphic
用于 *nix 系统的自然语言接口。(由 ChatGPT 驱动)
-
senior
一个命令行界面,可以召唤 llm 对给定的代码提出改进建议
-
gptui
OpenAI Chat Completions 的 TUI 接口
-
ai-chain-macros
一组用于 ai-chain 的宏
-
bonitox
解析 Bonito LLM 的输入/输出
-
ggml-sys
ggml 库的原始绑定(即 bindgen 输出)。
-
swiftide-core
专为AI应用程序设计的快速流式处理管道库
-
llm-chain-local
使用本地的
llm
后端与llm-chain
一起使用 -
llm-chain-llama-sys
基于 bindgen 的 LLaMA.cpp 的绑定
-
kai-rs
通过 KoboldAI 使用大型语言模型
-
aleph-alpha-api
在Rust代码中与Aleph Alpha API提供的大型语言模型交互
-
llm-chain-macros
用于 llm-chain 的宏集合
-
llm-chain-mock
使用模拟后端与
llm-chain
一起使用。用于测试。 -
swiftide-macros
专为AI应用程序设计的快速流式处理管道库
-
llm-chain-milvus
Milvus向量存储的驱动程序
-
quicktok
LLM 标记化使用的 Byte Pair Encoding (BPE) 的最小化、快速、多线程实现
-
prompt_def
解析定义为提示模式格式的提示,请参阅 https://github.com/prompt-native/prompt-schema
-
iwt
使用 OpenAI GPT API LLM 将管道数据转换为“我想要……”(I Wish To…)
-
llm-minify
将文件粘贴到 LLM 时缩小文件
-
augre
一个由 LLM(CodeLlama 或 OpenAI)驱动的本地差异代码审查工具
-
langchain_rs
Langchain 的 Rust 版本
-
ai-cli
一款用于所有 AI 功能的 CLI 工具(生成图像或音频,与 LLM 交流等)
-
rmistral
Mistral 模型的接口
-
llm-chain-sagemaker-endpoint
使用
llm-chain
与 SageMaker Endpoint 后端 -
ai-ripgrep
帮助用户使用 AI 来使用 ripgrep
-
autogpt
🦀 用于构建 AGI 的纯 Rust 框架
-
orch_response_derive
为 orch Executor 响应提供宏定义
-
lemon-llm
lemon-graph 的 LLM 节点
-
chronologer
用于 LLM 训练、调优和推理过程的指标 chronologer
-
llm-lsp
LLM 的 LSP
-
openai-magic-instantiate-derive
为
openai-magic-instantiate crate
提供宏定义
尝试使用 DuckDuckGo 进行搜索。[https://duckduckgo.com/?q=site%3Alib.rs+llm](https://duckduckgo.com/?q=site%3Alib.rs+llm)