Lib.rs

› 关键词 #llm #language-model #inference #ecosystem #llama #ml

#ggml

ggml-sys-bleedingedge

Bleeding edge 低级绑定到 GGML

v2404291813.0.0+llamacpp-release.b2757 39K #ggml #机器学习 #张量 #深度学习 #ml #api-bindings
llm

受 llama.cpp 启发的运行大型语言模型推理的库生态系统

v0.1.1 200 #language-model #llama #ggml #inference #ai #running #ecosystem
llm-neox

为 llm 生态系统提供的 GPT-NeoX

v0.1.1 210 #language-model #llm #ecosystem #inference #ggml #artificial-intelligence #gpt-neo-x
ggus

GGUF in Rust🦀

v0.2.0 180 #gguf #ggml #llama-cpp
llm-base

是 llm 的基础；为模型实现提供通用结构。不建议最终用户使用。

v0.1.1 270 #model #llm #ggml #language-model #ml-model #inference #llama
ggblas

在简单的纯 Rust 多线程 BLAS 类接口中进行矩阵乘法。利用可用目标的内建功能

v0.1.2 #neon #avx #blas #ggml #ml
llm-gptj

为 llm 生态系统提供的 GPT-J

v0.1.1 190 #language-model #llm #ecosystem #inference #gpt-j #ggml #running
llm-llama

为 llm 生态系统提供的 LLaMA (Large Language Model Meta AI)

v0.1.1 220 #language-model #llama #llm #ggml #artificial-intelligence #inference #ecosystem
ai-chain-milvus

Milvus 矢量存储的驱动程序

v0.14.2 #llm #chain #ggml #langchain
rusty-ggml

GGML 库的惯用绑定（预 alpha 版）

v0.0.8 #ggml #深度学习 #机器学习 #张量 #ml
llm-cli

支持大型语言模型的推理命令行界面。由 llm 库提供支持。

v0.1.1 170 #language-model #llm #llama #inference #ggml #running #artificial-intelligence
ggml

ggml 库的半语法化 Rust 绑定（来自 ggml-sys）

v0.1.1 270 #language-model #artificial-intelligence #bindings #graph #wrapper #interface #llm
ai-chain-macros

与 ai-chain 一起使用的宏集合

v0.14.2 #llm #chain #ggml #langchain
ggml-sys

ggml 库的原始绑定（即 bindgen 输出）。

v0.1.1 280 #ggml #bindings #ml #llm #ai #models #output
llm-chain-local

使用 llm-chain 与本地的 llm 后端

v0.12.3 #llm-chain #llm #langchain #chain #ggml
llm-chain-macros

与 llm-chain 一起使用的宏集合

v0.13.0 #llm-chain #llm #langchain #chain #ggml

尝试使用 DuckDuckGo 进行搜索。