Lib.rs

› 关键词 #llm #language-model #cpp-bindings #inference #cpp #nlp #ai #mistral

#llama

认识论

以私有HTTP API方式托管llama.cpp的清晰方式

v0.6.0 2.4K #http-api #llama #web-server #local-server #completion #cpp #embedding
kalosm

预训练AI模型接口

v0.3.2 390 #nlp #whisper #text-generation #llm #llama #language-model #ocr
llama-cpp-2

Rust的llama.cpp绑定

v0.1.68 650 #cpp-bindings #llama #llm #llama-cpp #safe
llama_cpp

对llama.cpp的高级绑定，重点是极其简单易用

v0.3.2 390 #nlp #whisper #text-generation #llm #llama #language-model #ocr
llama-cpp-2

Rust的llama.cpp绑定

v0.1.68 650 #cpp-bindings #llama #llm #llama-cpp #safe
llama_cpp

对llama.cpp的高级绑定，重点是极其简单易用

v0.3.2 390 #nlp #whisper #text-generation #llm #llama #language-model #ocr
llama-cpp-2

Rust的llama.cpp绑定

v0.1.68 650 #cpp-bindings #llama #llm #llama-cpp #safe
llama_cpp

对llama.cpp的高级绑定，重点是极其简单易用

v0.3.2 390 #nlp #whisper #text-generation #llm #llama #language-model #ocr
llama-cpp-2

Rust的llama.cpp绑定

v0.1.68 650 #cpp-bindings #llama #llm #llama-cpp #safe
llama_cpp

语言模型/变换器通用的接口

v0.3.2 500 #language-model #nlp #llm #ai #llama #mistral
llama-core

LlamaEdge的核心库

v0.15.0 500 #chat-bot #llama #applications #api #rag #models #build
localllm

由llama.cpp实现的qwen2模型库

v0.2.0 240 #model #llama #api-bindings #lib #cpp #qwen2
rllama

LLaMA系列模型的纯Rust实现，可执行文件

v0.3.0 110 #opencl #llama #language-model #machine-learning #pure #cpu #cpu-gpu
kalosm-llama

LLaMA模型接口

v0.3.3 420 #nlp #language-model #llama #llm #mistral #agents #artificial-intelligence
llm-base

llm的基础；为模型实现提供通用结构。不建议最终用户使用。

v0.1.1 270 #model #llm #ggml #language-model #ml-model #inference #llama
gguf-rs

GGUF文件解析器

v0.1.3 #gguf #llm #gpt #llama #parser #artificial-intelligence #binary-file
rs-llama-cpp

为LLaMA.cpp自动生成Rust绑定

v0.1.67 500 #llama #bindings #cpp-bindings #llm #llama-cpp
llm-bloom

BLOOM（BigScience Large Open-science Open-access Multilingual Language Model）为llm生态系统

v0.1.1 210 #language-model #multilingual #llm #llama #inference #ecosystem #bloom
llm-gpt2

为llm生态系统提供的GPT-2

v0.1.1 210 #language-model #llm #gpt-2 #inference #llama #ecosystem #running
llm-llama

LLaMA（Large Language Model Meta AI）为llm生态系统

v0.1.1 220 #language-model #llama #llm #ggml #artificial-intelligence #inference #ecosystem
llama_cpp_sys

自动生成的llama.cpp的C API绑定

v0.3.2 190 #cpp-bindings #language-model #llama #generated-bindings #api-bindings #high-level #automatic
llama-cpp-sys-2

对llama.cpp的底层绑定

v0.1.68 650 #llama #cpp #cpp-bindings #cuda #low #level
apimyllama

与APIMyLlama API交互

v2.0.7 #ai #llama #ai-api #api-bindings #api
llm-chain-llama

为LLamA实现llm-chains。链可以被用来将模型系列应用于完成复杂任务，如智能体。

v0.13.0 #llm-chain #language-model #llama #chain #llm #langchain
llm-cli

一个用于在支持的大型语言模型上运行推理的命令行界面。由llm库提供支持。

v0.1.1 170 #language-model #llm #llama #inference #ggml #running #artificial-intelligence
oxidized-transformers

Transformers库（尚未启用功能）

v0.1.1 #transformer #bert #llama #llm #roberta #functional
llama-cpp-sys-3

llama.cpp绑定

v0.5.10 #cpp-bindings #llama #api #build
llama_cpp_rs

LLAMA.CPP推理的Rust绑定

v0.3.0 #machine-learning #cpp-bindings #llama #inference #llama-cpp #api-bindings
thalamus

适用于linux/mac/unix的深度学习网格节点服务器平台

v0.0.11 #deep-learning #platform #node #mesh #server #llama #whisper
llama2_rs

llama2.c的移植

v0.1.1 #inference #port #llama2 #multi-threading #faster #llama
llm-chain-llama-sys

基于bindgen的LLaMA.cpp绑定

v0.13.0 #llm-chain #llama #llm #langchain #chain #cpp-bindings
llama

友好的LLVM绑定

v0.14.2 #llvm #jit #jit-compiler #compiler

尝试使用DuckDuckGo搜索搜索。