Lib.rs

› 科学 › 机器学习
#llama #cpp #cpp-bindings #cuda #low #level

sys llama-cpp-sys-2

对 llama.cpp 的低级别绑定

由 MarcusDunn，Sepehr 及 25 位贡献者 创建

64个版本

新版本 0.1.68 2024年8月23日
0.1.64 2024年7月26日
0.1.45 2024年3月27日

567 在 机器学习 中排名

Download history • Rust 包仓库 86/week @ 2024-05-03 • Rust 包仓库 33/week @ 2024-05-10 • Rust 包仓库 20/week @ 2024-05-17 • Rust 包仓库 200/week @ 2024-05-24 • Rust 包仓库 278/week @ 2024-05-31 • Rust 包仓库 295/week @ 2024-06-07 • Rust 包仓库 544/week @ 2024-06-14 • Rust 包仓库 150/week @ 2024-06-21 • Rust 包仓库 341/week @ 2024-06-28 • Rust 包仓库 262/week @ 2024-07-05 • Rust 包仓库 45/week @ 2024-07-12 • Rust 包仓库 22/week @ 2024-07-19 • Rust 包仓库 183/week @ 2024-07-26 • Rust 包仓库 32/week @ 2024-08-02 • Rust 包仓库 255/week @ 2024-08-09 • Rust 包仓库 178/week @ 2024-08-16 • Rust 包仓库

每月下载 652 次
在 5 个crate中使用（通过 llama-cpp-2）

MIT/Apache

3.5MB
75K SLoC

C 33K SLoC // 0.1% comments • Rust 包仓库 C++ 26K SLoC // 0.1% comments • Rust 包仓库 CUDA 7.5K SLoC // 0.0% comments • Rust 包仓库 Metal Shading Language 5K SLoC // 0.0% comments • Rust 包仓库 Objective-C 2.5K SLoC // 0.0% comments • Rust 包仓库 Rust 1K SLoC // 0.0% comments • Rust 包仓库 Python 41 SLoC // 0.3% comments • Rust 包仓库

llama-cpp-sys

带有cuda支持的 llama.cpp 原生绑定。

请参阅 llama-cpp-2 以获取安全的API。

lib.rs:

请参阅 llama-cpp-2 以获取文档化和安全的API。

依赖项

~0–2MB
~40K SLoC