Lib.rs

›

#llama #cpp #cpp-bindings #cuda #low #level

sys llama-cpp-sys-2

对 llama.cpp 的低级别绑定

由 MarcusDunn，Sepehr 及 25 位贡献者创建

64个版本

新版本 0.1.68	2024年8月23日
0.1.64	2024年7月26日
0.1.45	2024年3月27日

567 在机器学习中排名

每月下载 652 次
在 5 个crate中使用（通过 llama-cpp-2）

MIT/Apache

3.5MB
75K SLoC

llama-cpp-sys

带有cuda支持的 llama.cpp 原生绑定。

请参阅 llama-cpp-2 以获取安全的API。

`lib.rs`:

请参阅 llama-cpp-2 以获取文档化和安全的API。

依赖项

~0–2MB
~40K SLoC