为Rust编写的llama.cpp绑定
针对高级绑定的llama.cpp,重点是极其简单易用
LLMs:结构化文本、决策、分类和基准。一个用户友好的界面,一次编写即可在任何本地或API模型上运行。
GGUF in Rust🦀
为LLaMA.cpp生成自动Rust绑定
LLAMA.CPP推理的Rust绑定
尝试使用 DuckDuckGo进行搜索。