2 个不稳定版本
| 新 0.2.0 | 2024 年 8 月 18 日 |
|---|---|
| 0.1.0 | 2024 年 8 月 17 日 |
#15 in #llama
每月 41 下载量
7MB
136K SLoC
localllm
由 llama.cpp 构建的 qwen2 模型库
设置 LLAMA_LIB="llama.lib ggml.lib common.lib dir"
llama.lib ggml.lib common.lib 来自 https://github.com/hjiayz/build-llama.cpp
示例模型 https://hf-mirror.com/Qwen/Qwen2-1.5B-Instruct-GGUF/blob/main/qwen2-1_5b-instruct-q2_k.gguf
依赖项
~3.5–6MB
~105K SLoC