#llm-chain #language-model #llama #chain #llm #langchain

llm-chain-llama

实现 LLamA 的 llm-chains 的库。链可以用来将模型系列应用于完成复杂任务,如智能体。

26 个版本 (9 个破坏性更新)

0.13.0 2023 年 11 月 15 日
0.12.3 2023 年 6 月 27 日
0.12.0 2023 年 5 月 31 日

#560机器学习

每月 43 次下载

MIT 许可证

1MB
26K SLoC

C 10K SLoC // 0.1% comments Rust 9K SLoC // 0.0% comments C++ 5K SLoC // 0.1% comments Python 1K SLoC // 0.1% comments CUDA 544 SLoC // 0.0% comments Shell 177 SLoC // 0.2% comments Zig 49 SLoC Batch 47 SLoC Swift 19 SLoC

llm-chain-llama 🦙

欢迎来到 LLM-Chain-LLaMa,这是一个强大的、多功能的 LLaMa-style 模型驱动程序!这个包利用了惊人的 llama.cpp 库,使在 Rust 环境中运行 LLaMa、Alpaca 和类似模型变得简单高效。

入门 🏁

要开始,你需要获取一个 LLaMa 模型并将其适配到 llama.cpp。不用担心,我们已经为你准备好了!只需遵循 llama.cpp 的说明,你就可以迅速开始使用。🦾

特性 🌟

LLM-Chain-LLaMa 拥有所有你需要利用 LLaMa、Alpaca 和类似模型全部潜能的特性。以下是其中的一些:

  • 在 Rust 环境中运行链式 LLaMa-style 模型,将你的应用程序提升到新的高度 🌄
  • 为使用 instruct 模型提供提示,让你轻松构建令人惊叹的虚拟助手应用程序 🧙‍♂️

准备好并深入 LLM-Chain-LLaMa 的奇妙世界!让 LLaMa-style 模型的力量推动你的项目达到新的水平。祝您编码愉快,旅途愉快!🎉🥳

依赖项

~15–30MB
~496K SLoC