1 个不稳定版本
0.1.0 | 2024年2月24日 |
---|
#879 在 机器学习
42KB
500 行
100%纯Rust推理包装器,用于GPT-2(及可能的后续)模型系列。
获取GPT模型
该包仓库中的GPT-2模型使用OpenAI训练的原模型,略有修改以支持Tensorflow 2.0,并支持转换为ONNX模型格式。
开始使用此包时,我们建议使用我们预构建的124M(最小)GPT-2模型;该模型的模型、编码器和字节对编码词汇表都可以从此处下载。
仓库结构
src/
: 主要包内容,包括GPT-2字节对编码器(标记化程序)的纯Rust实现以及加载和调用ONNX GPT-2模型的Rust包装器。gpt-2-model/
: 下载和导出Tensorflow和ONNX版本的GPT-2模型的Python脚本和Docker文件。gpt-2-model/saved_models
: 导出的GPT-2模型。最新的预构建124M(最小)GPT-2模型随此仓库提供,作为Git LFS的一部分。
许可证和贡献
除非另有说明,本项目版权所有(C) 2022-24 Brandon Sanders [[email protected]],并使用AGPL-3.0-only许可证。
目录中的文件受(C) 2019 OpenAI和(C) 2022-24 Brandon Sanders版权保护,并使用类似MIT的许可证。
欢迎贡献!
依赖关系
~12–24MB
~381K SLoC