#model #inference #gpt-2 #wrapper #onnx #encoder #vocabulary

gpt-model

针对GPT-2大型语言模型的纯Rust推理包装器

1 个不稳定版本

0.1.0 2024年2月24日

#879机器学习

AGPL-3.0-only

42KB
500

100%纯Rust推理包装器,用于GPT-2(及可能的后续)模型系列。

获取GPT模型

该包仓库中的GPT-2模型使用OpenAI训练的原模型,略有修改以支持Tensorflow 2.0,并支持转换为ONNX模型格式。

开始使用此包时,我们建议使用我们预构建的124M(最小)GPT-2模型;该模型的模型、编码器和字节对编码词汇表都可以从此处下载。

仓库结构

  • src/: 主要包内容,包括GPT-2字节对编码器(标记化程序)的纯Rust实现以及加载和调用ONNX GPT-2模型的Rust包装器。
  • gpt-2-model/: 下载和导出Tensorflow和ONNX版本的GPT-2模型的Python脚本和Docker文件。
  • gpt-2-model/saved_models: 导出的GPT-2模型。最新的预构建124M(最小)GPT-2模型随此仓库提供,作为Git LFS的一部分。

许可证和贡献

除非另有说明,本项目版权所有(C) 2022-24 Brandon Sanders [[email protected]],并使用AGPL-3.0-only许可证。

目录中的文件受(C) 2019 OpenAI和(C) 2022-24 Brandon Sanders版权保护,并使用类似MIT的许可证。

欢迎贡献!

依赖关系

~12–24MB
~381K SLoC