#文本翻译 #绑定 #高级 #模型 #推理 #引擎 #c-translate2

bin+lib spoilers

CTranslate2 的高级 Rust 绑定

2 个版本

0.1.1 2024年2月13日
0.1.0 2024年2月12日

#783 in 文本处理

GPL-2.0-or-later

56KB
627

Spoilers

这是什么

Spoilers 是对 CTranslate2 的高层 Rust 绑定,CTranslate2 是一个用于变压器模型的快速推理引擎。它还包含了一个基于绑定的基础 GUI,可以使用兼容的模型和分词器配置离线翻译文本。

请注意,此项目尚不稳定,可能会发生变化。

依赖项

Spoilers 运行时需要 CTranslate2,并且应针对系统中的相应头文件进行编译。GUI 可能需要根据您的平台安装更多包,并且将 Sarasa Gothic 字体打包到 GUI 中以支持 CJK 字体。

有关更多详细信息,请查看 仓库 中的 flake.nix

模型数据和适配器

如果提供适当的模型权重,Spoilers 应该能够运行与 CTranslate2 兼容的模型。

有关将模型转换为兼容格式的说明,请参阅 CTranslate2 文档

对于 GUI,我们需要适配器来为模型分词原始输入,并解析来自模型的输出标记。例如,兼容的 NLLB-200 模型可以与 tokenizers 一起使用。

依赖项

~16–60MB
~1M SLoC