#tokenizers #token #iter #simplifies #language

bin+lib token-iter

一个简化编写标记化程序的Rust crate

1 个不稳定版本

0.1.0 2022年7月27日

#6#tokenizers

MIT/Apache

18KB
192 代码行

token-iter

Crates.io Docs.rs CI Coverage Status

一个Rust库crate,用于简化文本语言的标记化程序编写。

请在此处阅读API 文档

要使用它,请将以下内容添加到您的 Cargo.toml

[dependencies]
token-iter = "0.10.0"

并在您的代码中放入以下内容

use token_iter::*;

许可证

许可协议为以下之一

您可选其一。

贡献

您有意提交的任何贡献,根据Apache-2.0许可证的定义,应双许可如上所述,没有任何额外的条款或条件。

请参阅CONTRIBUTING.md

无运行时依赖