1 个不稳定版本
0.1.0 | 2022年7月27日 |
---|
#6 在 #tokenizers
18KB
192 代码行
token-iter
一个Rust库crate,用于简化文本语言的标记化程序编写。
请在此处阅读API 文档。
要使用它,请将以下内容添加到您的 Cargo.toml
[dependencies]
token-iter = "0.10.0"
并在您的代码中放入以下内容
use token_iter::*;
许可证
许可协议为以下之一
- Apache License, Version 2.0 (LICENSE-APACHE 或 http://www.apache.org/licenses/LICENSE-2.0)
- MIT 许可证 (LICENSE-MIT 或 http://opensource.org/licenses/MIT)
您可选其一。
贡献
您有意提交的任何贡献,根据Apache-2.0许可证的定义,应双许可如上所述,没有任何额外的条款或条件。
请参阅CONTRIBUTING.md。