35 个版本 (23 个稳定版)
新 2.0.0-rc.5 | 2024 年 8 月 18 日 |
---|---|
2.0.0-rc.4 | 2024 年 7 月 7 日 |
2.0.0-rc.2 | 2024 年 4 月 27 日 |
2.0.0-rc.1 | 2024 年 3 月 28 日 |
1.13.1 | 2022 年 11 月 27 日 |
#1 in 机器学习
每月 75,253 次下载
用于 53 个crate (32 个直接使用)
600KB
12K SLoC
ort
是基于已停用的 onnxruntime-rs
的一个 (非官方) ONNX Runtime 1.19 Rust 封装。ONNX Runtime 加速了 CPU 和 GPU 上的 ML 推理和训练。
📖 文档
🤔 支持
💖 使用 ort
的项目
- Twitter 使用
ort
为数亿用户提供主页推荐。 - Bloop 使用
ort
为其语义代码搜索功能提供动力。 - edge-transformers 使用
ort
在边缘进行加速的 transformer 模型推理。 - Ortex 使用
ort
在 Elixir 中提供安全的 ONNX Runtime 绑定。 - Supabase 使用
ort
去除边缘函数的冷启动。 - Lantern 使用
ort
在 Postgres 中提供嵌入模型推理。 - Magika 使用
ort
进行内容类型检测。
🌠 赞助 ort
依赖关系
~2–12MB
~143K SLoC