#tensorflow #rune #coral

hotg-runecoral

对 librunecoral 库进行硬件加速推理的绑定

15 个版本

0.3.12 2022 年 5 月 31 日
0.3.11 2022 年 3 月 28 日
0.3.7 2022 年 2 月 3 日
0.3.6 2021 年 10 月 15 日
0.1.1 2021 年 8 月 9 日

#453机器学习

Download history 1/week @ 2024-03-24 64/week @ 2024-03-31 1/week @ 2024-04-07 2/week @ 2024-04-28 1/week @ 2024-05-19

每月 67 次下载
2 crates 中使用

MIT/Apache

3.5MB
19K SLoC

C++ 14K SLoC // 0.2% comments Bazel 3K SLoC // 0.1% comments Shell 869 SLoC // 0.1% comments Rust 548 SLoC // 0.1% comments Bitbake 305 SLoC // 0.1% comments FlatBuffers Schema 198 SLoC // 0.6% comments Batch 127 SLoC // 0.2% comments Python 40 SLoC // 0.5% comments

包含 (Windows DLL,1.5MB) WdfCoInstaller01009.dll,(Windows DLL,1MB) winusbcoinstaller2.dll,(DOS exe,53KB) coral.sys

librunecoral

是 Google 的 tflite 和 libedgetpu 的薄包装器

构建

先决条件

Linux/Android

Windows 10

  • Visual Studio Build tools 2019
  • Msys2
  • choco install python llvm bazel
  • pip install numpy
  • rust

OS X

  • git
  • bazel
  • XCode
  • pip install numpy
  • rust

获取源代码

$ git clone https://github.com/hotg-ai/librunecoral
$ cd librunecoral
$ git submodule update --init --recursive

构建 docker 容器

$ make docker-image-linux
$ docker image ls
REPOSITORY                      TAG     IMAGE ID       CREATED         SIZE
tinyverseml/runecoral-cross-linux-aarch64                   latest         349cd3de00b3   2 days ago      2.9GB
tinyverseml/runecoral-cross-linux-x86_64                    latest         4f5fe19abfb7   2 days ago      2.73GB

为 Linux 构建包

$ make librunecoral-linux-aarch64
$ ls dist/include
runecoral.h
$ ls dist/lib/linux/aarch64
librunecoral.so

# To build for all supported CPU architectures under linux
$ make librunecoral-linux
$ ls dist/lib/linux
aarch64  x86_64

为 Windows 构建包

$ bazel build --config windows //runecoral:runecoral
$ ls bazel-bin/runecoral/
_objs  runecoral.lib  runecoral.params

注意:在 Windows 上,您可能需要将 librunecoral 克隆到 C:\ 或类似路径,以避免遇到 Windows 路径长度限制

感谢

  • Webcoral
  • libedgetpu
  • rust-embedded/cross (特别是他们的 docker 容器构建脚本)

依赖关系