#interface #high-level #tenstorrent #accelerator #safe #access #ai

app luwen

为安全高效访问Tenstorrent AI加速器提供高级接口

1 个不稳定版本

0.3.6 2024年3月18日

#6#accelerator

Apache-2.0

50KB
1K SLoC

Luwen

以荷兰显微镜学家安东·范·列文虎克的名字命名,他投资了显微镜。

官方仓库

https://github.com/tenstorrent/luwen

设计

这里想要支持三个用例

  1. 软件工具的高级接口,允许通过tt-smi和tt-mod收集的所有系统工程师诊断信息可以作为库读取和交互。
    • 这仅是一个高级接口,因此它仅支持PCI连接和通过PCI的远程连接
    • 将忽略使用通信通道的所有细节,例如使用哪个PCI TLB或哪个ERISC核心。
  2. 通用芯片发现和初始化,替换create-ethernet-map和tt-smi等待。我们可能还会添加发出重置的能力。
  3. 低级系统工程师专用调试能力(通过pyluwen)
    • 为了避免需要多个正在进行的堆栈,您将能够降低一个级别并直接访问实现的通信API。实际上,这意味着直接访问luwen-ref中定义的类型。这意味着您可以修改正在使用的PCI TLB和ERISC核心,或者完全跳过中间人并发出原始调用。

依赖项

~9–17MB
~219K SLoC