1 个稳定版本
1.0.0 | 2019年11月19日 |
---|
#926 在 硬件支持
22 每月下载量
在 6 个crate中使用 (5 个直接使用)
130KB
3.5K SLoC
🚧 Geobacter Rust 编译器和运行时 🚧
什么是 Geobacter?
Geobacter 是一个支持单源加速器编程的框架,无需两次从源代码编译。然而,Geobacter 并不是 JIT;预期内核会被反复调用,并且可能运行成本较高。事实上,由于单函数内核的性质,Geobacter 启用了许多对于所有 crate 来说运行成本过高的 LLVM 选项。
Geobacter 的名字来源于第一种能够使用氧化铁作为电子受体的有机成分氧化菌。
目前,AMDGPU 和 HPC 是重点。
这是如何工作的?
在 Rust 类型系统中,每个 fn
都有一个独特的类型。因此,我们可以通过类型来引用函数定义。在我们的 Rust 分支中,我们使用特殊的由驱动定义的内建函数来本质上返回 Rust 编译器的 ty::Instance<'_>
形式,以及针对所需目标的其他特定信息(例如,支持 SPIR-V 管道描述)
在运行时,我们使用每个依赖项的元数据重新填充编译器驱动程序(进入运行时驱动程序)。然后我们查找实际的 DefId
,通过一些编译器提供者 API 技巧,让 LLVM 代码生成 crate 为相应的函数及其所有依赖项生成 IR。但要清楚的是,这并不是 JIT,并且不适合 JIT 类似的事物;例如,我们启用了额外的 LLVM 优化,如 Polly,并增加了优化搜索空间。因此,虽然优化相对较快,但对于 JIT 而言,它们太慢了。
有一个进程内的缓存,以编译器生成的静态形式存在,因此内核不会在每个加速器目标上重复代码生成。
状态(即什么可行和不可行)
通常情况下,LLVM优化之前的所有内容对所有目标都适用。在编译时为特定函数获取ID是可行的。在运行时,加载每个crate的元数据并使用它来设置伪Rust驱动程序是可行的,同样,上述函数ID的代码生成,包括优化和(如果适用)将其发送到目标机器第二次运行也是可行的。
AMDGPU
这个目标可以即插即用,尽管调度需要一些不安全性,因为仍然存在一些尚未解决的陷阱,比如将引用设备无法访问的内存(如栈!)传递给内核。此外,内核输出必须显式通过指针传递,因为 &mut
必须是唯一的,但所有workitems共享相同的参数值!
“额外”功能
- 优雅的接口用于指定内核启动范围并高效地获取workitem/workgroup ID,
- 设备可见的主机内存分配器,
- 设备内存分配,但这个不能在
Box
/等中使用,因为无法保证大的BAR, - 设备纹理,
- 设备端信号,
- (大部分)适用于一些使用场景的安全LDS(工作组内存)接口。
待办事项 🚧
- 更友好的交叉开关接口。
- 将OpenCL std函数适配为Geobacter等价物。
- 安全输出写入:两个workitems不能对同一变量创建可变引用。
- 设备端入队:需要机制将子内核图像句柄嵌入父内核。
- 设备到主机MPSC通道。
Vulkan/SPIRV
Vulkan/SPIR-V的支持不如AMDGPU,但“简单”的计算内核应该可以工作,目前还没有关于其使用的指南。
Geobacter要求你的Vulkan实现支持物理存储缓冲区地址和变量指针扩展。
Cuda
不支持。
如何获取工具链?
目前,我们没有预先构建的编译器供你下载,更不用说直接从 rustup
下载的能力。
所以你需要自己构建Rust工具链。参见 BUILD.md。
待办事项 🚧 提供预构建包。
我该如何使用它来编写代码?
请参阅 CODING.md! :^)
谁在从事这项工作?
Richard Diamond在业余时间从事这项工作。
新贡献者绝对欢迎。
依赖项
~0.6–1.2MB
~27K SLoC