#geobacter #amd-gpu #compiler #requires #programming #framework #run-time

nightly geobacter-amd-std

AMDGPU 的 Geobacter 核心库。需要 Geobacter Rust 编译器。

1 个稳定版本

1.0.0 2019年11月20日

#2238 in 开发工具

MIT/Apache

155KB
4.5K SLoC

🚧 Geobacter Rust 编译器和运行时 🚧

什么是 Geobacter?

Geobacter 是一个框架,用于支持单源加速器编程,无需从源代码编译两次。然而,Geobacter 并不是一个 JIT;预期内核会被反复调用,并且可能运行成本很高。事实上,由于单功能内核的特性,Geobacter 启用了一些对于所有 crate 来说运行成本过高的 LLVM 选项。

Geobacter 这个名字来源于第一种能使用氧化铁作为电子受体来氧化有机成分的细菌。

目前,AMDGPU 和 HPC 是重点。

这是如何工作的?

在 Rust 类型系统中,每个 fn 都有一个唯一的类型。因此,我们可以通过类型来引用函数定义。在我们的 Rust 分支中,我们使用特殊的驱动定义的内联函数,本质上返回 Rust 编译器 ty::Instance<'_> 的形式,以及针对所需目标(例如,支持 SPIR-V 管道描述)的其他特定信息。

在运行时,我们使用每个依赖项的元数据重新池化编译器驱动程序(进入运行时驱动程序)。然后我们查找实际的 DefId,并通过一些编译器提供商 API 技巧,获取 LLVM 代码生成 crate 为对应函数及其所有依赖项生成 IR。要清楚的是,这并不是 JIT,并且不适合 JIT 式的东西;例如,我们启用了额外的 LLVM 优化,如 Polly,并增加了优化搜索空间。因此,尽管优化相对较快,但对于 JIT 来说,它们太慢了。

有一个进程内的缓存,以编译器生成的静态形式存在,因此内核不会在加速器目标上多次代码生成。

状态(即什么可行什么不可行)

通常情况下,LLVM优化之前的所有内容对所有目标都有效。在编译时为特定函数获取ID是可行的。在运行时,加载每个crate的元数据并使用它来设置伪Rust驱动器是可行的,同时使用上述函数ID进行代码生成,包括优化,并且(如果适用)将其发送到目标机器第二次运行也是可行的。

AMDGPU

此目标无需额外配置即可工作,尽管调度需要一些不安全操作,因为仍然存在一些未解决的问题,例如将设备无法访问的内存(如栈)的引用传递给内核。此外,内核输出必须显式通过指针传递,因为&mut 必须是唯一的,但所有workitem共享相同的参数值!

“额外”功能

  • 提供良好的接口来指定内核启动边界并有效地获取workitem/workgroup ID,
  • 设备可见的主机内存分配器,
  • 设备内存分配,但无法在Box等中使用,因为无法保证大型BAR,
  • 设备纹理,
  • 设备端信号,
  • (主要是)针对一些使用场景的安全LDS(workgroup内存)接口。

待办事项 🚧

  • 更友好的交叉条接口。
  • 将OpenCL标准函数适配到Geobacter等效功能。
  • 安全输出写入:两个workitem不得创建对同一变量的可变引用。
  • 设备端排队:需要机制将子内核图像句柄嵌入父内核。
  • 设备到主机的MPSC通道。

Vulkan/SPIRV

Vulkan/SPIR-V的支持不如AMDGPU,但对于“简单”的计算内核应该是可行的,目前还没有使用指南。

Geobacter要求你的Vulkan实现支持物理存储缓冲区地址和变量指针扩展。

Cuda

不支持。

如何获取工具链?

目前,我们没有预构建的编译器可供下载,更不用说直接从rustup下载的能力。

因此,您需要自己构建Rust工具链。请参阅BUILD.md。

待办事项 🚧 提供预构建包。

如何使用它进行编码?

请参阅CODING.md! :^)

谁在从事这项工作?

Richard Diamond在业余时间从事这项工作。

新贡献者绝对欢迎。

依赖关系

~0.5–3MB
~62K SLoC