krnl

安全、便携、高性能计算（GPGPU）内核。

为autograph开发。

• 与CUDA和OpenCL类似的功能。
• 支持GPU和其他Vulkan 1.2兼容设备。
• 通过MoltenVK支持MacOS / iOS。
• 内核以Rust内联编写，完全使用Rust。
  • 可以无需不安全操作实现简单的迭代模式。
  • 支持内联SPIR-V汇编。
  • 与DebugPrintf集成，生成panic的回溯。
• 主机上的缓冲区可以原生地作为Vecs和slices访问。

krnlc

krnl的内核编译器。

• 基于spirv-builder构建。
• 支持在Cargo.toml中定义的依赖项。
• 使用spirv-tools进行验证和优化。
• 编译为"krnl-cache.rs"，因此crate将在稳定Rust上构建。

请参阅文档以获取安装和使用说明。

安装

对于设备功能（内核），为您的平台安装Vulkan。

• 对于开发，建议安装LunarG Vulkan SDK，它包括额外的工具
  • vulkaninfo
  • 验证层
    • DebugPrintf
  • spirv-tools
    • 这是krnlc用于SPIR-V验证和优化的。
      • 默认情况下，krnlc构建不需要安装spirv-tools。

测试

• 检查vulkaninfo --summary是否显示您的设备。
  • 实例版本应为≥ 1.2。
• 或者，检查cargo test --test integration_tests -- --exact none是否显示您的设备。
  • 您可以使用以下命令运行所有测试：cargo test --all-features。

入门指南

请参阅文档，或者使用以下命令本地构建它们：cargo doc --all-features。

示例

use krnl::{
    macros::module,
    anyhow::Result,
    device::Device,
    buffer::{Buffer, Slice, SliceMut},
};

#[module]
mod kernels {
    #[cfg(not(target_arch = "spirv"))]
    use krnl::krnl_core;
    use krnl_core::macros::kernel;

    pub fn saxpy_impl(alpha: f32, x: f32, y: &mut f32) {
        *y += alpha * x;
    }

    // Item kernels for iterator patterns.
    #[kernel]
    pub fn saxpy(alpha: f32, #[item] x: f32, #[item] y: &mut f32) {
        saxpy_impl(alpha, x, y);
    }

    // General purpose kernels like CUDA / OpenCL.
    #[kernel]
    pub fn saxpy_global(alpha: f32, #[global] x: Slice<f32>, #[global] y: UnsafeSlice<f32>) {
        use krnl_core::buffer::UnsafeIndex;

        let global_id = kernel.global_id();
        if global_id < x.len().min(y.len()) {
            saxpy_impl(alpha, x[global_id], unsafe { y.unsafe_index_mut(global_id) });
        }
    }
}

fn saxpy(alpha: f32, x: Slice<f32>, mut y: SliceMut<f32>) -> Result<()> {
    if let Some((x, y)) = x.as_host_slice().zip(y.as_host_slice_mut()) {
        x.iter()
            .copied()
            .zip(y.iter_mut())
            .for_each(|(x, y)| kernels::saxpy_impl(alpha, x, y));
        return Ok(());
    }
    if true {
        kernels::saxpy::builder()?
            .build(y.device())?
            .dispatch(alpha, x, y)
    } else {
        // or
        kernels::saxpy_global::builder()?
            .build(y.device())?
            .with_global_threads(y.len() as u32)
            .dispatch(alpha, x, y)
    }
}

fn main() -> Result<()> {
    let x = vec![1f32];
    let alpha = 2f32;
    let y = vec![0f32];
    let device = Device::builder().build().ok().unwrap_or(Device::host());
    let x = Buffer::from(x).into_device(device.clone())?;
    let mut y = Buffer::from(y).into_device(device.clone())?;
    saxpy(alpha, x.as_slice(), y.as_slice_mut())?;
    let y = y.into_vec()?;
    println!("{y:?}");
    Ok(())
}

性能

NVIDIA GeForce GTX 1060 with Max-Q Design

benches/compute-benches

alloc

upload

download

zero

saxpy

许可

双许可以与 Rust 项目兼容。

根据 Apache 许可证 2.0 版本或 MIT 许可证，您可以选择许可，这些文件可能只能根据这些条款进行复制、修改或分发。

贡献

除非您明确声明，否则任何有意提交并由您包含在作品中的贡献，如 Apache-2.0 许可证中定义的，将按照上述双许可进行许可，没有其他条款或条件。