CPU 运行

cargo run --release -- --prompt your prompt

Cuda 运行

• 注意：需要 cuda 版本 >= 12.4

cargo build --release --features cuda
./target/release/codegeex4-candle --prompt your prompt