#优化 #深度学习 #神经网络 #梯度 #下降 #自动微分 #ze-nu

zenu-optimizer

神经网络的一个简单优化器

1 个不稳定版本

0.1.0 2024 年 4 月 1 日

#661机器学习


用于 zenu

MIT 许可证

5KB
52

ZeNu 优化器

ZeNu 优化器是一组用于训练神经网络的优化算法集合。它提供了多种优化器,可用于与 ZeNu 深度学习库一起使用。

特性

  • 随机梯度下降(SGD)优化器
  • 与 ZeNu Autograd 集成以进行梯度计算
  • 易于与 ZeNu 模型和层集成

入门

要在 Rust 项目中使用 ZeNu 优化器,请将以下内容添加到您的 Cargo.toml 文件中

[dependencies]
zenu-optimizer = "0.1.0"

以下是使用 ZeNu 优化器中的 SGD 优化器的简单示例

use zenu_autograd::{creator::from_vec::from_vec, Variable};
use zenu_optimizer::sgd::SGD;

fn main() {
    let variable = from_vec(vec![1., 2., 3., 4., 5., 6.], [3, 2]);
    variable.set_grad(from_vec(vec![1., 2., 3., 4., 5., 6.], [3, 2]));

    let sgd = SGD::new(0.01);
    sgd.update(&[variable.clone()]);

    // The variable has been updated by the optimizer
    // Perform further computations with the updated variable
}

有关更多详细信息和方法,请参阅 文档

许可证

ZeNu 优化器根据 MIT 许可证 许可。

依赖项

~2–4MB
~83K SLoC