#decimal #math #precision #arithmetic-operations #place #floats #preserving

decimal-wad

用于保留最多18位小数精度的数学计算

9个版本

0.1.9 2023年5月31日
0.1.8 2022年10月27日
0.1.7 2022年8月22日
0.1.6 2022年7月20日
0.1.2 2021年11月30日

#544 in 算法

Download history 71/week @ 2024-03-10 76/week @ 2024-03-17 61/week @ 2024-03-24 81/week @ 2024-03-31 42/week @ 2024-04-07 174/week @ 2024-04-14 123/week @ 2024-04-21 84/week @ 2024-04-28 101/week @ 2024-05-05 98/week @ 2024-05-12 101/week @ 2024-05-19 473/week @ 2024-05-26 66/week @ 2024-06-02 132/week @ 2024-06-09 86/week @ 2024-06-16 239/week @ 2024-06-23

每月下载量 535

MIT 许可证

23KB
673

Decimal WAD

用于保留最多u64::MAX限制的精度浮点数的数学计算

  • 十进制数通过WAD(10^18)内部缩放以保留最多18位小数的精度。
  • 十进制数的大小设计用于支持序列化和对无符号64位整数的全范围进行精确数学计算。
  • 十进制数的底层表示为u192而不是u256,以降低计算成本,但失去对u64范围高端的算术操作支持。
  • 比率的大小设计用于支持序列化和对无符号8位整数的全范围进行精确数学计算。
  • 比率的底层表示为u128而不是u192,以降低计算成本,但失去对u8范围高端的算术操作支持。

依赖项

~245KB