2个不稳定版本
0.2.0 | 2023年6月28日 |
---|---|
0.1.1 | 2023年6月28日 |
#1071 in 硬件支持
145KB
3K SLoC
blobd
非常快且并行的对象存储,以原始设备速度执行。设计用于在万亿对象(小型或大型)上进行数百万并发随机部分读取,具有恒定延迟。
- 所有优秀特性:无共享架构、io_uring、异步Rust I/O、无页面缓存、直接I/O。
- 保证持久性:任何时候崩溃都是安全的,成功结果表示数据已100%持久化。
- 创建分区以在块设备或文件中本地分片,实现极高的创建和删除吞吐量。
- 可作为嵌入式库、RPC服务器或具有CORS、范围请求、预签名URL和HTTP/2的HTTP RESTful服务器提供。
- 异步复制和事件流。
设计
- 设备上可配置的固定大小哈希表,其中堆上有对象的链表。整个设备映射到内存中。
- 针对读取进行优化,其次是创建,然后是删除。无法列出对象。
- 创建一个对象,然后并发写入其数据的16 MiB部分,然后提交。
- 一旦提交,对象就是不可变的。当前无法进行版本控制。提交时,对象替换所有具有相同键的其他对象(不是创建时)。
- 仅存储对象的尺寸。不收集其他元数据,并且无法设置自定义元数据。
- 设备必须小于256 TiB。对象限制为1 TiB。存储的对象峰值最优数量约为140万亿。
- 未提交的对象在7天后可以删除。对象删除后,所占用的空间可能不会立即释放。
历史
该项目以前称为 Turbostore,完全用C编写;您仍然可以在这里看到代码。
依赖关系
~9–16MB
~211K SLoC