3个不稳定版本
0.1.1 | 2023年4月13日 |
---|---|
0.1.0 | 2023年4月6日 |
0.0.1 | 2023年3月28日 |
#349 在 缓存
每月33次下载
用于 blobd
74KB
1.5K SLoC
blobd
极快且并行的对象存储,以原始设备速度运行。适用于数百万个并发随机部分读取,对象(微小或巨大)数量超过万亿,具有恒定延迟。
- 所有优点:无共享架构,io_uring,异步Rust I/O,无页缓存,直接I/O。
- 保证持久性:任何时间都可以安全崩溃,成功结果表示数据已100%持久化。
- 创建分区以在或跨块设备或文件中进行本地分片,以实现极高的创建和删除吞吐量。
- 作为嵌入式库、RPC服务器或带有CORS、范围请求、预签名URL和HTTP/2的HTTP RESTful服务器提供。
- 异步复制和事件流。
设计
- 在设备上可配置的固定大小哈希表,具有堆上对象的链表。整个设备映射到内存中。
- 优化读取,然后创建,然后删除。无法列出对象。
- 创建一个对象,然后并发写入其16 MiB部分,然后提交。
- 对象一旦提交就不可变。目前无法进行版本控制。提交时,对象替换所有具有相同键的其他对象(不是创建时)。
- 只存储对象的大小。不收集其他元数据,无法设置自定义元数据。
- 设备必须小于256 TiB。对象限制为1 TiB。存储的对象峰值最优数量约为140万亿。
- 未提交的对象在7天后可以被删除。删除对象后,对象占用的空间可能不会立即释放。
历史
此项目以前称为 Turbostore,完全用C编写;您仍然可以在这里看到代码。
依赖项
~9–16MB
~206K SLoC