foyer

foyer 旨在成为Rust中一个高效且用户友好的混合缓存库。

foyer从多个项目中获得灵感，包括备受推崇的C++混合缓存库 Facebook/CacheLib 和流行的Java缓存库 ben-manes/caffeine。

然而，foyer 不仅仅是一个Rust重写的努力；它引入了许多新的和优化的功能。

特性

• 混合缓存：无缝集成内存和基于磁盘的缓存，以实现最佳性能和灵活性。
• 即插即用算法：为用户提供易于更换的缓存算法，确保适应不同的使用场景。
• 无惧并发：采用强大的线程安全机制构建，以确保在高负载下可靠的性能。
• 零拷贝内存缓存抽象：利用Rust强大的类型系统，foyer中的内存缓存通过零拷贝抽象实现了更好的性能。
• 用户友好的界面：提供简单直观的API，使缓存集成变得轻松且易于所有层次的开发者使用。
• 开箱即用的可观察性：只需一行代码即可集成Prometheus、Grafana、Opentelemetry和Jaeger等流行的观察系统。

使用foyer的项目

请随意打开一个PR并在此处添加您的项目

• RisingWave：SQL流处理、分析和管理。
• Chroma：嵌入式数据库，用于LLM应用。

使用方法

要将 foyer 用于您的项目，请将以下行添加到 dependencies 部分 Cargo.toml。

foyer = "0.11"

如果您的项目使用的是nightly rust工具链，需要启用 nightly 功能。

foyer = { version = "0.11", features = ["nightly"] }

开箱即用的内存缓存

use foyer::{Cache, CacheBuilder};

fn main() {
    let cache: Cache<String, String> = CacheBuilder::new(16).build();

    let entry = cache.insert("hello".to_string(), "world".to_string());
    let e = cache.get("hello").unwrap();

    assert_eq!(entry.value(), e.value());
}

易于使用的混合缓存

use foyer::{DirectFsDeviceOptionsBuilder, HybridCache, HybridCacheBuilder};

#[tokio::main]
async fn main() -> anyhow::Result<()> {
    let dir = tempfile::tempdir()?;

    let hybrid: HybridCache<u64, String> = HybridCacheBuilder::new()
        .memory(64 * 1024 * 1024)
        .storage()
        .with_device_config(
            DirectFsDeviceOptionsBuilder::new(dir.path())
                .with_capacity(256 * 1024 * 1024)
                .build(),
        )
        .build()
        .await?;

    hybrid.insert(42, "The answer to life, the universe, and everything.".to_string());
    assert_eq!(
        hybrid.get(&42).await?.unwrap().value(),
        "The answer to life, the universe, and everything."
    );

    Ok(())
}

完全配置的混合缓存

use std::sync::Arc;

use anyhow::Result;
use chrono::Datelike;
use foyer::{
    DirectFsDeviceOptionsBuilder, FifoPicker, HybridCache, HybridCacheBuilder, LruConfig, RateLimitPicker, RecoverMode,
    RuntimeConfig, TokioRuntimeConfig, TombstoneLogConfigBuilder,
};
use tempfile::tempdir;

#[tokio::main]
async fn main() -> Result<()> {
    let dir = tempdir()?;

    let hybrid: HybridCache<u64, String> = HybridCacheBuilder::new()
        .memory(1024)
        .with_shards(4)
        .with_eviction_config(LruConfig {
            high_priority_pool_ratio: 0.1,
        })
        .with_object_pool_capacity(1024)
        .with_hash_builder(ahash::RandomState::default())
        .with_weighter(|_key, value: &String| value.len())
        .storage()
        .with_device_config(
            DirectFsDeviceOptionsBuilder::new(dir.path())
                .with_capacity(64 * 1024 * 1024)
                .with_file_size(4 * 1024 * 1024)
                .build(),
        )
        .with_flush(true)
        .with_indexer_shards(64)
        .with_recover_mode(RecoverMode::Quiet)
        .with_recover_concurrency(8)
        .with_flushers(2)
        .with_reclaimers(2)
        .with_buffer_threshold(256 * 1024 * 1024)
        .with_clean_region_threshold(4)
        .with_eviction_pickers(vec![Box::<FifoPicker>::default()])
        .with_admission_picker(Arc::new(RateLimitPicker::new(100 * 1024 * 1024)))
        .with_reinsertion_picker(Arc::new(RateLimitPicker::new(10 * 1024 * 1024)))
        .with_compression(foyer::Compression::Lz4)
        .with_tombstone_log_config(
            TombstoneLogConfigBuilder::new(dir.path().join("tombstone-log-file"))
                .with_flush(true)
                .build(),
        )
        .with_runtime_config(RuntimeConfig::Separated {
            read_runtime_config: TokioRuntimeConfig {
                worker_threads: 4,
                max_blocking_threads: 8,
            },
            write_runtime_config: TokioRuntimeConfig {
                worker_threads: 4,
                max_blocking_threads: 8,
            },
        })
        .build()
        .await?;

    hybrid.insert(42, "The answer to life, the universe, and everything.".to_string());
    assert_eq!(
        hybrid.get(&42).await?.unwrap().value(),
        "The answer to life, the universe, and everything."
    );

    let e = hybrid
        .fetch(20230512, || async {
            let value = mock().await?;
            Ok(value)
        })
        .await?;
    assert_eq!(e.key(), &20230512);
    assert_eq!(e.value(), "Hello, foyer.");

    hybrid.close().await.unwrap();

    Ok(())
}

async fn mock() -> Result<String> {
    let now = chrono::Utc::now();
    if format!("{}{}{}", now.year(), now.month(), now.day()) == "20230512" {
        return Err(anyhow::anyhow!("Hi, time traveler!"));
    }
    Ok("Hello, foyer.".to_string())
}

其他示例

• 事件监听器
• 基于尾部的跟踪

更多示例和详细信息可以在这里找到。

支持的 Rust 版本

foyer 是基于最近的稳定版本构建的。最低支持的版本是 1.77。当前的 foyer 版本不一定能在低于最低支持版本的 Rust 版本上编译。

开发状态 & 路线图

目前，foyer 仍在积极开发中。

开发状态和路线图可以在foyer - 开发路线图中找到。

贡献

对 foyer 的贡献非常受欢迎！🥰

在提交 PR 之前，不要忘记在本地运行 make fast（表示快速检查 & 测试）。🚀

如果您想在本地运行更广泛的检查，请运行 make full。🙌

星历史