foyer

foyer旨在成为Rust中一个高效且用户友好的混合缓存库。

foyer从多个项目中汲取灵感，包括被广泛认可的C++混合缓存库Facebook/CacheLib和流行的Java缓存库ben-manes/caffeine。

然而，foyer不仅仅是一个用Rust重写的项目；它引入了许多新功能和优化。

特性

• 混合缓存：无缝集成内存和基于磁盘的缓存，以实现最佳性能和灵活性。
• 即插即用算法：使用户能够轻松更换缓存算法，确保适应不同的用例。
• 无惧并发：采用强大的线程安全机制构建，确保在高负载下可靠运行。
• 零拷贝内存缓存抽象：利用Rust强大的类型系统，foyer中的内存缓存通过零拷贝抽象实现更好的性能。
• 用户友好接口：提供简单直观的API，使缓存集成变得简单易行，适用于所有级别的开发者。
• 开箱即用的可观察性：只需一行代码即可集成Prometheus、Grafana、Opentelemetry和Jaeger等流行的观察系统。

使用foyer的项目

请随意提交PR以添加您的项目

• RisingWave：SQL流处理、分析和管理。
• Chroma：嵌入式数据库，用于LLM应用。

用法

要在您的项目中使用foyer，请将以下行添加到dependencies部分中的Cargo.toml。

foyer = "0.11"

如果您的项目使用的是nightly rust工具链，则需要启用nightly功能。

foyer = { version = "0.11", features = ["nightly"] }

开箱即用的内存缓存

use foyer::{Cache, CacheBuilder};

fn main() {
    let cache: Cache<String, String> = CacheBuilder::new(16).build();

    let entry = cache.insert("hello".to_string(), "world".to_string());
    let e = cache.get("hello").unwrap();

    assert_eq!(entry.value(), e.value());
}

易于使用的混合缓存

use foyer::{DirectFsDeviceOptionsBuilder, HybridCache, HybridCacheBuilder};

#[tokio::main]
async fn main() -> anyhow::Result<()> {
    let dir = tempfile::tempdir()?;

    let hybrid: HybridCache<u64, String> = HybridCacheBuilder::new()
        .memory(64 * 1024 * 1024)
        .storage()
        .with_device_config(
            DirectFsDeviceOptionsBuilder::new(dir.path())
                .with_capacity(256 * 1024 * 1024)
                .build(),
        )
        .build()
        .await?;

    hybrid.insert(42, "The answer to life, the universe, and everything.".to_string());
    assert_eq!(
        hybrid.get(&42).await?.unwrap().value(),
        "The answer to life, the universe, and everything."
    );

    Ok(())
}

完全配置的混合缓存

use std::sync::Arc;

use anyhow::Result;
use chrono::Datelike;
use foyer::{
    DirectFsDeviceOptionsBuilder, FifoPicker, HybridCache, HybridCacheBuilder, LruConfig, RateLimitPicker, RecoverMode,
    RuntimeConfig, TokioRuntimeConfig, TombstoneLogConfigBuilder,
};
use tempfile::tempdir;

#[tokio::main]
async fn main() -> Result<()> {
    let dir = tempdir()?;

    let hybrid: HybridCache<u64, String> = HybridCacheBuilder::new()
        .memory(1024)
        .with_shards(4)
        .with_eviction_config(LruConfig {
            high_priority_pool_ratio: 0.1,
        })
        .with_object_pool_capacity(1024)
        .with_hash_builder(ahash::RandomState::default())
        .with_weighter(|_key, value: &String| value.len())
        .storage()
        .with_device_config(
            DirectFsDeviceOptionsBuilder::new(dir.path())
                .with_capacity(64 * 1024 * 1024)
                .with_file_size(4 * 1024 * 1024)
                .build(),
        )
        .with_flush(true)
        .with_indexer_shards(64)
        .with_recover_mode(RecoverMode::Quiet)
        .with_recover_concurrency(8)
        .with_flushers(2)
        .with_reclaimers(2)
        .with_buffer_threshold(256 * 1024 * 1024)
        .with_clean_region_threshold(4)
        .with_eviction_pickers(vec![Box::<FifoPicker>::default()])
        .with_admission_picker(Arc::new(RateLimitPicker::new(100 * 1024 * 1024)))
        .with_reinsertion_picker(Arc::new(RateLimitPicker::new(10 * 1024 * 1024)))
        .with_compression(foyer::Compression::Lz4)
        .with_tombstone_log_config(
            TombstoneLogConfigBuilder::new(dir.path().join("tombstone-log-file"))
                .with_flush(true)
                .build(),
        )
        .with_runtime_config(RuntimeConfig::Separated {
            read_runtime_config: TokioRuntimeConfig {
                worker_threads: 4,
                max_blocking_threads: 8,
            },
            write_runtime_config: TokioRuntimeConfig {
                worker_threads: 4,
                max_blocking_threads: 8,
            },
        })
        .build()
        .await?;

    hybrid.insert(42, "The answer to life, the universe, and everything.".to_string());
    assert_eq!(
        hybrid.get(&42).await?.unwrap().value(),
        "The answer to life, the universe, and everything."
    );

    let e = hybrid
        .fetch(20230512, || async {
            let value = mock().await?;
            Ok(value)
        })
        .await?;
    assert_eq!(e.key(), &20230512);
    assert_eq!(e.value(), "Hello, foyer.");

    hybrid.close().await.unwrap();

    Ok(())
}

async fn mock() -> Result<String> {
    let now = chrono::Utc::now();
    if format!("{}{}{}", now.year(), now.month(), now.day()) == "20230512" {
        return Err(anyhow::anyhow!("Hi, time traveler!"));
    }
    Ok("Hello, foyer.".to_string())
}

其他示例

• 事件监听器
• 基于尾部的追踪

更多示例和细节可以在这里找到。

支持的Rust版本

foyer基于最新的稳定版构建。最低支持的版本是1.77。当前foyer版本不保证在低于最低支持版本的Rust版本上构建。

开发状态 & 路线图

目前，foyer仍在积极开发中。

开发状态和路线图可以在foyer - 开发路线图中找到。

贡献

欢迎为foyer做出贡献！🥰

在提交PR之前，别忘了在本地执行make fast（表示快速检查和测试）。🚀

如果您想在本地上运行更广泛的检查，请运行make full。🙌

Star历史