chat-splitter

有关更多信息，请参阅 博客公告。

当使用 async_openai Rust 包时，确保您不超过 OpenAI 的 最大令牌数，这是 OpenAI 的 聊天模型指定的。

chat-splitter 将聊天消息分类为“过时”和“最新”消息，允许您根据最大消息数和最大聊天完成令牌数进行分割。令牌计数功能由 tiktoken_rs 提供。

用法

以下是一个基本示例

// Get all your previously stored chat messages...
let mut stored_messages = /* get_stored_messages()? */;

// ...and split into 'outdated' and 'recent',
// where 'recent' always fits the context size.
let (outdated_messages, recent_messages) =
    ChatSplitter::default().split(&stored_messages);

有关更详细的示例，请参阅 examples/chat.rs。

贡献

欢迎为 chat-splitter 做贡献！如果您发现错误或有功能请求，请 提交一个问题。如果您想贡献代码，请随时 提交一个拉取请求。

许可证：MIT