#chat #bedrock #aws #aws-cli #cli

app bedrock_assistant

由 AWS Bedrock 驱动的 AI 助手

4 个版本 (2 个破坏性更新)

0.4.1 2024 年 8 月 16 日
0.4.0 2024 年 8 月 16 日
0.3.0 2024 年 8 月 10 日
0.2.0 2024 年 8 月 10 日

#144命令行工具

Download history 239/week @ 2024-08-10 206/week @ 2024-08-17

每月 445 次下载

自定义许可

57KB
1K SLoC

Bedrock Assistant / Artifact 使用 Rust 编写

一个使用 Rust 编写的 CLI 助手(聊天工具),由 AWS Bedrock Converse API 驱动,具有以下功能。

功能 描述 状态
聊天 与 Claude 聊天 可用
图像生成 根据提示生成图像 可用
代码解释器 运行 Python 代码以完成数据分析数学任务 可用
图像变化 根据现有图像生成图像变化 即将推出
网络搜索 从网络检索数据 即将推出
Artifact 内容和应用程序可视化 即将推出

安装

此工具可以使用以下命令安装:cargo install bedrock_assistant

更多详情请参考 cargo crate.io.

要求

  • AWS 账户,并已启用 Bedrock
    • 默认区域:us-east-1
  • 为要使用的模型授予模型访问权限
    • 默认 Chat 模型 ID:anthropic.claude-3-haiku-20240307-v1
    • 默认图像生成模型 ID:amazon.titan-image-generator-v1
  • 设置 AWS CLI
    • 如果您使用 SAML 对您的 AWS 账户进行身份验证,请考虑使用 saml2aws 进行设置。

可选设置

  • 如果需要使用不同的聊天模型、图像生成模型或默认区域以外的区域,请将以下环境变量添加到您的系统。
  • 对于聊天模型:BEDROCK_CHAT_MODEL_ID
  • 对于图像生成模型:BEDROCK_IMAGE_MODEL_ID
  • 对于区域:BEDROCK_REGION

使用方法

  • 通过 AWS 命令行界面登录
  • 启动应用程序:在终端中运行 bedrock_assistant
    • 该应用程序默认支持流式传输。要禁用流式传输行为,请传递--non-stream参数。
  • 要进行聊天:输入您的消息并按enterreturn
  • 要退出应用程序:按ESCCtrl+C

图像生成

图像生成的示例查询

  • 在测试文件夹中生成一个可爱的“你好,世界”图像。
  • 在当前文件夹中生成两个大小为1024 * 1024的数学图像。

可用的图像生成配置

  • 图像数量:最大5个。默认为1。
  • 质量:标准或高级。默认为标准。
  • 高度:图像的高度(以像素为单位)。默认为512像素。
  • 宽度:图像的宽度(以像素为单位)。默认为512像素。

有关参数的更多详细信息,请参阅Bedrock官方文档

代码解释器

该应用程序默认使用python3.11进行数据分析、数据探索、数学等。
要么将python3.11添加到您的路径中,或者您可以使用环境变量BEDROCK_ASSISTANT_PYTHON配置可执行python路径。

例如,如果您想在特定路径使用python3.12

export BEDROCK_ASSISTANT_PYTHON="/opt/homebrew/bin/python3.12"

不要使用alias,因为它不会被rust识别。

代码解释的示例查询

  • 绘制y=x的图形

代码及其产生的任何工件/文件将默认保存在当前工作目录中,但您也可以指定要保存的位置,如下所示。

  • 绘制y=x的图形并将结果保存在测试文件夹中

您可能在全局环境中安装的库:- pandas - numpy - matplotlib - seaborn - scikit-learn - diagrams

也可能使用其他库。

读取文件

关于文件的查询示例

  • 总结./test/test.pdf中的内容。

演示

App Demo

即将推出

以下是我目前正在开发的一些工具/功能。

  • 图像变化
  • 内容和应用程序的可视化工件(HTML、JavaScript、React)

如果您有任何其他建议,请留言,我会很高兴知道!

依赖关系

~18–30MB
~494K SLoC