4 个版本 (2 个破坏性更新)
0.4.1 | 2024 年 8 月 16 日 |
---|---|
0.4.0 | 2024 年 8 月 16 日 |
0.3.0 | 2024 年 8 月 10 日 |
0.2.0 | 2024 年 8 月 10 日 |
#144 在 命令行工具
每月 445 次下载
57KB
1K SLoC
Bedrock Assistant / Artifact 使用 Rust 编写
一个使用 Rust 编写的 CLI 助手(聊天工具),由 AWS Bedrock Converse API 驱动,具有以下功能。
功能 | 描述 | 状态 |
---|---|---|
聊天 | 与 Claude 聊天 | 可用 |
图像生成 | 根据提示生成图像 | 可用 |
代码解释器 | 运行 Python 代码以完成数据分析数学任务 | 可用 |
图像变化 | 根据现有图像生成图像变化 | 即将推出 |
网络搜索 | 从网络检索数据 | 即将推出 |
Artifact | 内容和应用程序可视化 | 即将推出 |
安装
此工具可以使用以下命令安装:cargo
install bedrock_assistant
更多详情请参考 cargo crate.io.
要求
- AWS 账户,并已启用 Bedrock
- 默认区域:
us-east-1
- 默认区域:
- 为要使用的模型授予模型访问权限
- 默认 Chat 模型 ID:
anthropic.claude-3-haiku-20240307-v1
- 默认图像生成模型 ID:
amazon.titan-image-generator-v1
- 默认 Chat 模型 ID:
- 设置 AWS CLI
- 如果您使用 SAML 对您的 AWS 账户进行身份验证,请考虑使用
saml2aws
进行设置。
- 如果您使用 SAML 对您的 AWS 账户进行身份验证,请考虑使用
可选设置
- 如果需要使用不同的聊天模型、图像生成模型或默认区域以外的区域,请将以下环境变量添加到您的系统。
- 对于聊天模型:
BEDROCK_CHAT_MODEL_ID
- 对于图像生成模型:
BEDROCK_IMAGE_MODEL_ID
- 对于区域:
BEDROCK_REGION
使用方法
- 通过 AWS 命令行界面登录
- 启动应用程序:在终端中运行
bedrock_assistant
。- 该应用程序默认支持流式传输。要禁用流式传输行为,请传递
--non-stream
参数。
- 该应用程序默认支持流式传输。要禁用流式传输行为,请传递
- 要进行聊天:输入您的消息并按
enter
或return
。 - 要退出应用程序:按
ESC
或Ctrl+C
。
图像生成
图像生成的示例查询
- 在测试文件夹中生成一个可爱的“你好,世界”图像。
- 在当前文件夹中生成两个大小为1024 * 1024的数学图像。
可用的图像生成配置
- 图像数量:最大5个。默认为1。
- 质量:标准或高级。默认为标准。
- 高度:图像的高度(以像素为单位)。默认为512像素。
- 宽度:图像的宽度(以像素为单位)。默认为512像素。
有关参数的更多详细信息,请参阅Bedrock官方文档。
代码解释器
该应用程序默认使用python3.11
进行数据分析、数据探索、数学等。
要么将python3.11
添加到您的路径中,或者您可以使用环境变量BEDROCK_ASSISTANT_PYTHON
配置可执行python路径。
例如,如果您想在特定路径使用python3.12
。
export BEDROCK_ASSISTANT_PYTHON="/opt/homebrew/bin/python3.12"
不要使用alias
,因为它不会被rust识别。
代码解释的示例查询
- 绘制y=x的图形
代码及其产生的任何工件/文件将默认保存在当前工作目录中,但您也可以指定要保存的位置,如下所示。
- 绘制y=x的图形并将结果保存在测试文件夹中
您可能在全局环境中安装的库:- pandas - numpy - matplotlib - seaborn - scikit-learn - diagrams
也可能使用其他库。
读取文件
关于文件的查询示例
- 总结./test/test.pdf中的内容。
演示
即将推出
以下是我目前正在开发的一些工具/功能。
- 图像变化
- 内容和应用程序的可视化工件(HTML、JavaScript、React)
如果您有任何其他建议,请留言,我会很高兴知道!
依赖关系
~18–30MB
~494K SLoC