#data-processing #web-framework #spider #async-io #thread-pool #web-crawler #web-crawling

无 std dyer

dyer 设计用于可靠、灵活且快速的服务,基于请求-响应,包括数据处理、网络爬虫等,在不牺牲速度的前提下,提供一些友好、灵活、全面的特性。

9 个稳定版本 (3 个主要版本)

3.3.2 2022 年 7 月 27 日
3.2.0 2022 年 5 月 19 日
3.1.0 2022 年 3 月 14 日
3.0.1 2021 年 12 月 1 日
0.3.0 2021 年 3 月 23 日

#7 in #spider

Download history 11621/week @ 2024-03-08 11575/week @ 2024-03-15 11319/week @ 2024-03-22 11640/week @ 2024-03-29 11488/week @ 2024-04-05 11541/week @ 2024-04-12 11591/week @ 2024-04-19 11786/week @ 2024-04-26 11778/week @ 2024-05-03 11665/week @ 2024-05-10 11648/week @ 2024-05-17 11717/week @ 2024-05-24 11758/week @ 2024-05-31 11604/week @ 2024-06-07 2786/week @ 2024-06-14

每月 27,977 次下载
用于 aurion_rs

MIT 许可证

1.5MB
5.5K SLoC

包含 (WOFF 字体, 99KB) fontawesome-webfont.woff,(WOFF 字体, 78KB) fontawesome-webfont.woff2,(WOFF 字体, 45KB) open-sans-v17-all-charsets-300.woff2,(WOFF 字体, 41KB) open-sans-v17-all-charsets-300italic.woff2,(WOFF 字体, 45KB) open-sans-v17-all-charsets-600.woff2,(WOFF 字体, 43KB) open-sans-v17-all-charsets-600italic.woff2 和更多

dyer

API Document crates.io Cookbook

概览

dyer 设计用于可靠、灵活且快速的服务,基于请求-响应,包括数据处理、网络爬虫等,在不牺牲速度的前提下,提供一些友好、互操作、全面的特性。

特性

  • 异步、并发流和 I/O,充分利用线程池、网络和系统资源。
  • 事件驱动,一旦设置初始值和递归生成器,dyer 将以互操作的方式处理其余部分。
  • 用户友好且灵活,dyer 提供高级、灵活、易于使用的包装器和 API,为您做很多事情。

特性标志

为了减少代码冗余并加快编译速度,dyer 使用特性标志来标记必要的模块/函数,目前这里有一些支持的特性

  • xpath: 启用使用 xpath 解析 HTML 响应
  • compression: 启用 HTTP 压缩:brdeflategzip
  • proxy: 启用使用代理
  • full: 启用所有功能

指南

入门,请安装 dyer-cli 并查看 示例

食谱 提供了 dyer 的详细视图。

依赖关系

~5–17MB
~227K SLoC