6个版本

0.1.51 2022年10月16日
0.1.50 2022年4月6日
0.1.4 2022年3月21日

HTTP客户端中排名330

每月下载量26
用于requests2

自定义许可证

3KB

Requests2

A Rust库,该crate可以帮助您快速请求数据、解析和存储数据(Python BS4库)。

  • 每次新的请求数据都会初始化一个缓存实例,将解析的数据存储为键值对

  • 当你获取到connect实例时,你可以调用解析方法以闭包的形式解析数据

  • 使用dbnote宏,将数据写入数据库表

  • config文件中设置connect数据库字符串

  • find、find_all、select、select_all方法支持CSS选择器以解析DOM文档

config
    postgres=<host=localhost user=your password=test dbname=postgres>
    sqlite=<dbname=sqlite_db>

自动将sqlite_db文件添加到项目目录,支持sqlite

将数据存储到csv和postgres数据库,你可以使用此示例代码

// store example
use requests2::{
    dbfile::{self, DBfile},
    dbfile_derive::{dbnote, DBfile},
    *,
};

// change postgres to sqlite same run
#[derive(DBfile)]
#[dbnote(table_name = "test999", driver = "postgres" primary_key = "isbn")]
pub struct PP {
    pub isbn: String,
    pub price: f32,
}

fn main() {
    let pp = PP {
        isbn: String::from("test"),
        price: 0.1,
    };
    pp.create_table();
    pp.to_db();
}
// parse code
let data = Cache::new();
let client = Requests::new(&data);
let rq = client.connect("https://www.qq.com/", Headers::Default);

#[derive(DBfile, Debug)]
#[dbnote(table_name = "test_link", driver = "postgres", primary_key="href")]
struct Link<'a> {
    href: &'a str,
    link_name: String,
    title: &'a str,
}

rq.free_parse(|p| {
    let title = p.select("title").text();

    let links = p
        .select_all("li.nav-item a")
        .iter()
        .map(|x| Link {
            title: "",
            href: x.attr("href").unwrap_or_default(),
            link_name: x.text(),
        })
        .collect::<Vec<Link>>();


    // create a table
    links[0].create_table();

    for (idx, mut link) in links.into_iter().enumerate() {
        if idx == 0 {
            link.title = &title;
            link.write_csv_head();
        }
        link.to_csv("a");
        link.to_db();
    }
});

#[dbnote)]添加到结构体中,你可以使用write_csv_head()to_csv将数据放入文件,table_name作为文件名。使用createa_table()你可以在postgres中创建表,但你必须将配置文件添加到项目中。to_db()将数据放入表。

find()find_all()select()select_all()方法统一使用CSS选择器作为第一个参数。

查看测试文件夹以获取更多详细信息

无运行时依赖