22 个版本 (10 个稳定)

1.6.0 2024年7月30日
1.5.0 2024年6月26日
1.3.0 2024年1月22日
1.2.0 2023年11月17日
0.1.0 2021年5月19日

#65解析实现

Download history 444/week @ 2024-05-03 635/week @ 2024-05-10 852/week @ 2024-05-17 604/week @ 2024-05-24 606/week @ 2024-05-31 484/week @ 2024-06-07 538/week @ 2024-06-14 633/week @ 2024-06-21 497/week @ 2024-06-28 881/week @ 2024-07-05 581/week @ 2024-07-12 307/week @ 2024-07-19 502/week @ 2024-07-26 201/week @ 2024-08-02 375/week @ 2024-08-09 359/week @ 2024-08-16

1,473 个月下载量

MIT 许可证

370KB
5.5K SLoC

jaq

Build status Crates.io Documentation Rust 1.64+

jaq(发音类似于 Jacques[^jacques])是 JSON 数据处理工具 jq 的克隆。jaq 旨在支持 jq 的大多数语法和操作子集。

您可以在 jaq 演示场 上尝试 jaq。演示场的说明可以在这里找到 这里

jaq 关注三个目标

  • 正确性:jaq 旨在提供比 jq 更正确、更可预测的实现,同时在大多数情况下保持与 jq 的兼容性。

    一些令人惊讶的 jq 行为的示例
    • nan > nan 是假的,而 nan < nan 是真的。
    • [[]] | implode 导致 jq 崩溃,尽管 已知道这个问题有五年了,但尚未得到修复。
    • jq 用户手册》声称,limit(n; exp) "从exp中提取最多n个输出"。这适用于n > 1的情况,例如jq -n '[limit(2; 1, 2, 3)]'产生[1, 2],但当n == 0时,jq -n '[limit(0; 1, 2, 3)]'产生[1]而不是空数组。更糟糕的是,当n < 0时,则limit会返回exp的所有输出,而这并未在文档中说明。
  • 性能:我最初创建jaq是因为我对jq的长时间启动时间感到困扰,在我的机器上大约需要50毫秒。这在处理大量小文件时尤其明显。jaq的启动速度比jq 1.6快约30倍,并且在许多其他基准测试中也优于jq

  • 简洁性:jaq旨在拥有简单且小巧的实现,以减少潜在的错误并便于贡献。

我从另一个Rust程序中获得了灵感,即jql。然而,与jql不同,jaq旨在尽可能模仿jq的语法和语义。这应该允许熟悉jq的用户轻松使用jaq。

[^jacques]:我想创建一个像好服务员一样低调而尽职的工具。当我想到一个典型的(法国)服务员的名字时,我的脑海中浮现出“Jacques”。后来,我了解到古老的法语单词jacquet,意为“松鼠”,这为名字提供了一个很好的事后灵感。

安装

二进制文件

您可以在发布页面上下载Linux、Mac和Windows的二进制文件。

您还可以在macOS或Linux上使用homebrew安装jaq

$ brew install jaq
$ brew install --HEAD jaq # latest development version

或在Windows上使用scoop

$ scoop install main/jaq

从源码安装

要编译jaq,您需要一个Rust工具链。有关说明,请参阅https://rustup.rs/。(注意,Linux发行版中提供的Rust编译器可能太旧,无法编译jaq。)

以下任何命令都可以安装jaq

$ cargo install --locked jaq
$ cargo install --locked --git https://github.com/01mf02/jaq # latest development version

在我的系统中,这两个命令都将可执行文件放置在~/.cargo/bin/jaq

如果您已克隆此存储库,您还可以通过在克隆的存储库中执行一个命令来构建jaq

$ cargo build --release # places binary into target/release/jaq
$ cargo install --locked --path jaq # installs binary

jaq 应该可以在Rust支持的所有系统上运行。如果不行,请提交一个问题。

示例

以下示例应该能让您对 jaq 目前能做什么有个印象。您应该通过将 jaq 替换为 jq 来获得相同的输出。如果不是这样,提交问题将受到赞赏。 :) 语法在jq 手册中有记录。

访问字段

$ echo '{"a": 1, "b": 2}' | jaq '.a'
1

添加值

$ echo '{"a": 1, "b": 2}' | jaq 'add'
3

以两种方式从一个对象构建一个数组并显示它们是相等的

$ echo '{"a": 1, "b": 2}' | jaq '[.a, .b] == [.[]]'
true

对数组的所有元素应用过滤器并过滤结果

$ echo '[0, 1, 2, 3]' | jaq 'map(.*2) | [.[] | select(. < 5)]'
[0, 2, 4]

将输入值读取(吸入)到数组中并计算其元素的平均值

$ echo '1 2 3 4' | jaq -s 'add / length'
2.5

反复对一个过滤器本身应用过滤器并输出中间结果

$ echo '0' | jaq '[recurse(.+1; . < 3)]'
[0, 1, 2]

懒展开输入并输出中间结果

$ seq 1000 | jaq -n 'foreach inputs as $x (0; . + $x)'
1 3 6 10 15 [...]

性能

以下评估包括几个基准测试,这些测试允许比较 jaq、jq 和 gojq 的性能。空(empty)基准测试在空输入上运行 empty 过滤器 n 次,用于测量启动时间。bf-fib 基准测试运行一个用 jq 编写的 Brainfuck 解释器,解释生成 n 个斐波那契数的 Brainfuck 脚本。其他基准测试使用 n 作为输入评估各种过滤器;有关详细信息,请参阅 bench.sh

我在一个装有 AMD Ryzen 5 5500U 的 Linux 系统上使用 bench.sh target/release/jaq jq-1.7 gojq-0.1213 jq-1.6 | tee bench.json 生成了基准测试数据。然后我用一个“一行命令”(稍微拉伸了术语和行)处理了结果

jq -rs '.[] | "|`\(.name)`|\(.n)|" + ([.time[] | min | (.*1000|round)? // "N/A"] | min as $total_min | map(if . == $total_min then "**\(.)**" else "\(.)" end) | join("|"))' bench.json

(当然,您也可以在这里使用 jaq 而不是 jq。)最后,我将表头与输出连接起来,并通过 pandoc -t gfm 管道传输。

[^binaries]: jq-1.7.1 和 gojq-0.12.15 的二进制文件是从它们的 GitHub 发布页面检索的,jq-1.6 的二进制文件是从标准的 Ubuntu 存储库安装的。

表:以毫秒为单位的评估结果(如果超过10秒,则为“N/A”)。

基准测试 n jaq-1.4 jq-1.7.1 gojq-0.12.15 jq-1.6
empty 512 610 660 740 8310
bf-fib 13 470 1220 570 1440
reverse 1048576 50 680 270 650
sort 1048576 140 550 580 680
group-by 1048576 400 1890 1550 2860
min-max 1048576 210 320 250 350
add 1048576 520 640 1310 730
kv 131072 170 140 220 190
kv-update 131072 190 540 440 N/A
kv-entries 131072 630 1150 830 1120
ex-implode 1048576 510 1100 610 1090
reduce 1048576 820 890 N/A 860
try-catch 1048576 180 320 370 670
tree-flatten 17 730 360 10 480
tree-update 17 560 970 1330 1190
tree-paths 17 470 250 880 460
to-fromjson 65536 30 370 120 390
ack 7 530 700 1230 620
range-prop 128 280 310 210 590

结果表明,jaq-1.4 在 15 个基准测试中是最快的,而 jq-1.7.1 在 2 个基准测试中是最快的,gojq-0.12.15 在 2 个基准测试中是最快的。gojq 在 tree-flatten 上要快得多,因为它以本地方式实现了过滤器 flatten,而不是通过定义。

特性

以下是对已实现和尚未实现的特性的概述

  • ,以及
  • 尚未实现的特性。

欢迎为扩展 jaq 做出贡献。

基础

  • 恒等(.
  • 递归(..
  • 基本数据类型(null、布尔值、数字、字符串、数组、对象)
  • 条件语句-否则 (if .a < .b then .a else .b end)
  • 折叠 (reduce .[] as $x (0; . + $x), foreach .[] as $x (0; . + $x; . + .))
  • 错误处理 (try ... catch ...) (有关与 jq 的区别,请参阅 这里)
  • 字符串插值 ("The successor of \(.) is \(.+1).")
  • 格式化字符串 (@json, @text, @csv, @tsv, @html, @sh, @base64, @base64d)

路径

  • 数组/对象的索引 (.[0], .a, .["a"])
  • 遍历数组/对象 (.[])
  • 可选索引/遍历 (.a?, .[]?)
  • 数组切片 (.[3:7], .[0:-1])
  • 字符串切片

运算符

  • 组合 (|)
  • 绑定 (. as $x | $x)
  • 连接 (,)
  • 直接赋值 (=)
  • 更新赋值 (|=, +=, -=)
  • 交替 (//)
  • 逻辑 (or, and)
  • 相等和比较 (.a == .b, .a < .b)
  • 算术运算 (+-*/%)
  • 取反 (-)
  • 错误抑制 (?)

定义

  • 基本定义 (def map(f): [.[] | f];)
  • 递归定义 (def r: r; r)

核心过滤器

  • 空集合 (empty)
  • 错误 (error)
  • 输入 (inputs)
  • 长度 (lengthutf8bytelength)
  • 舍入 (floorroundceil)
  • 字符串与JSON之间的转换 (fromjsontojson)
  • 字符串与整数之间的转换 (explodeimplode)
  • 字符串标准化 (ascii_downcaseascii_upcase)
  • 字符串前缀/后缀 (startswithendswithltrimstrrtrimstr)
  • 字符串分割 (split("foo"))
  • 数组过滤器 (reversesortsort_by(-.)group_bymin_bymax_by)
  • 流消费者 (firstlastrangefold)
  • 流生成器 (rangerecurse)
  • 时间 (nowfromdateiso8601todateiso8601)
  • 更多数值过滤器 (sqrtsinlogpow,...) (数值过滤器列表)
  • 更多时间过滤器 (strptimestrftimestrflocaltimemktimegmtime,和 localtime)

标准过滤器

这些过滤器通过更基本的过滤器定义。它们的定义在 std.jq

  • 未定义 (null)
  • 布尔值 (truefalsenot)
  • 特殊数字 (naninfiniteisnanisinfiniteisfiniteisnormal)
  • 类型 (type)
  • 过滤 (select(. >= 0))
  • 选择 (valuesnullsbooleansnumbersstringsarraysobjectsiterablesscalars)
  • 转换(tostringtonumber
  • 可迭代过滤(map(.+1)map_values(.+1)addjoin("a")
  • 数组过滤(transposefirstlastnth(10)flattenminmax
  • 对象-数组转换(to_entriesfrom_entrieswith_entries
  • 全称/存在量词(allany
  • 递归(walk
  • I/O(input
  • 正则表达式(testscanmatchcapturesplitssubgsub
  • 时间(fromdatetodate

数字过滤

jaq从libm导入了许多过滤器,并遵循它们的类型签名。

jaq中定义的数字过滤器的完整列表

零参数过滤器

  • acos
  • acosh
  • asin
  • asinh
  • atan
  • atanh
  • cbrt
  • cos
  • cosh
  • erf
  • erfc
  • exp
  • exp10
  • exp2
  • expm1
  • fabs
  • frexp,它返回(浮点数,整数)的对。
  • ilogb,它返回整数。
  • j0
  • j1
  • lgamma
  • log
  • log10
  • log1p
  • log2
  • logb
  • modf,它返回(浮点数,浮点数)的对。
  • nearbyint
  • pow10
  • rint
  • significand
  • sin
  • sinh
  • sqrt
  • tan
  • tanh
  • tgamma
  • trunc
  • y0
  • y1

忽略.的两个参数过滤器

  • atan2
  • copysign
  • drem
  • fdim
  • fmax
  • fmin
  • fmod
  • hypot
  • jn,它将整数作为第一个参数。
  • ldexp,它将整数作为第二个参数。
  • nextafter
  • nexttoward
  • pow
  • remainder
  • scalb
  • scalbln,它将整数作为第二个参数。
  • yn,它将整数作为第一个参数。

忽略.的三个参数过滤器

  • fma

高级功能

jaq目前并不旨在支持jq的几个功能,例如

  • 模块
  • SQL样式运算符
  • 流式处理

jq和jaq之间的差异

数字

jq为任何数字使用64位浮点数(浮点数)。相比之下,jaq将0或-42等数字解释为机器大小的整数,将0.0或3e8等数字解释为64位浮点数。jaq中的许多操作,如数组索引,都会检查传递的数字是否确实是整数。背后的动机是为了避免可能导致错误结果的舍入误差。例如

$ jq  -n '[0, 1, 2] | .[1.0000000000000001]'
1
$ jaq -n '[0, 1, 2] | .[1.0000000000000001]'
Error: cannot use 1.0 as integer
$ jaq -n '[0, 1, 2] | .[1]'
1

jaq的规则是

  • 两个整数之和、差、积和余数是整数。
  • 两个数字之间的任何其他运算都会得到一个浮点数。

示例

$ jaq -n '1 + 2'
3
$ jaq -n '10 / 2'
5.0
$ jaq -n '1.0 + 2'
3.0

您可以通过添加0.0、乘以1.0或除以1将整数转换为浮点数。您可以通过roundfloorceil将浮点数转换为整数。

$ jaq -n '1.2 | [floor, round, ceil]'
[1, 1, 2]

NaN和无穷大

在jq中,除以0有一些令人惊讶的特性;例如,0 / 0会得到nan,而0 as $n | $n / 0会产生错误。在jaq中,n / 0如果n == 0,则返回nan;如果n > 0,则返回infinite;如果n < 0,则返回-infinite。jaq的行为更接近IEEE浮点算术标准(IEEE 754)。

jaq在浮点数上实现了一个全序,以允许排序值。因此,它不幸地必须强制执行nan == nan。 (jq通过强制执行nan < nan来解决这个问题,这违反了全序的基本定律。)

与jq一样,jaq将naninfinite作为null打印到JSON中,因为JSON不支持将这些值作为数字进行编码。

保留分数数

jaq完美地保留了来自JSON数据的分数数(只要它们没有被用于某些算术运算),而jq 1.6可能默默地转换为64位浮点数

$ echo '1e500' | jq '.'
1.7976931348623157e+308
$ echo '1e500' | jaq '.'
1e500

因此,与jq 1.6不同,jaq满足jq手册中的以下段落

关于身份过滤器的一个重要观点是,它保证保留值的字面十进制表示形式。当处理无法无损转换为IEEE754双精度表示形式的数字时,这一点尤为重要。

请注意,jq的新版本,例如1.7,似乎也保留了字面十进制表示形式。

赋值

与jq一样,jaq允许使用p |= f形式的赋值。然而,jaq对这些赋值的解释不同。幸运的是,在大多数情况下,结果是相同的。

在jq中,赋值p |= f首先构建所有匹配p的值的路径。 然后,它将这些值应用于过滤器f

在jaq中,赋值p |= f立即将f应用于任何匹配p的值。与jq不同,赋值不显式构建路径。

jaq的赋值实现可能带来更高的性能,因为它不构建路径。此外,这也防止了jq中“按设计”的几个错误。例如,给定过滤器[0, 1, 2, 3] | .[] |= empty,jq返回[1, 3],而jaq返回[]。这里发生了什么?

jq首先构建与.[]相对应的路径,它们是.0, .1, .2, .3。然后,它删除每个路径上的元素。但是,每次删除都会更改剩余路径所引用的值。也就是说,在删除.0(值0)之后,.1并不指向值1,而是指向值2!这也是为什么值1(以及随之而来的值3)没有被删除的原因。

在jq中还有更多奇怪的事情;例如,0 | 0 |= .+1在jq中返回1,尽管0不是一个有效的路径表达式。然而,1 | 0 |= .+1会返回一个错误。在jaq中,任何这样的赋值都会返回一个错误。

jaq试图使用右侧表达式的多个输出,而jq只使用第一个。例如,以下代码在jaq中会产生输出0 1 1 2,而在jq中只产生输出0。然而,以下代码在jaq和jq中都会产生输出{a: 1} | .a |= (2, 3),因为在jaq和jq中,一个对象只能与任何给定的键关联一个值,所以我们不能以有意义的方式使用多个输出。

由于jaq不构造路径,因此不允许在赋值操作左侧使用某些过滤器,例如firstlastlimit:例如,以下代码在jq中会产生输出[1, 2, 3] | first(.[]) |= .-1,但在jaq中是无效的。同样,以下代码在jq中会产生输出[1, 2, 3] | limit(2; .[]) |= .-1,但在jaq中是无效的。(顺便一提,jq也不允许使用last。)

定义

与jq一样,jaq允许定义过滤器,例如

def map(f): [.[] | f];

参数也可以以值传递的方式传递,例如

def cartesian($f; $g): [$f, $g];

过滤器定义可以是嵌套和递归的,即可以引用自身。也就是说,可以在jaq中定义类似于recurse的过滤器

def recurse(f): def r: ., (f | r); r;

从jaq 1.2版本开始,jaq优化了尾调用,与jq类似。从jaq 1.1版本开始,递归过滤器也可以有非变量参数,就像在jq中一样。例如

def f(a): a, f(1+a);

使用非变量参数的递归过滤器可能会产生令人惊讶的效果;例如,一个调用 f(0) 会构建出形状为 f(1+(..(1+0)...)) 的调用,这会导致指数级的执行时间。

使用非变量参数的递归过滤器通常可以通过以下方式实现:

  • 嵌套过滤器:例如,而不是 def walk(f): (.[]? |= walk(f)) | f;,你可以使用 def walk(f): def rec: (.[]? |= rec) | f; rec;
  • 变量参数过滤器:例如,而不是 def f(a): a, f(1+a);,你也可以同样地写出 def f($a): $a, f(1+$a);
  • 使用 recurse 的过滤器:例如,你可以写出 def f(a): a | recurse(1+.);。如果你期望你的过滤器会深度递归,建议使用 recurse 来实现,因为 jaq 对 recurse 有一个优化的实现。

所有这些选项都由 jaq 支持。

参数

类似于 jq,jaq 允许通过命令行定义参数,特别是通过选项 --arg--rawfile--slurpfile。这会将变量绑定到值上,对于每个以这种方式绑定到 v 的变量 $x$ARGS.named 包含一个键为 x 值为 v 的条目。例如

$ jaq -n --arg x 1 --arg y 2 '$x, $y, $ARGS.named'
"1"
"2"
{
  "x": "1",
  "y": "2"
}

折叠

jq 和 jaq 提供了过滤器 reduce xs as $x (init; f)foreach xs as $x (init; f)

在 jaq 中,这些过滤器的输出定义得非常简单:假设 xs 评估为 x0x1、...、xn,则 reduce xs as $x (init; f) 评估为

init
| x0 as $x | f
| ...
| xn as $x | f

并且 foreach xs as $x (init; f) 评估为

init
| x0 as $x | f | (.,
| ...
| xn as $x | f | (.,
empty)...)

此外,jaq 还提供了过滤器 for xs as $x (init; f),其评估结果为

init
| ., (x0 as $x | f
| ...
| ., (xn as $x | f
)...)

foreachfor 之间的区别在于,for 产生 init 的输出,而 foreach 则省略它。例如,foreach (1, 2, 3) as $x (0; .+$x) 的结果为 1, 3, 6,而 for (1, 2, 3) as $x (0; .+$x) 的结果为 0, 1, 3, 6

在 jaq 中,对 reduce/foreach 的解释相对于 jq 有以下优势

  • 它非常自然地处理产生多个输出的过滤器。相比之下,jq 在 f 的输出上有所区分,因为它仅在最后一个上递归,尽管它输出了所有这些。

    示例

    foreach (5, 10) as $x (1; .+$x, -.) 在 jq 中产生 6, -1, 9, 1,而在 jaq 中则产生 6, 16, -6, -1, 9, 1。我们可以看到,jq 和 jaq 都产生了来自第一次迭代的值 6-1(其中 $x 是 5),即 1 | 5 as $x | (.+$x, -.)。然而,jq 仅在第一次迭代返回的最后一个值(即 $x 是 10)上执行第二次迭代,产生由 -1 得到的值 91,即 -1 | 10 as $x | (.+$x, -.)。jaq 也产生这些值,但它也在第一次迭代返回的所有其他值上执行第二次迭代,即 6,产生由 6 | 10 as $x | (.+$x, -.) 得到的值 16-6

  • 这使得 reduceforeach 的实现成为相同代码的特殊情况,从而减少了潜在的错误。

foreach ...相比,过滤器for ...(其中...指代xs as $x (init; f))与reduce有更强的关联。特别是,reduce ...产生的值是for ...产生的值的子集。如果你将for替换为foreach,则不会保持这种关系。

示例

例如,如果我们设置...empty as $x (0; .+$x),那么foreach ...不会产生任何值,而for ...reduce ...会产生0

此外,jq提供了过滤器foreach xs as $x (init; f; proj)foreach/3)并将foreach xs as $x (init; f; .)foreach/2)解释为foreach xs as $x (init; f; .),而jaq则不提供foreach/3,因为它需要在解析器和解释器中完全独立的逻辑来处理foreach/2reduce

错误处理

在jq中,try f catch g表达式在发生错误时立即退出f流,并在之后将控制权交给g。这在其手册中被提及为退出循环的可能机制(这里)。然而,jaq不会中断f流,而是将每个错误值发送到g过滤器;结果是,从f流出的值与在错误发生处穿插的从g流出的值。

考虑以下示例:这个表达式在jq中是true,因为第一个error(2)中断了流

[try (1, error(2), 3, error(4)) catch .] == [1, 2]

然而在jaq中,这成立

[try (1, error(2), 3, error(4)) catch .] == [1, 2, 3, 4]

杂项

  • 吸入:当使用(通过 -s / --slurp 选项)将文件吸入时,jq 将所有文件的输入合并成一个单一数组,而 jaq 为每个文件生成一个数组。这是由于 - / --in-place 选项,它无法与 jq 实现的行为一起工作。jaq 可以近似 jq 的行为;例如,要实现 jq -s . a b 的输出,你可以使用 jaq -. <(cat a b)
  • 笛卡尔积:在 jq 中,[(1,2) * (3,4)] 生成 [3, 6, 4, 8],而 [{a: (1,2), b: (3,4)} | .a * .b] 生成 [3, 4, 6, 8]。jaq 在这两种情况下都生成 [3, 4, 6, 8]
  • 索引 null:在 jq 中,当给定 null 输入时,.["a"].[0] 生成 null,但 .[] 生成一个错误。jaq 在所有情况下都生成错误以防止意外索引 null 值。要在 jq 和 jaq 中获得相同的行为,你可以使用 .["a"]? // null.[0]? // null 代替。
  • 列表更新:在jq中,[0, 1] | .[3] = 3的结果是[0, 1, null, 3];也就是说,当更新超过列表大小范围时,jq会使用null填充列表。相比之下,在这种情况下,jaq会因为越界错误而失败。
  • 输入读取:当没有更多的输入值时,在jq中,input会产生一个错误,而在jaq中,则没有输出值。
  • 连接:当给定一个数组[x0, x1, ..., xn]时,在jq中,join(x)会将输入数组的所有元素转换为字符串,并用x插入它们之间,而在jaq中,join(x)则简单地计算x0 + x + x1 + x + ... + xn。当输入数组的所有元素和x都是字符串时,jq和jaq会产生相同的输出。

贡献

欢迎向jaq贡献。请确保在您的更改之后,cargo test可以成功运行。

致谢

本项目NGI0 Entrust基金资助,该基金由NLnet设立,并获得欧洲委员会Next Generation Internet计划的支持,在DG Communications Networks, Content and Technology的指导下,根据合同协议号No 101069594。

jaq还受益于

依赖关系

~8–20MB
~262K SLoC