22 个版本 (10 个稳定)
1.6.0 | 2024年7月30日 |
---|---|
1.5.0 | 2024年6月26日 |
1.3.0 | 2024年1月22日 |
1.2.0 | 2023年11月17日 |
0.1.0 | 2021年5月19日 |
#65 在 解析实现
1,473 个月下载量
370KB
5.5K SLoC
jaq
jaq(发音类似于 Jacques[^jacques])是 JSON 数据处理工具 jq 的克隆。jaq 旨在支持 jq 的大多数语法和操作子集。
您可以在 jaq 演示场 上尝试 jaq。演示场的说明可以在这里找到 这里。
jaq 关注三个目标
-
正确性:jaq 旨在提供比 jq 更正确、更可预测的实现,同时在大多数情况下保持与 jq 的兼容性。
一些令人惊讶的 jq 行为的示例
nan > nan
是假的,而nan < nan
是真的。[[]] | implode
导致 jq 崩溃,尽管 已知道这个问题有五年了,但尚未得到修复。- 《jq 用户手册》声称,
limit(n; exp)
"从exp
中提取最多n
个输出"。这适用于n > 1
的情况,例如jq -n '[limit(2; 1, 2, 3)]'
产生[1, 2]
,但当n == 0
时,jq -n '[limit(0; 1, 2, 3)]'
产生[1]
而不是空数组。更糟糕的是,当n < 0
时,则limit
会返回exp
的所有输出,而这并未在文档中说明。
-
性能:我最初创建jaq是因为我对jq的长时间启动时间感到困扰,在我的机器上大约需要50毫秒。这在处理大量小文件时尤其明显。jaq的启动速度比jq 1.6快约30倍,并且在许多其他基准测试中也优于jq。
-
简洁性:jaq旨在拥有简单且小巧的实现,以减少潜在的错误并便于贡献。
我从另一个Rust程序中获得了灵感,即jql。然而,与jql不同,jaq旨在尽可能模仿jq的语法和语义。这应该允许熟悉jq的用户轻松使用jaq。
[^jacques]:我想创建一个像好服务员一样低调而尽职的工具。当我想到一个典型的(法国)服务员的名字时,我的脑海中浮现出“Jacques”。后来,我了解到古老的法语单词jacquet,意为“松鼠”,这为名字提供了一个很好的事后灵感。
安装
二进制文件
您可以在发布页面上下载Linux、Mac和Windows的二进制文件。
您还可以在macOS或Linux上使用homebrew安装jaq
$ brew install jaq
$ brew install --HEAD jaq # latest development version
或在Windows上使用scoop
$ scoop install main/jaq
从源码安装
要编译jaq,您需要一个Rust工具链。有关说明,请参阅https://rustup.rs/。(注意,Linux发行版中提供的Rust编译器可能太旧,无法编译jaq。)
以下任何命令都可以安装jaq
$ cargo install --locked jaq
$ cargo install --locked --git https://github.com/01mf02/jaq # latest development version
在我的系统中,这两个命令都将可执行文件放置在~/.cargo/bin/jaq
。
如果您已克隆此存储库,您还可以通过在克隆的存储库中执行一个命令来构建jaq
$ cargo build --release # places binary into target/release/jaq
$ cargo install --locked --path jaq # installs binary
jaq 应该可以在Rust支持的所有系统上运行。如果不行,请提交一个问题。
示例
以下示例应该能让您对 jaq 目前能做什么有个印象。您应该通过将 jaq 替换为 jq 来获得相同的输出。如果不是这样,提交问题将受到赞赏。 :) 语法在jq 手册中有记录。
访问字段
$ echo '{"a": 1, "b": 2}' | jaq '.a'
1
添加值
$ echo '{"a": 1, "b": 2}' | jaq 'add'
3
以两种方式从一个对象构建一个数组并显示它们是相等的
$ echo '{"a": 1, "b": 2}' | jaq '[.a, .b] == [.[]]'
true
对数组的所有元素应用过滤器并过滤结果
$ echo '[0, 1, 2, 3]' | jaq 'map(.*2) | [.[] | select(. < 5)]'
[0, 2, 4]
将输入值读取(吸入)到数组中并计算其元素的平均值
$ echo '1 2 3 4' | jaq -s 'add / length'
2.5
反复对一个过滤器本身应用过滤器并输出中间结果
$ echo '0' | jaq '[recurse(.+1; . < 3)]'
[0, 1, 2]
懒展开输入并输出中间结果
$ seq 1000 | jaq -n 'foreach inputs as $x (0; . + $x)'
1 3 6 10 15 [...]
性能
以下评估包括几个基准测试,这些测试允许比较 jaq、jq 和 gojq 的性能。空(empty)基准测试在空输入上运行 empty
过滤器 n
次,用于测量启动时间。bf-fib 基准测试运行一个用 jq 编写的 Brainfuck 解释器,解释生成 n
个斐波那契数的 Brainfuck 脚本。其他基准测试使用 n
作为输入评估各种过滤器;有关详细信息,请参阅 bench.sh
。
我在一个装有 AMD Ryzen 5 5500U 的 Linux 系统上使用 bench.sh target/release/jaq jq-1.7 gojq-0.1213 jq-1.6 | tee bench.json
生成了基准测试数据。然后我用一个“一行命令”(稍微拉伸了术语和行)处理了结果
jq -rs '.[] | "|`\(.name)`|\(.n)|" + ([.time[] | min | (.*1000|round)? // "N/A"] | min as $total_min | map(if . == $total_min then "**\(.)**" else "\(.)" end) | join("|"))' bench.json
(当然,您也可以在这里使用 jaq 而不是 jq。)最后,我将表头与输出连接起来,并通过 pandoc -t gfm
管道传输。
[^binaries]: jq-1.7.1 和 gojq-0.12.15 的二进制文件是从它们的 GitHub 发布页面检索的,jq-1.6 的二进制文件是从标准的 Ubuntu 存储库安装的。
表:以毫秒为单位的评估结果(如果超过10秒,则为“N/A”)。
基准测试 | n | jaq-1.4 | jq-1.7.1 | gojq-0.12.15 | jq-1.6 |
---|---|---|---|---|---|
empty |
512 | 610 | 660 | 740 | 8310 |
bf-fib |
13 | 470 | 1220 | 570 | 1440 |
reverse |
1048576 | 50 | 680 | 270 | 650 |
sort |
1048576 | 140 | 550 | 580 | 680 |
group-by |
1048576 | 400 | 1890 | 1550 | 2860 |
min-max |
1048576 | 210 | 320 | 250 | 350 |
add |
1048576 | 520 | 640 | 1310 | 730 |
kv |
131072 | 170 | 140 | 220 | 190 |
kv-update |
131072 | 190 | 540 | 440 | N/A |
kv-entries |
131072 | 630 | 1150 | 830 | 1120 |
ex-implode |
1048576 | 510 | 1100 | 610 | 1090 |
reduce |
1048576 | 820 | 890 | N/A | 860 |
try-catch |
1048576 | 180 | 320 | 370 | 670 |
tree-flatten |
17 | 730 | 360 | 10 | 480 |
tree-update |
17 | 560 | 970 | 1330 | 1190 |
tree-paths |
17 | 470 | 250 | 880 | 460 |
to-fromjson |
65536 | 30 | 370 | 120 | 390 |
ack |
7 | 530 | 700 | 1230 | 620 |
range-prop |
128 | 280 | 310 | 210 | 590 |
结果表明,jaq-1.4 在 15 个基准测试中是最快的,而 jq-1.7.1 在 2 个基准测试中是最快的,gojq-0.12.15 在 2 个基准测试中是最快的。gojq 在 tree-flatten
上要快得多,因为它以本地方式实现了过滤器 flatten
,而不是通过定义。
特性
以下是对已实现和尚未实现的特性的概述
- ,以及
- 尚未实现的特性。
基础
- 恒等(
.
) - 递归(
..
) - 基本数据类型(null、布尔值、数字、字符串、数组、对象)
- 条件语句-否则 (
if .a < .b then .a else .b end
) - 折叠 (
reduce .[] as $x (0; . + $x)
,foreach .[] as $x (0; . + $x; . + .)
) - 错误处理 (
try ... catch ...
) (有关与 jq 的区别,请参阅 这里) - 字符串插值 (
"The successor of \(.) is \(.+1)."
) - 格式化字符串 (
@json
,@text
,@csv
,@tsv
,@html
,@sh
,@base64
,@base64d
)
路径
- 数组/对象的索引 (
.[0]
,.a
,.["a"]
) - 遍历数组/对象 (
.[]
) - 可选索引/遍历 (
.a?
,.[]?
) - 数组切片 (
.[3:7]
,.[0:-1]
) - 字符串切片
运算符
- 组合 (
|
) - 绑定 (
. as $x | $x
) - 连接 (
,
) - 直接赋值 (
=
) - 更新赋值 (
|=
,+=
,-=
) - 交替 (
//
) - 逻辑 (
or
,and
) - 相等和比较 (
.a == .b
,.a < .b
) - 算术运算 (
+
、-
、*
、/
、%
) - 取反 (
-
) - 错误抑制 (
?
)
定义
- 基本定义 (
def map(f): [.[] | f];
) - 递归定义 (
def r: r; r
)
核心过滤器
- 空集合 (
empty
) - 错误 (
error
) - 输入 (
inputs
) - 长度 (
length
,utf8bytelength
) - 舍入 (
floor
,round
,ceil
) - 字符串与JSON之间的转换 (
fromjson
,tojson
) - 字符串与整数之间的转换 (
explode
,implode
) - 字符串标准化 (
ascii_downcase
,ascii_upcase
) - 字符串前缀/后缀 (
startswith
,endswith
,ltrimstr
,rtrimstr
) - 字符串分割 (
split("foo")
) - 数组过滤器 (
reverse
,sort
,sort_by(-.)
,group_by
,min_by
,max_by
) - 流消费者 (
first
,last
,range
,fold
) - 流生成器 (
range
,recurse
) - 时间 (
now
,fromdateiso8601
,todateiso8601
) - 更多数值过滤器 (
sqrt
,sin
,log
,pow
,...) (数值过滤器列表) - 更多时间过滤器 (
strptime
,strftime
,strflocaltime
,mktime
,gmtime
,和localtime
)
标准过滤器
这些过滤器通过更基本的过滤器定义。它们的定义在 std.jq
。
- 未定义 (
null
) - 布尔值 (
true
,false
,not
) - 特殊数字 (
nan
,infinite
,isnan
,isinfinite
,isfinite
,isnormal
) - 类型 (
type
) - 过滤 (
select(. >= 0)
) - 选择 (
values
,nulls
,booleans
,numbers
,strings
,arrays
,objects
,iterables
,scalars
) - 转换(
tostring
、tonumber
) - 可迭代过滤(
map(.+1)
、map_values(.+1)
、add
、join("a")
) - 数组过滤(
transpose
、first
、last
、nth(10)
、flatten
、min
、max
) - 对象-数组转换(
to_entries
、from_entries
、with_entries
) - 全称/存在量词(
all
、any
) - 递归(
walk
) - I/O(
input
) - 正则表达式(
test
、scan
、match
、capture
、splits
、sub
、gsub
) - 时间(
fromdate
、todate
)
数字过滤
jaq从libm导入了许多过滤器,并遵循它们的类型签名。
jaq中定义的数字过滤器的完整列表
零参数过滤器
-
acos
-
acosh
-
asin
-
asinh
-
atan
-
atanh
-
cbrt
-
cos
-
cosh
-
erf
-
erfc
-
exp
-
exp10
-
exp2
-
expm1
-
fabs
-
frexp
,它返回(浮点数,整数)的对。 -
ilogb
,它返回整数。 -
j0
-
j1
-
lgamma
-
log
-
log10
-
log1p
-
log2
-
logb
-
modf
,它返回(浮点数,浮点数)的对。 -
nearbyint
-
pow10
-
rint
-
significand
-
sin
-
sinh
-
sqrt
-
tan
-
tanh
-
tgamma
-
trunc
-
y0
-
y1
忽略.
的两个参数过滤器
-
atan2
-
copysign
-
drem
-
fdim
-
fmax
-
fmin
-
fmod
-
hypot
-
jn
,它将整数作为第一个参数。 -
ldexp
,它将整数作为第二个参数。 -
nextafter
-
nexttoward
-
pow
-
remainder
-
scalb
-
scalbln
,它将整数作为第二个参数。 -
yn
,它将整数作为第一个参数。
忽略.
的三个参数过滤器
-
fma
高级功能
jaq目前并不旨在支持jq的几个功能,例如
- 模块
- SQL样式运算符
- 流式处理
jq和jaq之间的差异
数字
jq为任何数字使用64位浮点数(浮点数)。相比之下,jaq将0或-42等数字解释为机器大小的整数,将0.0或3e8等数字解释为64位浮点数。jaq中的许多操作,如数组索引,都会检查传递的数字是否确实是整数。背后的动机是为了避免可能导致错误结果的舍入误差。例如
$ jq -n '[0, 1, 2] | .[1.0000000000000001]'
1
$ jaq -n '[0, 1, 2] | .[1.0000000000000001]'
Error: cannot use 1.0 as integer
$ jaq -n '[0, 1, 2] | .[1]'
1
jaq的规则是
- 两个整数之和、差、积和余数是整数。
- 两个数字之间的任何其他运算都会得到一个浮点数。
示例
$ jaq -n '1 + 2'
3
$ jaq -n '10 / 2'
5.0
$ jaq -n '1.0 + 2'
3.0
您可以通过添加0.0、乘以1.0或除以1将整数转换为浮点数。您可以通过round
、floor
或ceil
将浮点数转换为整数。
$ jaq -n '1.2 | [floor, round, ceil]'
[1, 1, 2]
NaN和无穷大
在jq中,除以0有一些令人惊讶的特性;例如,0 / 0
会得到nan
,而0 as $n | $n / 0
会产生错误。在jaq中,n / 0
如果n == 0
,则返回nan
;如果n > 0
,则返回infinite
;如果n < 0
,则返回-infinite。jaq的行为更接近IEEE浮点算术标准(IEEE 754)。
jaq在浮点数上实现了一个全序,以允许排序值。因此,它不幸地必须强制执行nan == nan
。 (jq通过强制执行nan < nan
来解决这个问题,这违反了全序的基本定律。)
与jq一样,jaq将nan
和infinite
作为null
打印到JSON中,因为JSON不支持将这些值作为数字进行编码。
保留分数数
jaq完美地保留了来自JSON数据的分数数(只要它们没有被用于某些算术运算),而jq 1.6可能默默地转换为64位浮点数
$ echo '1e500' | jq '.'
1.7976931348623157e+308
$ echo '1e500' | jaq '.'
1e500
因此,与jq 1.6不同,jaq满足jq手册中的以下段落
关于身份过滤器的一个重要观点是,它保证保留值的字面十进制表示形式。当处理无法无损转换为IEEE754双精度表示形式的数字时,这一点尤为重要。
请注意,jq的新版本,例如1.7,似乎也保留了字面十进制表示形式。
赋值
与jq一样,jaq允许使用p |= f
形式的赋值。然而,jaq对这些赋值的解释不同。幸运的是,在大多数情况下,结果是相同的。
在jq中,赋值p |= f
首先构建所有匹配p
的值的路径。 然后,它将这些值应用于过滤器f
。
在jaq中,赋值p |= f
立即将f
应用于任何匹配p
的值。与jq不同,赋值不显式构建路径。
jaq的赋值实现可能带来更高的性能,因为它不构建路径。此外,这也防止了jq中“按设计”的几个错误。例如,给定过滤器[0, 1, 2, 3] | .[] |= empty
,jq返回[1, 3]
,而jaq返回[]
。这里发生了什么?
jq首先构建与.[]
相对应的路径,它们是.0, .1, .2, .3
。然后,它删除每个路径上的元素。但是,每次删除都会更改剩余路径所引用的值。也就是说,在删除.0
(值0)之后,.1
并不指向值1,而是指向值2!这也是为什么值1(以及随之而来的值3)没有被删除的原因。
在jq中还有更多奇怪的事情;例如,0 | 0 |= .+1
在jq中返回1
,尽管0
不是一个有效的路径表达式。然而,1 | 0 |= .+1
会返回一个错误。在jaq中,任何这样的赋值都会返回一个错误。
jaq试图使用右侧表达式的多个输出,而jq只使用第一个。例如,以下代码在jaq中会产生输出0 1 1 2
,而在jq中只产生输出0
。然而,以下代码在jaq和jq中都会产生输出{a: 1} | .a |= (2, 3)
,因为在jaq和jq中,一个对象只能与任何给定的键关联一个值,所以我们不能以有意义的方式使用多个输出。
由于jaq不构造路径,因此不允许在赋值操作左侧使用某些过滤器,例如first
、last
、limit
:例如,以下代码在jq中会产生输出[1, 2, 3] | first(.[]) |= .-1
,但在jaq中是无效的。同样,以下代码在jq中会产生输出[1, 2, 3] | limit(2; .[]) |= .-1
,但在jaq中是无效的。(顺便一提,jq也不允许使用last
。)
定义
与jq一样,jaq允许定义过滤器,例如
def map(f): [.[] | f];
参数也可以以值传递的方式传递,例如
def cartesian($f; $g): [$f, $g];
过滤器定义可以是嵌套和递归的,即可以引用自身。也就是说,可以在jaq中定义类似于recurse
的过滤器
def recurse(f): def r: ., (f | r); r;
从jaq 1.2版本开始,jaq优化了尾调用,与jq类似。从jaq 1.1版本开始,递归过滤器也可以有非变量参数,就像在jq中一样。例如
def f(a): a, f(1+a);
使用非变量参数的递归过滤器可能会产生令人惊讶的效果;例如,一个调用 f(0)
会构建出形状为 f(1+(..(1+0)...))
的调用,这会导致指数级的执行时间。
使用非变量参数的递归过滤器通常可以通过以下方式实现:
- 嵌套过滤器:例如,而不是
def walk(f): (.[]? |= walk(f)) | f;
,你可以使用def walk(f): def rec: (.[]? |= rec) | f; rec;
。 - 变量参数过滤器:例如,而不是
def f(a): a, f(1+a);
,你也可以同样地写出def f($a): $a, f(1+$a);
。 - 使用
recurse
的过滤器:例如,你可以写出def f(a): a | recurse(1+.);
。如果你期望你的过滤器会深度递归,建议使用recurse
来实现,因为 jaq 对recurse
有一个优化的实现。
所有这些选项都由 jaq 支持。
参数
类似于 jq,jaq 允许通过命令行定义参数,特别是通过选项 --arg
、--rawfile
、--slurpfile
。这会将变量绑定到值上,对于每个以这种方式绑定到 v
的变量 $x
,$ARGS.named
包含一个键为 x
值为 v
的条目。例如
$ jaq -n --arg x 1 --arg y 2 '$x, $y, $ARGS.named'
"1"
"2"
{
"x": "1",
"y": "2"
}
折叠
jq 和 jaq 提供了过滤器 reduce xs as $x (init; f)
和 foreach xs as $x (init; f)
。
在 jaq 中,这些过滤器的输出定义得非常简单:假设 xs
评估为 x0
、x1
、...、xn
,则 reduce xs as $x (init; f)
评估为
init
| x0 as $x | f
| ...
| xn as $x | f
并且 foreach xs as $x (init; f)
评估为
init
| x0 as $x | f | (.,
| ...
| xn as $x | f | (.,
empty)...)
此外,jaq 还提供了过滤器 for xs as $x (init; f)
,其评估结果为
init
| ., (x0 as $x | f
| ...
| ., (xn as $x | f
)...)
foreach
和 for
之间的区别在于,for
产生 init
的输出,而 foreach
则省略它。例如,foreach (1, 2, 3) as $x (0; .+$x)
的结果为 1, 3, 6
,而 for (1, 2, 3) as $x (0; .+$x)
的结果为 0, 1, 3, 6
。
在 jaq 中,对 reduce
/foreach
的解释相对于 jq 有以下优势
-
它非常自然地处理产生多个输出的过滤器。相比之下,jq 在
f
的输出上有所区分,因为它仅在最后一个上递归,尽管它输出了所有这些。示例
foreach (5, 10) as $x (1; .+$x, -.) 在 jq 中产生
6, -1, 9, 1
,而在 jaq 中则产生6, 16, -6, -1, 9, 1
。我们可以看到,jq 和 jaq 都产生了来自第一次迭代的值6
和-1
(其中$x
是 5),即1 | 5 as $x | (.+$x, -.)
。然而,jq 仅在第一次迭代返回的最后一个值(即$x
是 10)上执行第二次迭代,产生由-1
得到的值9
和1
,即-1 | 10 as $x | (.+$x, -.)
。jaq 也产生这些值,但它也在第一次迭代返回的所有其他值上执行第二次迭代,即6
,产生由6 | 10 as $x | (.+$x, -.)
得到的值16
和-6
。 -
这使得
reduce
和foreach
的实现成为相同代码的特殊情况,从而减少了潜在的错误。
与foreach ...
相比,过滤器for ...
(其中...
指代xs as $x (init; f)
)与reduce
有更强的关联。特别是,reduce ...
产生的值是for ...
产生的值的子集。如果你将for
替换为foreach
,则不会保持这种关系。
示例
例如,如果我们设置...
为empty as $x (0; .+$x)
,那么foreach ...
不会产生任何值,而for ...
和reduce ...
会产生0
。
此外,jq提供了过滤器foreach xs as $x (init; f; proj)
(foreach/3
)并将foreach xs as $x (init; f; .)
(foreach/2
)解释为foreach xs as $x (init; f; .)
,而jaq则不提供foreach/3
,因为它需要在解析器和解释器中完全独立的逻辑来处理foreach/2
和reduce
。
错误处理
在jq中,try f catch g
表达式在发生错误时立即退出f
流,并在之后将控制权交给g
。这在其手册中被提及为退出循环的可能机制(这里)。然而,jaq不会中断f
流,而是将每个错误值发送到g
过滤器;结果是,从f
流出的值与在错误发生处穿插的从g
流出的值。
考虑以下示例:这个表达式在jq中是true
,因为第一个error(2)
中断了流
[try (1, error(2), 3, error(4)) catch .] == [1, 2]
然而在jaq中,这成立
[try (1, error(2), 3, error(4)) catch .] == [1, 2, 3, 4]
杂项
- 吸入:当使用(通过
-s
/--slurp
选项)将文件吸入时,jq 将所有文件的输入合并成一个单一数组,而 jaq 为每个文件生成一个数组。这是由于-
/--in-place
选项,它无法与 jq 实现的行为一起工作。jaq 可以近似 jq 的行为;例如,要实现jq -s . a b
的输出,你可以使用jaq -. <(cat a b)
。 - 笛卡尔积:在 jq 中,
[(1,2) * (3,4)]
生成[3, 6, 4, 8]
,而[{a: (1,2), b: (3,4)} | .a * .b]
生成[3, 4, 6, 8]
。jaq 在这两种情况下都生成[3, 4, 6, 8]
。 - 索引
null
:在 jq 中,当给定null
输入时,.["a"]
和.[0]
生成null
,但.[]
生成一个错误。jaq 在所有情况下都生成错误以防止意外索引null
值。要在 jq 和 jaq 中获得相同的行为,你可以使用.["a"]? // null
或.[0]? // null
代替。 - 列表更新:在jq中,
[0, 1] | .[3] = 3
的结果是[0, 1, null, 3]
;也就是说,当更新超过列表大小范围时,jq会使用null
填充列表。相比之下,在这种情况下,jaq会因为越界错误而失败。 - 输入读取:当没有更多的输入值时,在jq中,
input
会产生一个错误,而在jaq中,则没有输出值。 - 连接:当给定一个数组
[x0, x1, ..., xn]
时,在jq中,join(x)
会将输入数组的所有元素转换为字符串,并用x
插入它们之间,而在jaq中,join(x)
则简单地计算x0 + x + x1 + x + ... + xn
。当输入数组的所有元素和x
都是字符串时,jq和jaq会产生相同的输出。
贡献
欢迎向jaq贡献。请确保在您的更改之后,cargo test
可以成功运行。
致谢
本项目由NGI0 Entrust基金资助,该基金由NLnet设立,并获得欧洲委员会Next Generation Internet计划的支持,在DG Communications Networks, Content and Technology的指导下,根据合同协议号No 101069594。
jaq还受益于
- serde_json读取和colored_json输出JSON,
- chumsky解析和ariadne格式化解析错误,
- mimalloc提高内存分配的性能,以及
- Rust标准库,特别是其出色的迭代器,它为jaq的过滤器执行提供了坚实的基础。
依赖关系
~8–20MB
~262K SLoC