借助 DSL 来简化 Loadgen 配置

引言 #

在上篇文章中，我们介绍了如何用 Loadgen 来简化 HTTP API 的集成测试。在实际使用中会发现，编写测试时最令人“头疼”的部分是设计测试的输入和校验程序的输出，而针对后者 Loadgen 提供了丰富的条件测试 ¹ 来对响应进行断言。

回顾上篇文章的示例：

# loadgen.yml
variables:
  - name: id
    type: sequence
runner:
  assert_error: true
  assert_invalid: true
requests:
  - request:
      method: PUT
      url: $[[env.PIZZA_SERVER]]/test_create_document_$[[id]]
    assert:
      equals:
        _ctx.response.body_json.success: true
    register:
      - collection: _ctx.response.body_json.collection
  - request:
      method: POST
      url: $[[env.PIZZA_SERVER]]/$[[collection]]/_doc
      body: '{"hello": "world"}'
    assert:
      equals:
        _ctx.response.body_json.result: created

上述配置中各请求的断言只有一条，但如果我们的检验逻辑更加复杂，需要组合多重测试条件，比如我们想尽可能多的检验响应体中的字段来提高测试的可靠性，那么断言的部分将会迅速膨胀，可读性也会随之下降。

例如，针对如下响应：

{
  "took": 17,
  "timed_out": false,
  "hits": {
    "total": {
      "value": 100,
      "relation": "eq"
    },
    "max_score": 1.0,
    "hits": [...]
  },
  "aggregations": {
    "vavg": {
      "value": 51.0
    },
    "vcount": {
      "value": 50
    },
    "vmax": {
      "value": 100
    },
    "vmin": {
      "value": 2
    },
    "vsum": {
      "value": 2550
    }
  }
}

我们可能会写出这样的配置：

assert:
  and:
    - range:
        _ctx.response.body_json.took:
          lt: 50
    - equals:
        _ctx.response.status: 200
        _ctx.response.body_json.time_out: false
        _ctx.response.body_json.hits.total.value: 100
        _ctx.response.body_json.max_score: 1.0
        _ctx.response.body_json.aggregations.vavg.value: 51
        _ctx.response.body_json.aggregations.vcount.value: 50
        _ctx.response.body_json.aggregations.vmax.value: 100
        _ctx.response.body_json.aggregations.vmin.value: 2
        _ctx.response.body_json.aggregations.vsum.value: 2550
    - regexp:
        _ctx.response.body_json.hits.total.relation: eq|gt|ge

不难发现，上面的配置看起来与原始的响应结构有很大的差别，写起来十分繁琐，看起来也不直观，为了解决这一问题，我们为 Loadgen 的 YAML 配置设计了一种 DSL ²。

更直观的断言配置 #

Loadgen DSL 针对各种断言进行了着重的简化，比如上述配置我们可以改写成：

{
  took: <50,
  time_out: false,
  hits: {
    total: {
      value: 100,
      relation: /eq|gt|ge/,
    },
  },
  max_score: 1.0,
  aggregations: {
    vavg.value: 51,
    vcount.value: 50,
    vmax.value: 100,
    vmin.value: 2,
    vsum.value: 2550,
  },
}

这样是不是“清爽”了许多？而且，有没有发现这个语法和 JSON 很像？没错，Loadgen DSL 完全兼容 JSON 语法！也就是说，可以直接把响应体复制下来，然后在其基础上进行修改：

{
  // 用 <50 来测试此字段的值是否小于 50
  "took": <50,
  // 普通的值将被测试字段实际值是否与它相等
  "timed_out": false,
  "hits": {
    "total": {
      "value": 100,
      // 用正则表达式来检查此字段的值
      "relation": /eq|gt|ge/
    },
    "max_score": 1.0
  },
  "aggregations": {
    "vavg": {
      "value": 51.0
    },
    "vcount": {
      "value": 50
    },
    "vmax": {
      "value": 100
    },
    "vmin": {
      "value": 2
    },
    "vsum": {
      "value": 2550
    }
  }
}

注意到 Loadgen DSL 中字段的引号是可以省略的，同时它也支持 not，and 和 or 的逻辑组合：

{
  took: >0 and <50,
  relation: "eq" or "gt" or "ge",
  hits.total.value: not 0,
}

而对于较复杂的条件测试，比如 prefix/contains/in 等，可以通过函数调用语法来实现：

{
  blog.title: prefix("INFINI"),
  blog.tag: contains("Loadgen"),
  blog.status: in(["reviewed", "archived"]),
}

进一步的简化 #

以上我们展示了 Loadgen DSL 是如何简化断言配置的，回想到上一章开头所说的，HTTP API 测试中主要就是不断发起请求然后校验其响应，那我们何不在 DSL 中将请求一起解析了呢？

于是，在现有的语法上稍作改进，我们便可以通过如下示例：

PUT $[[env.PIZZA_SERVER]]/test_create_document_$[[id]]
# // 注意这里，因为我们定义 register 变量，因此需要使用完整语法
# register: [
#  {collection: "_ctx.response.body_json.collection"},
# ],
# assert: {
#   _ctx.response.body_json.success: true,
# },

POST $[[env.PIZZA_SERVER]]/$[[collection]]/_doc
{"hello": "world"}
# {result: "created"}

来替换掉本文最开头示例中的 requests 部分。

上述示例提到了“完整语法”，在 Loadgen DSL 中，如下“简短语法”的配置：

POST $[[env.PIZZA_SERVER]]/$[[collection]]/_doc
{"hello": "world"}
# 200 // 状态码是可选的
# {result: "created"}

等同于：

POST $[[env.PIZZA_SERVER]]/$[[collection]]/_doc
{"hello": "world"}
# assert: {
#   _ctx.response.status: 200,
#   _ctx.response.body_json: {result: "created"},
# }

Tips:
对于 assert 字段，也可以通过元组表达式来使用简短语法：
POST $[[env.PIZZA_SERVER]]/$[[collection]]/_doc
{"hello": "world"}
# assert: (200, {result: "created"})

对于 Loadgen DSL 详细的语法定义可以参考本文的附录部分。

最后一些优化 #

到目前为止，Loadgen DSL 几乎可以替换掉 Loadgen YAML 配置的大部分内容，除了 variables 和 runner 这样的全局配置项。观察一下现有的写法，每个请求都是 METHOD URL 然后紧跟可选的请求体与断言注释，其实我们可以在 DSL 的最前面定义一些全局的选项：

# variables: [
#   {name: "id", type: "sequence"},
# ],
# runner: {
#   assert_error: true,
#   assert_invalid: true,
#   // 配置请求的默认 HOST
#   default_endpoint: "$[[env.PIZZA_SERVER]]",
# },

PUT /test_create_document_$[[id]]
# register: [{
#   collection: "_ctx.response.body_json.collection",
# }],
# assert: {
#   _ctx.response.body_json: {success: true},
# },

POST /$[[collection]]/_doc
{"hello": "world"}
# {result: "created"}

上述示例就等价于本文最开头给出的配置。

附录：Loadgen DSL 语法定义 #

以下是 Loadgen DSL 的 BNF³ 语法定义：

grammer    ::= brief | full
brief      ::= status? object EOF
full       ::= fields EOF
status     ::= integer
expr       ::= expr1 (infixop expr1)*
expr1      ::= literal
             | array
             | object
             | funcall
             | prefixop expr1
             | '(' exprlist ')'
exprlist   ::= (expr (',' expr)* ','?)?
object     ::= '{' fields '}'
fields     ::= (pair (',' pair)* ','?)?
pair       ::= path ':' expr
path       ::= key ('.' key)*
key        ::= name | string | integer
array      ::= '[' exprlist ']'
funcall    ::= name '(' exprlist ')'
literal    ::= null
             | boolean
             | integer
             | float
             | regex
             | string
ignore     ::= whitespace
              | comment
              /* ws: definition */

<?TOKENS?>

comment    ::= '//' char*
name       ::= ident - keyword
keyword    ::= 'null'
             | 'true'
             | 'false'
             | 'not'
             | 'and'
             | 'or'
ident      ::= id_start (id_start | '-' | digit)*
id_start   ::= [_a-zA-Z]
prefixop   ::= '-'
             | '>'
             | '<'
             | '>='
             | '<='
             | '=='
             | 'not'
infixop    ::= 'and' | 'or'
null       ::= 'null'
boolean    ::= 'true' | 'false'
integer    ::= digit+
exponent   ::= ('e' | 'E') ('+' | '-')? integer
float      ::= integer exponent
             | integer '.' integer exponent?
digit      ::= [0-9]
regex      ::= '/' ('\/' | char - '/')+ '/'
string     ::= '"' (escape | char - '"')* '"'
             | "'" (escape | char - "'")* "'"
escape     ::= '\b'
             | '\f'
             | '\n'
             | '\r'
             | '\t'
             | "\'"
             | '\"'
             | '\\'
             | '\/'
char       ::= #x9
             | [#x20-#xD7FF]
             | [#xE000-#xFFFD]
             | [#x10000-#x10FFFF]
whitespace ::= [#x9#xA#xD#x20]+
EOF        ::= $

Loi Chyan

追求极致，无限可能。

· TDBC 2025 大会聚焦 AI 与数据库融合，极限科技发布新一代 Coco AI 搜索平台 · 极限科技 Coco AI 荣获 2025 首届人工智能应用创新大赛全国一等奖 · 搜索型数据库的技术发展历程与趋势前瞻 · 极限网关助力好未来 Elasticsearch 容器化升级 · 国产搜索引擎崛起：Elasticsearch 国产化加速

· 极限科技开源赞助计划：欢迎开源项目申请支持 · 探索低空经济“关键一跃” —— 技术如何驱动商业落地线上研讨会圆满举办 · 极限科技荣膺 2025 金猿奖 — “年度国产化优秀代表厂商”，自主可控搜索方案 Easysearch 获行业高度认可 · 极限科技 Coco AI 荣获 2025 IT168 技术卓越奖 - 创新产品奖 · APM（三）：监控 Python 服务链 · INFINI Labs 产品更新 | Coco AI v0.10 × Easysearch v2.0 联袂上线：UI 全面重构，体验焕然一新 · Easy-Es 2.1.0-easysearch 版本发布 · APM（二）：监控 Python 服务 · 🔥 程序员爆哭！我们让 COCO AI 接管 GitLab 审查后，团队直接起飞：连 CTO 都说“这玩意儿比人靠谱多了” · APM（一）: Skywalking 与 Easyearch 集成

2026 x

开源 x

赞助 x

开源生态 x

社区 x

低空经济 x

商业化 x

Easysearch x

数据分析 x

金猿奖 x

国产化 x

搜索引擎 x

Coco AI x

技术卓越奖 x

创新产品奖 x

IT168 x

APM x

Skywalking x

产品更新 x

Easy-Es x

Coco x

AI x

GitLab x

代码审核 x

人工智能 x

石油石化 x

performance x

Gitee x

投票 x

Meilisearch x

Rust x

轻量级 x

搜索百科 x

Docker x

Docker Compose x

Easyserach x

Console x

DevOps x

Elasticsearch x

国产替代 x

backup x

snapshot x

CCR x

Gateway x

esdump x

source_reuse x

ignore_above x

OpenSearch x

AWS x

Lucene x

Solr x

Easyearch x

发明专利 x

数据分区 x

国际专利 x

一等奖 x

人工智能应用创新大赛 x

bulk x

embedding x

OpenAI x

IK x

TDBC x

2025 x

信通院 x

可信数据库大会 x

搜索型数据库 x

中国数据库产业图谱 x

上海开源创新菁英荟 x

开源创新新星企业 x

Workshop x

AI 搜索 x

智能助手 x

Automation x

Logstash x

MongoDB x

开源中国 x

直播 x

merge x

Elasticsearch 9 x

GitCode x

AI搜索 x

Cloud x

rollup x

Kubernetes x

Operator x

Arm64 x

Snapshot x

S3 x

Grafana x

Opensearch x

Nginx x

直播活动 x

搜索客社区 x

Meetup x

ES x

企业搜索 x

DeepSeek x

RAG x

certificate x

windows x

Rollup x

TopN x

Filebeat x

Ubuntu x

请求限速 x

INFINI Console x

指标 x

Kibana x

多集群 x

client x

Spring Boot x

ECE x

ES Bulk x

vector database x

Postgres x

可搜索快照 x

SDK x

官网 x

Web 开发 x

Next.js x

React x

Three.js x

Metrics x

Helm x

filter x

querycache x

practice x

Agent x

localStorage x

响应式 x

时间组件 x

时区组件 x

极限科技 x

三周年 x

周年庆 x

国家高新技术企业 x

校园招聘 x

湖北工业大学 x

Tauri x

Web 开发人员 x

桌面应用开发 x

桌面端 x

Electron x

Pizza x

认证培训 x

报名 x

Scrapy x

爬虫 x

Rust开发者大会 x

docsearch x

文档搜索 x

Easyseach x

有奖征文 x

黑神话悟空 x

EKS x

征文系列 x

跨集群搜索 x

科技中小企业 x

白皮书 x

Python SDK x

数据库产业图谱 x

超大规模 x

分布式集群 x

写入限流 x

2024可信数据库发展大会 x

创新型中小企业 x

搜索数据库 x

正排索引 x

免费许可证 x

K8S x

DTC2024 x

实时搜索 x

ES国产化 x

Redis x

OOM x

测试 x

内存 x

趋势 x

AI绘画 x

Stable Diffusion x

Diffusion x

Model x

GAN x

语义搜索 x

知识图 x

向量数据库 x

中国信通院 x

星河（Galaxy） x

标杆案例 x

鲲鹏 x

鲲鹏技术认证 x

客户端 x

日志平台 x

LDAP x

Loadgen x

中国一汽 x

国内数据库 x

墨天轮 x

监控系统 x

集成测试 x

ZSTD x

Helm Charts x

国产适配 x

兆芯 x

Linux x

LoongArch x

信创适配 x

二维拆分算法 x

中国移动云 x

Vault x

加密 x

安全工具 x

kNN x

向量检索 x

图片搜索 x

Alerting x

SQL x

搜索 x

Embedding x

可信数据库 x

统信 x

海光 x

龙芯 x

restore x

Arm x

大数据企业证书 x

移动云大会 x

信通院产品评测 x

国内首家 x

数据可视化 x

北京软协 x

第十届理事会会员单位 x

Apache Arrow x

宣传片 x

大会分享 x

多集群管理 x

无缝数据迁移 x

Loadrun x

INFINI Gateway x

log4j x

引言 #

更直观的断言配置 #

进一步的简化 #

最后一些优化 #

附录：Loadgen DSL 语法定义 #

相关文章