📣 极限科技诚招搜索运维工程师(Elasticsearch/Easysearch)- 全职/北京 👉 : 立即申请加入
使用 INFINI Gateway 保护 Elasticsearch 集群之限制请求至协调节点

本文将探讨如何使用 INFINI Gateway 限制仅向 Elasticsearch 集群的协调节点转发请求。此方法同样适用于 Opensearch 和 INFINI Easysearch 。

Elasticsearch 是天然分布式的系统,任何节点都能接收请求并进行处理。一个稍具规模,经过规划的 Elasticsearch 集群,会有不同角色的专属节点,比如专属的 master 节点、data 节点、协调节点等。

为了保障集群稳定,一般建议将查询发送到集群的协调节点,避免将请求发送 master 节点。使用 INFINI Gateway 可轻松做到将所有请求轮询发送到集群的所有协调节点。

Elasticsearch 资源 #

INFINI Gateway 将 Elasticsearch 集群作为一种后端资源,可以定义多个 Elasticsearch 集群,支持不同的集群版本。并且可以通过参数 discovery 开启集群的节点拓扑自动发现和更新。

##elasticsearch servers
elasticsearch:
  - name: prod
    enabled: true
    endpoints:
      - $[[env.PROD_ES_ENDPOINT]]
    discovery:
      enabled: true
      refresh:
        enabled: true
        interval: 30s
    basic_auth:
      username: $[[env.PROD_ES_USER]]
      password: $[[env.PROD_ES_PASS]]
    traffic_control.max_bytes_per_node: 1010485760
    metadata_cache_enabled: false # Whether to cache the cluster info in memory cache
  - name: logging-server
    enabled: true
    endpoints:
      - $[[env.LOGGING_ES_ENDPOINT]]
    basic_auth:
      username: $[[env.LOGGING_ES_USER]]
      password: $[[env.LOGGING_ES_PASS]]
    discovery:
      enabled: false

上面的例子定义了一个名为 prod 和一个名为 logging-server 的集群。其中 prod 集群开启了拓扑自动发现和更新,这使得虽然我们 endpoints 里只写了一个地址(变量),但 INFINI Gateway 可以发现集群的所有节点,并定时进行节点探活。这个探活信息可以通过 INFINI Gateway 的 API 获取到。

curl localhost:2900/elasticsearch/hosts

如上所示,INFINI Gateway 检测到 prod 集群有三个节点,并且都是可用的。

其中有 node-3 和 node-4 是专属协调节点:

Elasticsearch 过滤器 #

INFINI Gateway 通过 Elasticsearch 过滤器将请求转发给后端 Elasticsearch 集群。使用 Elasticsearch 过滤器之前,需要提前定义一个 Elasticsearch 资源。前面我们不仅定义了一个名为 prod 的 Elasticsearch 资源,还开启了拓扑自动发现和更新。

在使用 Elasticsearch 过滤器时也开启刷新,即可访问后端所有节点,且节点上下线也会自动更新。

  - name: default_flow
    filter:
      - get_cache:
         pass_patterns: ["_cat","scroll", "scroll_id","_refresh","_cluster","_ccr","_count","_flush","_ilm","_ingest","_license","_migration","_ml"
,"_rollup","_data_stream","_open", "_close"]
      - elasticsearch:
          elasticsearch: prod
          max_connection_per_node: 1000
          refresh:
            enabled: true
            interval: 30s

为了达到只转发请求到协调节点的效果,我们开启节点角色过滤功能,将请求发送给特定的节点。完整的 Elasticsearch 过滤器配置如下。

  - name: default_flow
    filter:
      - get_cache:
         pass_patterns: ["_cat","scroll", "scroll_id","_refresh","_cluster","_ccr","_count","_flush","_ilm","_ingest","_license","_migration","_ml"
,"_rollup","_data_stream","_open", "_close"]
      - elasticsearch:
          elasticsearch: prod
          max_connection_per_node: 1000
          refresh:
            enabled: true
            interval: 20s
          filter:
            roles:
              exclude:
                - master
                - data
                - transform
                - remote_cluster_client
                - ml
                - data_content
                - data_hot
                - data_warm
                - data_cold
                - ingest

通过排除所有节点角色,我们就限制了 INFINI Gateway 只能将请求转发到专属协调节点(无任何角色)。此外 INFINI Gateway 还支持按照节点的 IP、标签等来进行过滤,详情参考 官方文档

测试 #

我们使用 _cat/nodes API 连续访问 INFINI Gateway 几次,看看后端服务的节点是否是专属协调节点。

curl localhost:8000/_cat/nodes

通过 INFINI Console 查看访问记录,可以观察到请求被轮流转发到了后端专属协调节点:节点-3 (192.168.56.102:9202) 、节点-4 (192.168.56.102:9203) 。

有任何问题,欢迎加我微信沟通。

标签
2026 x
开源 x
赞助 x
开源生态 x
社区 x
低空经济 x
商业化 x
Easysearch x
数据分析 x
金猿奖 x
国产化 x
搜索引擎 x
Coco AI x
技术卓越奖 x
创新产品奖 x
IT168 x
APM x
Skywalking x
产品更新 x
Easy-Es x
Coco x
AI x
GitLab x
代码审核 x
人工智能 x
石油石化 x
performance x
Gitee x
投票 x
Meilisearch x
Rust x
轻量级 x
搜索百科 x
Docker x
Docker Compose x
Easyserach x
Console x
DevOps x
Elasticsearch x
国产替代 x
backup x
snapshot x
CCR x
Gateway x
esdump x
source_reuse x
ignore_above x
OpenSearch x
AWS x
Lucene x
Solr x
Easyearch x
发明专利 x
数据分区 x
国际专利 x
一等奖 x
人工智能应用创新大赛 x
bulk x
embedding x
OpenAI x
IK x
TDBC x
2025 x
信通院 x
可信数据库大会 x
搜索型数据库 x
中国数据库产业图谱 x
上海开源创新菁英荟 x
开源创新新星企业 x
Workshop x
AI 搜索 x
智能助手 x
Automation x
Logstash x
MongoDB x
开源中国 x
直播 x
merge x
Elasticsearch 9 x
GitCode x
AI搜索 x
Cloud x
rollup x
Kubernetes x
Operator x
Arm64 x
Snapshot x
S3 x
Grafana x
Opensearch x
Nginx x
直播活动 x
搜索客社区 x
Meetup x
ES x
企业搜索 x
DeepSeek x
RAG x
certificate x
windows x
Rollup x
TopN x
Filebeat x
Ubuntu x
请求限速 x
INFINI Console x
指标 x
Kibana x
多集群 x
client x
Spring Boot x
ECE x
ES Bulk x
vector database x
Postgres x
可搜索快照 x
SDK x
官网 x
Web 开发 x
Next.js x
React x
Three.js x
Metrics x
Helm x
filter x
querycache x
practice x
Agent x
localStorage x
响应式 x
时间组件 x
时区组件 x
极限科技 x
三周年 x
周年庆 x
国家高新技术企业 x
校园招聘 x
湖北工业大学 x
Tauri x
Web 开发人员 x
桌面应用开发 x
桌面端 x
Electron x
Pizza x
认证培训 x
报名 x
Scrapy x
爬虫 x
Rust开发者大会 x
docsearch x
文档搜索 x
Easyseach x
有奖征文 x
黑神话悟空 x
EKS x
征文系列 x
跨集群搜索 x
科技中小企业 x
白皮书 x
Python SDK x
数据库产业图谱 x
超大规模 x
分布式集群 x
写入限流 x
2024可信数据库发展大会 x
创新型中小企业 x
搜索数据库 x
正排索引 x
免费许可证 x
K8S x
DTC2024 x
实时搜索 x
ES国产化 x
Redis x
OOM x
测试 x
内存 x
趋势 x
AI绘画 x
Stable Diffusion x
Diffusion x
Model x
GAN x
语义搜索 x
知识图 x
向量数据库 x
中国信通院 x
星河(Galaxy) x
标杆案例 x
鲲鹏 x
鲲鹏技术认证 x
客户端 x
日志平台 x
LDAP x
Loadgen x
中国一汽 x
国内数据库 x
墨天轮 x
监控系统 x
集成测试 x
ZSTD x
Helm Charts x
国产适配 x
兆芯 x
Linux x
LoongArch x
信创适配 x
二维拆分算法 x
中国移动云 x
Vault x
加密 x
安全工具 x
kNN x
向量检索 x
图片搜索 x
Alerting x
SQL x
搜索 x
Embedding x
可信数据库 x
统信 x
海光 x
龙芯 x
restore x
Arm x
大数据企业证书 x
移动云大会 x
信通院产品评测 x
国内首家 x
数据可视化 x
北京软协 x
第十届理事会会员单位 x
Apache Arrow x
宣传片 x
大会分享 x
多集群管理 x
无缝数据迁移 x
Loadrun x
INFINI Gateway x
log4j x