📣 极限科技诚招搜索运维工程师(Elasticsearch/Easysearch)- 全职/北京 👉 : 立即申请加入
Elasticsearch VS Easysearch 性能测试

压测环境 #

虚拟机配置 #

使用阿里云上规格: ecs.u1-c1m4.4xlarge,PL2: 单盘 IOPS 性能上限 10 万 (适用的云盘容量范围:461GiB - 64TiB)

vCPU内存 (GiB)磁盘(GB)带宽(Gbit/s)数量
1664500500024

Easysearch 配置 #

7 节点集群,版本:1.9.0

实例名内网 IP软件vCPUJVM磁盘
i-2zegn56cijnzklcn2410172.22.75.144Easysearch1631G500GB
i-2zegn56cijnzklcn240u172.23.15.97Easysearch1631G500GB
i-2zegn56cijnzklcn240i172.25.230.228Easysearch1631G500GB
i-2zegn56cijnzklcn240y172.22.75.142Easysearch1631G500GB
i-2zegn56cijnzklcn240x172.22.75.143Easysearch1631G500GB
i-2zegn56cijnzklcn240z172.24.250.252Easysearch1631G500GB
i-2zegn56cijnzklcn240r172.24.250.254Easysearch1631G500GB

Elasticsearch 配置 #

7 节点集群,版本:7.10.2

实例名称内网 IP软件vCPUJVM磁盘
i-2zegn56cijnzklcn240m172.24.250.251Elasticsearch1631G500GB
i-2zegn56cijnzklcn240p172.22.75.145Elasticsearch1631G500GB
i-2zegn56cijnzklcn240o172.17.67.246Elasticsearch1631G500GB
i-2zegn56cijnzklcn240t172.22.75.139Elasticsearch1631G500GB
i-2zegn56cijnzklcn240q172.22.75.140Elasticsearch1631G500GB
i-2zegn56cijnzklcn240v172.24.250.253Elasticsearch1631G500GB
i-2zegn56cijnzklcn240l172.24.250.250Elasticsearch1631G500GB

监控集群配置 #

单节点 Easysearch 集群,版本:1.9.0

实例名内网 IP软件vCPU内存磁盘
i-2zegn56cijnzklcn240f172.25.230.226监控集群:Console1664G500GB
i-2zegn56cijnzklcn240j172.23.15.98监控集群:Easysearch1664G500GB

压测 loadgen 配置 #

loadgen 版本:1.25.0

4 台压 Easysearch,4 台压 Elasticsearch。

实例名内网 IP软件vCPU内存磁盘
i-2zegn56cijnzklcn240n172.17.67.245Loadgen - 压 Easysearch1664G500GB
i-2zegn56cijnzklcn2411172.22.75.141Loadgen - 压 Easysearch1664G500GB
i-2zegn56cijnzklcn240k172.25.230.227Loadgen - 压 Easysearch1664G500GB
i-2zegn56cijnzklcn240e172.22.75.138Loadgen - 压 Easysearch1664G500GB
i-2zegn56cijnzklcn240h172.24.250.255Loadgen - 压 Elasticsearch1664G500GB
i-2zegn56cijnzklcn240w172.24.251.0Loadgen - 压 Elasticsearch1664G500GB
i-2zegn56cijnzklcn240g172.24.250.248Loadgen - 压 Elasticsearch1664G500GB
i-2zegn56cijnzklcn240s172.24.250.249Loadgen - 压 Elasticsearch1664G500GB

压测索引 Mapping #

压测方法 #

每 4 个 loadgen 使用批量写入接口 bulk 轮询压测同一集群的 7 个节点,每个请求写入 10000 个文档。

具体请求如下:

requests:
  - request: #prepare some docs
      method: POST
      runtime_variables:
#        batch_no: uuid
      runtime_body_line_variables:
#        routing_no: uuid
#      url: $[[env.ES_ENDPOINT]]/_bulk
      url: $[[ip]]/_bulk
      body_repeat_times: 10000
      basic_auth: 
       username: "$[[env.ES_USERNAME]]"
       password: "$[[env.ES_PASSWORD]]"
      body: |
        {"index": {"_index": "nginx", "_type": "_doc", "_id": "$[[uuid]]"}}
        $[[message]]

压测数据样本 #

{"method":"DELETE","bandwidth":1955,"service_name":"cart-service","ip":"120.204.26.240","memory_usage":1463,"upstream_time":"1.418","url":"/health","response_size":421,"request_time":"0.503","request_body_size":1737,"error_code":"SYSTEM_ERROR","metrics":{"queue_size":769,"memory_usage":1183,"thread_count":65,"cpu_usage":68,"active_connections":837},"cpu_usage":70,"user_agent":"Mozilla/5.0 (iPad; CPU OS 14_6 like Mac OS X) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/14.1.1","connections":54,"timestamp":"2024-11-16T14:25:21.423","status":500}
{"method":"OPTIONS","bandwidth":10761,"service_name":"product-service","ip":"223.99.83.60","memory_usage":567,"upstream_time":"0.907","url":"/static/js/app.js","response_size":679,"request_time":"1.287","request_body_size":1233,"error_code":"NOT_FOUND","metrics":{"queue_size":565,"memory_usage":1440,"thread_count":148,"cpu_usage":39,"active_connections":1591},"cpu_usage":87,"user_agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/605.1.15 (KHTML, like Gecko) Version/14.1.1","connections":354,"timestamp":"2024-11-16T05:37:28.423","status":502}
{"method":"HEAD","bandwidth":10257,"service_name":"recommendation-service","ip":"183.60.242.143","memory_usage":1244,"upstream_time":"0.194","url":"/api/v1/recommendations","response_size":427,"request_time":"1.449","request_body_size":1536,"error_code":"UNAUTHORIZED","metrics":{"queue_size":848,"memory_usage":866,"thread_count":86,"cpu_usage":29,"active_connections":3846},"cpu_usage":71,"user_agent":"Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)","connections":500,"timestamp":"2024-11-16T15:14:30.424","status":403}

压测索引 1 主分片 0 副本 #

Elastic 吞吐 #

Elastic 线程及队列 #

资源消耗 #

Easysearch 吞吐 #

Easysearch 线程及队列 #

资源消耗 #

对比 #

软件平均集群吞吐平均单节点吞吐最大队列磁盘消耗
Elasticsearch5w5w81110G
Easysearch7w7w4274G

压测索引 1 主分片 1 副本 #

Elastic 吞吐 #

Elastic 线程及队列 #

资源消耗 #

Easysearch 吞吐 #

Easysearch 线程及队列 #

资源消耗 #

对比 #

软件平均集群吞吐平均单节点吞吐最大队列磁盘消耗(~3000万文档)
Elasticsearch10w5w79122G
Easysearch14w7w4217G

压测索引 7 主分片 #

Elastic 吞吐 #

Elastic 线程及队列 #

资源消耗 #

网络

单节点平均接收 26MB/s,对应带宽:1456 Mb/s

5千万文档,总存储 105 GB,单节点 15 GB

Easysearch 吞吐 #

Easysearch 线程及队列 #

资源消耗 #

对比 #

软件平均集群吞吐平均单节点吞吐最大队列磁盘消耗
Elasticsearch35w5w2449105G
Easysearch60w8.5w117236G

总结 #

通过对不同场景的压测结果进行对比分析,得出以下结论:

  • Easysearch 相比 Elasticsearch 的索引性能显著提升
    Easysearch 集群的吞吐性能提升了 40% - 70%,且随着分片数量的增加,性能提升效果更为显著。
  • Easysearch 相比 Elasticsearch 的磁盘压缩效率大幅提高
    Easysearch 集群的磁盘压缩效率提升了 2.5 - 3 倍,并且随着数据量的增加,压缩效果愈发明显。

此测试结果表明,Easysearch 在日志处理场景中具有更高的性能与存储效率优势,尤其适用于大规模分片与海量数据的使用场景。

如有任何问题,请随时联系我,期待与您交流!

标签
Easysearch x
产品更新 x
performance x
2026 x
开源 x
赞助 x
开源生态 x
社区 x
Coco AI x
二等奖 x
兴智杯 x
人工智能 x
赛事 x
低空经济 x
商业化 x
数据分析 x
金猿奖 x
国产化 x
搜索引擎 x
技术卓越奖 x
创新产品奖 x
IT168 x
APM x
Skywalking x
Easy-Es x
Coco x
AI x
GitLab x
代码审核 x
石油石化 x
Gitee x
投票 x
Meilisearch x
Rust x
轻量级 x
搜索百科 x
Docker x
Docker Compose x
Easyserach x
Console x
DevOps x
Elasticsearch x
国产替代 x
backup x
snapshot x
CCR x
Gateway x
esdump x
source_reuse x
ignore_above x
OpenSearch x
AWS x
Lucene x
Solr x
Easyearch x
发明专利 x
数据分区 x
国际专利 x
一等奖 x
人工智能应用创新大赛 x
bulk x
embedding x
OpenAI x
IK x
TDBC x
2025 x
信通院 x
可信数据库大会 x
搜索型数据库 x
中国数据库产业图谱 x
上海开源创新菁英荟 x
开源创新新星企业 x
Workshop x
AI 搜索 x
智能助手 x
Automation x
Logstash x
MongoDB x
开源中国 x
直播 x
merge x
Elasticsearch 9 x
GitCode x
AI搜索 x
Cloud x
rollup x
Kubernetes x
Operator x
Arm64 x
Snapshot x
S3 x
Grafana x
Opensearch x
Nginx x
直播活动 x
搜索客社区 x
Meetup x
ES x
企业搜索 x
DeepSeek x
RAG x
certificate x
windows x
Rollup x
TopN x
Filebeat x
Ubuntu x
请求限速 x
INFINI Console x
指标 x
Kibana x
多集群 x
client x
Spring Boot x
ECE x
ES Bulk x
vector database x
Postgres x
可搜索快照 x
SDK x
官网 x
Web 开发 x
Next.js x
React x
Three.js x
Metrics x
Helm x
filter x
querycache x
practice x
Agent x
localStorage x
响应式 x
时间组件 x
时区组件 x
极限科技 x
三周年 x
周年庆 x
国家高新技术企业 x
校园招聘 x
湖北工业大学 x
Tauri x
Web 开发人员 x
桌面应用开发 x
桌面端 x
Electron x
Pizza x
认证培训 x
报名 x
Scrapy x
爬虫 x
Rust开发者大会 x
docsearch x
文档搜索 x
Easyseach x
有奖征文 x
黑神话悟空 x
EKS x
征文系列 x
跨集群搜索 x
科技中小企业 x
白皮书 x
Python SDK x
数据库产业图谱 x
超大规模 x
分布式集群 x
写入限流 x
2024可信数据库发展大会 x
创新型中小企业 x
搜索数据库 x
正排索引 x
免费许可证 x
K8S x
DTC2024 x
实时搜索 x
ES国产化 x
Redis x
OOM x
测试 x
内存 x
趋势 x
AI绘画 x
Stable Diffusion x
Diffusion x
Model x
GAN x
语义搜索 x
知识图 x
向量数据库 x
中国信通院 x
星河(Galaxy) x
标杆案例 x
鲲鹏 x
鲲鹏技术认证 x
客户端 x
日志平台 x
LDAP x
Loadgen x
中国一汽 x
国内数据库 x
墨天轮 x
监控系统 x
集成测试 x
ZSTD x
Helm Charts x
国产适配 x
兆芯 x
Linux x
LoongArch x
信创适配 x
二维拆分算法 x
中国移动云 x
Vault x
加密 x
安全工具 x
kNN x
向量检索 x
图片搜索 x
Alerting x
SQL x
搜索 x
Embedding x
可信数据库 x
统信 x
海光 x
龙芯 x
restore x
Arm x
大数据企业证书 x
移动云大会 x
信通院产品评测 x
国内首家 x
数据可视化 x
北京软协 x
第十届理事会会员单位 x
Apache Arrow x
宣传片 x
大会分享 x
多集群管理 x
无缝数据迁移 x
Loadrun x
INFINI Gateway x
log4j x