李锋镝的博客

  • 首页
  • 时间轴
  • 说说
  • 每日心情
  • Now
  • 系列文章
  • AI工具集
  • 论坛
  • 左邻右舍
    • 左邻右舍
    • 博友圈
    • 游客中心
  • 留言
    • 留言
    • 走心评论
  • 关于
    • 关于本站
    • 网站地图
    • 网站统计
    • 另一个网站
    • 赞助
  • 🚇开往
!Destiny
惟坚韧者始能遂其志
  1. 首页
  2. 原创
  3. 正文

Elasticsearch的分布式文档存储原理

2019年12月4日 约 1,835 字7 分钟 160 0 0
本文最后更新于 2019年12月4日,距今已 2488 天,其中的信息可能已经发生变化,请注意甄别。

路由一个文档到一个分片中

当索引一个文档的时候,文档会被存储到一个主分片中。Elasticsearch如何知道一个文档应该存放到哪个分片中呢?当我们创建文档时,它如何决定这个文档应当被存储在分片1还是分片2中呢?

首先这肯定不会是随机的,否则将来要获取文档的时候我们就不知道从何处寻找了。实际上,这个过程是根据下面这个公式决定的:

shard = hash(routing) % number_of_primary_shards

routing是一个可变值,默认是文档的 _id ,也可以设置成一个自定义的值。 routing 通过hash函数生成一个数字,然后这个数字再除以 number_of_primary_shards(主分片的数量)后得到余数。这个分布在0到number_of_primary_shards-1之间的余数,就是我们所寻求的文档所在分片的位置。

这就解释了为什么我们要在创建索引的时候就确定好主分片的数量,并且永远不会改变这个数量:因为如果数量变化了,那么所有之前路由的值都会无效,文档也再也找不到了。

所有的文档 API( get 、 index 、 delete 、 bulk 、 update 以及 mget )都接受一个叫做 routing 的路由参数 ,通过这个参数我们可以自定义文档到分片的映射。一个自定义的路由参数可以用来确保所有相关的文档——例如所有属于同一个用户的文档——都被存储到同一个分片中。

主分片和副本分片如何交互

我们可以发送请求到集群中的任一节点。 每个节点都有能力处理任意请求。 每个节点都知道集群中任一文档位置,所以可以直接将请求转发到需要的节点上。每个集群会有一个master节点,我们将其称为协调节点(coordinating node)。

当发送请求的时候,为了扩展负载,更好的做法是轮询集群中所有的节点。

新建、索引和删除文档

新建、索引和删除请求都是写操作,必须在主分片上面完成之后才能被复制到相关的副本分片。

在客户端收到成功响应时,文档变更已经在主分片和所有副本分片执行完成,变更是安全的。

有一些可选的请求参数允许您影响这个过程,可能以数据安全为代价提升性能。这些选项很少使用,因为Elasticsearch已经很快,但是为了完整起见,在这里阐述如下:

consistency(一致性)

consistency,即一致性。在默认设置下,即使仅仅是在试图执行一个 写 操作之前,主分片都会要求 必须要有 规定数量(quorum)(或者换种说法,也即必须要有大多数)的分片副本处于活跃可用状态,才会去执行 写 操作(其中分片副本可以是主分片或者副本分片)。这是为了避免在发生网络分区故障(network partition)的时候进行 写 操作,进而导致数据不一致。 规定数量 即:

int( (primary + number_of_replicas) / 2 ) + 1

consistency参数的值可以设为one(只要主分片状态 ok 就允许执行 写 操作),all(必须要主分片和所有副本分片的状态没问题才允许执行 写 操作), 或 quorum 。默认值为 quorum , 即大多数的分片副本状态没问题就允许执行 写 操作。

注意,规定数量的计算公式中number_of_replicas指的是在索引设置中的设定副本分片数,而不是指当前处理活动状态的副本分片数。如果你的索引设置中指定了当前索引拥有三个副本分片,那规定数量的计算结果即:

int( (primary + 3 replicas) / 2 ) + 1 = 3

如果此时你只启动两个节点,那么处于活跃状态的分片副本数量就达不到规定数量,也因此您将无法索引和删除任何文档。

timeout

如果没有足够的副本分片会发生什么? Elasticsearch会等待,希望更多的分片出现。默认情况下,它最多等待1分钟。 如果你需要,你可以使用 timeout 参数 使它更早终止: 100 100毫秒,30s 是30秒。

其他需要注意的

新索引默认有1个副本分片,这意味着为满足规定数量应该需要两个活动的分片副本。 但是,这些默认的设置会阻止我们在单一节点上做任何事情。为了避免这个问题,要求只有当number_of_replicas大于1的时候,规定数量才会执行。

取回一个文档

可以从主分片或者从其它任意副本分片检索文档

在处理读取请求时,协调结点在每次请求的时候都会通过轮询所有的副本分片来达到负载均衡。

在文档被检索时,已经被索引的文档可能已经存在于主分片上但是还没有复制到副本分片。在这种情况下,副本分片可能会报告文档不存在,但是主分片可能成功返回文档。一旦索引请求成功返回给用户,文档在主分片和副本分片都是可用的。

局部更新文档

以下是部分更新一个文档的步骤:

  1. 客户端向 Node 1 发送更新请求。
  2. 它将请求转发到主分片所在的 Node 3 。
  3. Node 3 从主分片检索文档,修改 _source 字段中的 JSON ,并且尝试重新索引主分片的文档。 如果文档已经被另一个进程修改,它会重试步骤 3 ,超过 retry_on_conflict 次后放弃。
  4. 如果 Node 3 成功地更新文档,它将新版本的文档并行转发到 Node 1 和 Node 2 上的副本分片,重新建立索引。 一旦所有副本分片都返回成功, Node 3 向协调节点也返回成功,协调节点向客户端返回成功。

update API 还接受 routing 、 replication、 consistency 和 timeout 参数。

基于文档的复制

当主分片把更改转发到副本分片时,它不会转发更新请求。相反,它转发完整文档的新版本。请记住,这些更改将会异步转发到副本分片,并且不能保证它们以发送它们相同的顺序到达。如果Elasticsearch仅转发更改请求,则可能以错误的顺序应用更改,导致得到损坏的文档。

除非注明,否则均为李锋镝的博客原创文章,转载必须以链接形式标明本文链接

本文链接:https://www.lifengdi.com/article/1604

本作品采用 知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议 进行许可
分享到

Elasticsearch的分布式文档存储原理

也可使用浏览器菜单中的「分享」功能

微信扫一扫分享

标签: ElasticSearch 分布式 文档
最后更新:2019年12月4日

岁月同一天 9 月 27 日

回望过去的今天,你在写什么

  • 6 年前 2020年9月27日
    jmap命令(jdk1.8)

    命令格式 jmap [ options ] pid jmap [ options ] executable core j…

  • 7 年前 2019年9月27日
    Eclipse反编译插件Jad安装

    1.下载jadclipse的jar包、jad.exe可执行文件 2.jar包放在eclipse的plugins目录下,然…

相关文章
  • Kafka 为什么要抛弃 Zookeeper?2025年10月11日
  • SpringBoot 实现接口防刷的 5 种实现方案2025年5月27日
  • 为什么同样是分布式架构的Kafka需要Leader而Redis不需要?2021年3月22日
  • 分布式服务生成唯一不重复ID(24位字符串)2019年7月13日
  • 为什么 Apache Doris 是比 Elasticsearch 更好的实时分析替代方案?2025年3月31日

李锋镝

既然选择了远方,便只顾风雨兼程。

打赏 点赞
< 上一篇
下一篇 >
1234567891112131415161718192021222324252627282930313233343536373839404142434446474849505152535455575859606162636465666769727476777879808182858687909293949596979899
取消回复
…

文章评论

还没有评论,快来抢沙发吧~

Your time is limited, so don't waste it living someone else's life. Don't be trapped by dogma -- which is living with the results of other people's thinking. Don't let the noise of other's opinions drown out your own inner voice. And most important, have the courage to follow your heart and intuition. They somehow already know what you truly want to become. Everything else is secondary.

听点儿音乐吧 朋友~
文章目录
最新 热点 随机
最新 热点 随机
祝大家中秋安康 游本昌去世 Redis7+&8.X 全新进阶系列(02):Redis Functions 详解——替代Lua脚本的官方轻量化函数方案 Redis7.x&8.x 全新进阶系列(01):划时代升级总览——从6.x到7.x/8.x全版本变革全景 让WordPress静态化之Rocket‑Nginx WordPress下一代默认主题Ipsum预览
关于主题加载速度优化的一点儿小演进给主题增加了Now、每日心情、年度回顾、岁月同一天、随机漫步等功能WordPress缓存插件WP Fastest Cache、WP Rocket 、FlyingPress对比关于使用AI的一些思考WordPress下一代默认主题Ipsum预览Kratos+ v1.1.16版本更新说明
如何通过个人博客赚钱? TransmittableThreadLocal介绍与使用 wordpress增加说说功能 给主题增加了Now、每日心情、年度回顾、岁月同一天、随机漫步等功能 你好,2023 HBASE初探
最近评论
obaby 发布于 1 天前(09月25日) 中秋快乐
Huo 发布于 1 天前(09月25日) 中秋快乐哦
彬红茶 发布于 1 天前(09月25日) 前几天在班里电脑刷到了,节哀
彬红茶 发布于 1 天前(09月25日) 中秋安康!
不凡 发布于 2 天前(09月25日) 小学的时候是配了个助听器,它是带耳机线的,但是听不太清楚,就好比原本32bit的声音,戴了后变成了8...
标签聚合
Spring AI K8s ElasticSearch 多线程 数据库 架构 WordPress IDEA MySQL Claude 分布式 JAVA MQ Redis JVM AI编程 日常 SQL SpringBoot
友情链接
  • 彬红茶日记
  • 瓦匠个人小站
  • 哥斯拉
  • Honesty
  • sssr7844的博客
  • 林羽凡
  • 搬砖日记
  • 临窗旋墨
  • 若梦博客
  • 志文工作室
  • 知向前端
  • 皮皮社
  • 九仞之行
  • 韩小韩博客
  • 懋和道人
  • 韩情脉脉
  • 老张博客
  • 蜗牛工作室
  • Serendipity
  • Mr.Sun的博客

COPYRIGHT © 2016-2026 lifengdi.com. ALL RIGHTS RESERVED.

lifengdi.com

Domain age badge for lifengdi.com

Theme Kratos-plus By Dylan Li

津ICP备2024022503号-3

京公网安备11011502039375号