Elasticsearch分布式架構原理是什么

Elasticsearch雖然能從更強大的硬件中獲得更好的性能，但是縱向擴展有它的局限性。真正的擴展應該是橫向的，它通過增加節(jié)點來均攤負載和增加可靠性。

對于大多數數據庫而言，橫向擴展意味著你的程序將做非常大的改動才能利用這些新添加的設備。對比來說，Elasticsearch天生就是分布式的：它知道如何管理節(jié)點來提供高擴展和高可用。這意味著你的程序不需要關心這些。

es 中存儲數據的基本單位是索引，我們?yōu)榱藢祿砑拥紼S中，就需要添加索引(index)

這里需要說一下ES中索引與分片(shard)的關系：一個分片(shard)是一個最小級別“工作單元(worker unit)”,它只是保存了索引中所有數據的一部分；所有的文檔均存在分片中，而直接與應用程序進行交互的再而三索引。

下面我們以酒店搜索為例，添加所有酒店索引hotel_idx

PUT /hotel_idx {   "settings" : {      "number_of_shards" : 3,      "number_of_replicas" : 1    } }

我們啟動三個ES節(jié)點，當前hotel_idx 分配3個主分片(primary shard)，每個主分片1個副本分片(replica shard)。、

1，ES Client 會挑一個Node，上面挑選了NODE1，則成為協(xié)調節(jié)點，進行寫入數據，此時ES怎么才能知道將一個文檔（一條酒店數據）路由到哪個分片中呢，實際上，他是根據這個公式：

shard=hash(routing)%number_of_primary_shards

routing 是一個可變值，默認是文檔的 _id ，也可以設置成一個自定義的值，這里可以是酒店的hotel_id。routing 通過 hash 函數生成一個數字，然后這個數字再除以 number_of_primary_shards （主分片的數量）后得到 余數 。這個分布在 0 到 number_of_primary_shards-1 之間的余數，就是我們所尋求的文檔所在分片的位置。

2，寫完P0后就會同步到他的副本R0中去，同步成功則會返回給協(xié)調節(jié)點Node1,最后返回Client

3，ES client讀取數據均可以讀取主副分片

如上NODE1-master節(jié)點宕機了，ES則會進行重新選舉（如果需要后面考慮分享一下分布式選舉專題），假如選了NODE2為master。

如果是非master宕機（node2），master節(jié)點node1則會將Node3的R1副本轉為主分片P1接收寫操作，如果NODE2恢復了，則之前的P1轉為R1副本。

ES在創(chuàng)建索引時就需要指定主分片的數量，所以主分片指定了是不能再擴充的，當存儲容量超過了目前的ES節(jié)點，一般有些生產做法是，重新再建立了新索引比目前多一點shard，然后導入數據，但這種也是有些缺點的:這樣做將消耗的時間是我們無法提供的;

我們一般的做法是事先進行預分配，通過事先規(guī)劃，我們可以使用 預分配 的方式來完全避免這個問題。

其中，副本分片是可以動態(tài)擴展的，在讀取很大的場景下，適當的擴充副本會增加吞吐量。

PUT /hotel_idx/_settings {    "number_of_replicas" : 2 }

其實這個是不好解釋的，因為實在有太多相關的因素了：你使用的硬件、文檔的大小和復雜度、文檔的索引分析方式、運行的查詢類型、執(zhí)行的聚合以及你的數據模型等等。

生產中經驗建議：

基于你準備用于生產環(huán)境的硬件創(chuàng)建一個擁有單個節(jié)點的集群。

創(chuàng)建一個和你準備用于生產環(huán)境相同配置和分析器的索引，但讓它只有一個主分片無副本分片。

索引實際的文檔（或者盡可能接近實際）。

運行實際的查詢和聚合（或者盡可能接近實際）。

基本來說，你需要復制真實環(huán)境的使用方式并將它們全部壓縮到單個分片上直到它“掛掉?！?實際上 掛掉 的定義也取決于你：一些用戶需要所有響應在 50 毫秒內返回；另一些則樂于等上 5 秒鐘。

一旦你定義好了單個分片的容量，很容易就可以推算出整個索引的分片數。用你需要索引的數據總數加上一部分預期的增長，除以單個分片的容量，結果就是你需要的主分片個數。