?2016-2026 Matools All rights reserved,
粵ICP備17059708號(hào)
前言
你是否在為系統(tǒng)的數(shù)據(jù)庫來一波大流量就幾乎打滿CPU，日常CPU居高不下煩惱？你是否在各種NoSql間糾結(jié)不定，到底該選用那種最好？今天的你就是昨天的我，這也是寫這篇文章的初衷。
這篇文章是我好幾個(gè)月來一直想寫的一篇文章，也是一直想學(xué)習(xí)的一個(gè)內(nèi)容，作為互聯(lián)網(wǎng)從業(yè)人員，我們要知道關(guān)系型數(shù)據(jù)庫（MySql、Oracle）無法滿足我們對(duì)存儲(chǔ)的所有要求，因此對(duì)底層存儲(chǔ)的選型，對(duì)每種存儲(chǔ)引擎的理解非常重要。同時(shí)也由于過去一段時(shí)間的工作經(jīng)歷，對(duì)這塊有了一些更多的思考，想通過自己的總結(jié)把這塊寫出來分享給大家。
?
結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)與半結(jié)構(gòu)化數(shù)據(jù)
文章的開始，聊一下結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)與半結(jié)構(gòu)化數(shù)據(jù)，因?yàn)閿?shù)據(jù)特點(diǎn)的不同，將在技術(shù)上直接影響存儲(chǔ)引擎的選型。
首先是結(jié)構(gòu)化數(shù)據(jù)，根據(jù)定義結(jié)構(gòu)化數(shù)據(jù)指的是由二維表結(jié)構(gòu)來邏輯表達(dá)和實(shí)現(xiàn)的數(shù)據(jù)，嚴(yán)格遵循數(shù)據(jù)格式與長(zhǎng)度規(guī)范，也稱作為行數(shù)據(jù)
，特點(diǎn)為：數(shù)據(jù)以行為單位，一行數(shù)據(jù)表示一個(gè)實(shí)體的信息，每一行數(shù)據(jù)的屬性是相同的。例如：
因此關(guān)系型數(shù)據(jù)庫完美契合結(jié)構(gòu)化數(shù)據(jù)的特點(diǎn)，關(guān)系型數(shù)據(jù)庫也是關(guān)系型數(shù)據(jù)最主要的存儲(chǔ)與管理引擎。
非結(jié)構(gòu)化數(shù)據(jù)，指的是數(shù)據(jù)結(jié)構(gòu)不規(guī)則或不完整，沒有任何預(yù)定義的數(shù)據(jù)模型，不方便用二維邏輯表來表現(xiàn)的數(shù)據(jù)
，例如辦公文檔（Word）、文本、圖片、HTML、各類報(bào)表、視頻音頻等。
介于結(jié)構(gòu)化與非結(jié)構(gòu)化數(shù)據(jù)之間的數(shù)據(jù)就是半結(jié)構(gòu)化數(shù)據(jù)了，它是結(jié)構(gòu)化數(shù)據(jù)的一種形式，雖然
不符合二維邏輯這種數(shù)據(jù)模型結(jié)構(gòu)，但是包含相關(guān)標(biāo)記，用來分割語義元素以及對(duì)記錄和字段進(jìn)行分層。常見的半結(jié)構(gòu)化數(shù)據(jù)有XML和JSON，例如：
<person> <name>張三</name> <age>18</age> <phone>12345</phone> </person>
這種結(jié)構(gòu)也被成為自描述的結(jié)構(gòu)。
?
以關(guān)系型數(shù)據(jù)庫的方式做存儲(chǔ)的架構(gòu)演進(jìn)
首先，我們看一下使用關(guān)系型數(shù)據(jù)庫的方式，企業(yè)一個(gè)系統(tǒng)發(fā)展的幾個(gè)階段的架構(gòu)演進(jìn)（由于本文寫的是Sql與NoSql，因此只以存儲(chǔ)方式作為切入點(diǎn)，不會(huì)涉及類似MQ、ZK這些中間件內(nèi)容）：
階段一：企業(yè)剛發(fā)展的階段，最簡(jiǎn)單，一個(gè)應(yīng)用服務(wù)器配一個(gè)關(guān)系型數(shù)據(jù)庫，每次讀寫數(shù)據(jù)庫。
階段二：無論是使用MySQL還是Oracle還是別的關(guān)系型數(shù)據(jù)庫，數(shù)據(jù)庫通常不會(huì)先成為性能瓶頸，通常隨著企業(yè)規(guī)模的擴(kuò)大，一臺(tái)應(yīng)用服務(wù)器扛不住上游過來的流量且一臺(tái)應(yīng)用服務(wù)器會(huì)產(chǎn)生單點(diǎn)故障的問題，因此
加應(yīng)用服務(wù)器并且在流量入口使用Nginx做一層負(fù)載均衡，保證把流量均勻打到應(yīng)用服務(wù)器上。
階段三：隨著企業(yè)規(guī)模的繼續(xù)擴(kuò)大，此時(shí)由于讀寫都在同一個(gè)數(shù)據(jù)庫上，數(shù)據(jù)庫性能出現(xiàn)一定的瓶頸，此時(shí)簡(jiǎn)單地做一層讀寫分離
，每次寫主庫，讀備庫，主備庫之間通過binlog同步數(shù)據(jù)，就能很大程度上解決這個(gè)階段的數(shù)據(jù)庫性能問題
階段四：企業(yè)發(fā)展越來越好了，業(yè)務(wù)越來越大了，做了讀寫分離數(shù)據(jù)庫壓力還是越來越大，這時(shí)候怎么辦呢，一臺(tái)數(shù)據(jù)庫扛不住，那我們就分幾臺(tái)吧，做分庫分表
，對(duì)表做垂直拆分，對(duì)庫做水平拆分。以擴(kuò)數(shù)據(jù)庫為例，擴(kuò)出兩臺(tái)數(shù)據(jù)庫，以一定的單號(hào)（例如交易單號(hào)），以一定的規(guī)則（例如取模），交易單號(hào)對(duì)2取模為0的丟到數(shù)據(jù)庫1去，交易單號(hào)對(duì)2取模為1的丟到數(shù)據(jù)庫2去，通過這樣的方式將寫數(shù)據(jù)庫的流量均分到兩臺(tái)數(shù)據(jù)庫上。一般分庫分表會(huì)使用Shard的方式，通過一個(gè)中間件，便于連接管理、數(shù)據(jù)監(jiān)控且客戶端無需感知數(shù)據(jù)庫ip
?
關(guān)系型數(shù)據(jù)庫的優(yōu)點(diǎn)
上面的方式，看似可以解決問題（實(shí)際上確實(shí)也能解決很多問題），正常對(duì)關(guān)系型數(shù)據(jù)庫做一下讀寫分離 +
分庫分表，支撐個(gè)1W+的讀寫QPS還是問題不大的。但是受限于關(guān)系型數(shù)據(jù)庫本身，這套架構(gòu)方案依然有著明顯的不足，下面對(duì)利用關(guān)系型數(shù)據(jù)庫方式做存儲(chǔ)的方案的優(yōu)點(diǎn)先進(jìn)行一下分析，后一部分再分析一下缺點(diǎn)，對(duì)某個(gè)技術(shù)的優(yōu)缺點(diǎn)的充分理解是技術(shù)選型的前提。
* 易理解
因?yàn)樾?+ 列的二維表邏輯是非常貼近邏輯世界的一個(gè)概念，關(guān)系模型相對(duì)網(wǎng)狀、層次等其他模型更加容易被理解
* 操作方便
通用的SQL語言使得操作關(guān)系型數(shù)據(jù)庫非常方便，支持join等復(fù)雜查詢
* 數(shù)據(jù)一致性
支持ACID特性，可以維護(hù)數(shù)據(jù)之間的一致性，這是使用數(shù)據(jù)庫非常重要的一個(gè)理由之一，例如同銀行轉(zhuǎn)賬，張三轉(zhuǎn)給李四100元錢，張三扣100元，李四加100元，而且必須同時(shí)成功或者同時(shí)失敗，否則就會(huì)造成用戶的資損
* 數(shù)據(jù)穩(wěn)定
數(shù)據(jù)持久化到磁盤，沒有丟失數(shù)據(jù)風(fēng)險(xiǎn)，支持海量數(shù)據(jù)存儲(chǔ)
* 服務(wù)穩(wěn)定
最常用的關(guān)系型數(shù)據(jù)庫產(chǎn)品MySql、Oracle服務(wù)器性能卓越，服務(wù)穩(wěn)定，通常很少出現(xiàn)宕機(jī)異常
?
關(guān)系型數(shù)據(jù)庫的缺點(diǎn)
緊接著的，我們看一下關(guān)系型數(shù)據(jù)庫的缺點(diǎn)，也是比較明顯的。
* 高并發(fā)下IO壓力大
數(shù)據(jù)按行存儲(chǔ)，即使只針對(duì)其中某一列進(jìn)行運(yùn)算，也會(huì)將整行數(shù)據(jù)從存儲(chǔ)設(shè)備中讀入內(nèi)存，導(dǎo)致IO較高
* 為維護(hù)索引付出的代價(jià)大
為了提供豐富的查詢能力，通常熱點(diǎn)表都會(huì)有多個(gè)二級(jí)索引，一旦有了二級(jí)索引，數(shù)據(jù)的新增必然伴隨著所有二級(jí)索引的新增，數(shù)據(jù)的更新也必然伴隨著所有二級(jí)索引的更新，這不可避免地降低了關(guān)系型數(shù)據(jù)庫的讀寫能力，且索引越多讀寫能力越差。有機(jī)會(huì)的話可以看一下自己公司的數(shù)據(jù)庫，除了數(shù)據(jù)文件不可避免地占空間外，索引占的空間其實(shí)也并不少
* 為維護(hù)數(shù)據(jù)一致性付出的代價(jià)大
數(shù)據(jù)一致性是關(guān)系型數(shù)據(jù)庫的核心，但是同樣為了維護(hù)數(shù)據(jù)一致性的代價(jià)也是非常大的。我們都知道SQL標(biāo)準(zhǔn)為事務(wù)定義了不同的隔離級(jí)別，從低到高依次是讀未提交、讀已提交、可重復(fù)度、串行化，事務(wù)隔離級(jí)別月底，可能出現(xiàn)的并發(fā)異常越多，但是通常而言能提供的并發(fā)能力越強(qiáng)。那么為了保證事務(wù)一致性，數(shù)據(jù)庫就需要提供并發(fā)控制與故障恢復(fù)兩種技術(shù)，前者用于減少并發(fā)異常，后者可以在系統(tǒng)異常的時(shí)候保證事務(wù)與數(shù)據(jù)庫狀態(tài)不會(huì)被破壞。對(duì)于并發(fā)控制，其核心思想就是加鎖，無論是樂觀鎖還是悲觀鎖，只要提供的隔離級(jí)別越高，那么讀寫性能必然越差
* 水平擴(kuò)展后帶來的種種問題難處理
前文提過，隨著企業(yè)規(guī)模擴(kuò)大，一種方式是對(duì)數(shù)據(jù)庫做分庫，做了分庫之后，數(shù)據(jù)遷移（1個(gè)庫的數(shù)據(jù)按照一定規(guī)則打到2個(gè)庫中）、跨庫join（訂單數(shù)據(jù)里有用戶數(shù)據(jù)，兩條數(shù)據(jù)不在同一個(gè)庫中）、分布式事務(wù)處理都是需要考慮的問題，尤其是分布式事務(wù)處理，業(yè)界當(dāng)前都沒有特別好的解決方案
* 表結(jié)構(gòu)擴(kuò)展不方便
由于數(shù)據(jù)庫存儲(chǔ)的是結(jié)構(gòu)化數(shù)據(jù)，因此表結(jié)構(gòu)schema是固定的，擴(kuò)展不方便，如果需要修改表結(jié)構(gòu)，需要執(zhí)行DDL（data definition
language）語句修改，修改期間會(huì)導(dǎo)致鎖表，部分服務(wù)不可用
* 全文搜索功能弱
例如like
"%中國(guó)真?zhèn)ゴ?"，只能搜索到"2019年中國(guó)真?zhèn)ゴ?，愛祖?guó)"，無法搜索到"中國(guó)真是太偉大了"這樣的文本，即不具備分詞能力，且like查詢?cè)?quot;%中國(guó)真?zhèn)ゴ?quot;這樣的搜索條件下，無法命中索引，將會(huì)導(dǎo)致查詢效率大大降低
寫了這么多，我的理解核心還是前三點(diǎn)，它反映出的一個(gè)問題是關(guān)系型數(shù)據(jù)庫在高并發(fā)下的能力是有瓶頸的
，尤其是寫入/更新頻繁的情況下，出現(xiàn)瓶頸的結(jié)果就是數(shù)據(jù)庫CPU高、Sql執(zhí)行慢、客戶端報(bào)數(shù)據(jù)庫連接池不夠等錯(cuò)誤，因此例如萬人秒殺這種場(chǎng)景，我們絕對(duì)不可能通過數(shù)據(jù)庫直接去扣減庫存。
可能有朋友說，數(shù)據(jù)庫在高并發(fā)下的能力有瓶頸，我公司有錢，加CPU、換固態(tài)硬盤、繼續(xù)買服務(wù)器加數(shù)據(jù)庫做分庫不就好了，問題是這是一種性價(jià)比非常低的方式，花1000萬達(dá)到的效果，換其他方式可能100萬就達(dá)到了，不考慮人員、服務(wù)器投入產(chǎn)出比的Leader就是個(gè)不合格的Leader，且關(guān)系型數(shù)據(jù)庫的方式，受限于它本身的特點(diǎn)，可能花了錢都未必能達(dá)到想要的效果。至于什么是花100萬就能達(dá)到花1000萬效果的方式呢？可以繼續(xù)往下看，這就是我們要說的NoSql。
?
結(jié)合NoSql的方式做存儲(chǔ)的架構(gòu)演進(jìn)
像上文分析的，數(shù)據(jù)庫作為一種關(guān)系型數(shù)據(jù)的存儲(chǔ)引擎，存儲(chǔ)的是關(guān)系型數(shù)據(jù)，它有優(yōu)點(diǎn)，同時(shí)也有明顯的缺點(diǎn)，因此通常在企業(yè)規(guī)模不斷擴(kuò)大的情況下，不會(huì)一味指望通過增強(qiáng)數(shù)據(jù)庫的能力來解決數(shù)據(jù)存儲(chǔ)問題，而是會(huì)引入其他存儲(chǔ)，也就是我們說的NoSql。
NoSql的全稱為Not Only SQL，泛指非關(guān)系型數(shù)據(jù)庫，是對(duì)關(guān)系型數(shù)據(jù)庫的一種補(bǔ)充
，特別注意補(bǔ)充這兩個(gè)字，這意味著NoSql與關(guān)系型數(shù)據(jù)庫并不是對(duì)立關(guān)系，二者各有優(yōu)劣，取長(zhǎng)補(bǔ)短，在合適的場(chǎng)景下選擇合適的存儲(chǔ)引擎才是正確的做法。
比較簡(jiǎn)單的NoSql就是緩存：
針對(duì)那些讀遠(yuǎn)多于寫的數(shù)據(jù)，引入一層緩存，每次讀從緩存中讀取，緩存中讀取不到，再去數(shù)據(jù)庫中取，取完之后再寫入到緩存，對(duì)數(shù)據(jù)做好失效機(jī)制通常就沒有大問題了。通常來說，緩存是性能優(yōu)化的第一選擇也是見效最明顯的方案。
但是，緩存通常都是KV型存儲(chǔ)且容量有限（基于內(nèi)存），無法解決所有問題，于是再進(jìn)一步的優(yōu)化，我們繼續(xù)引入其他NoSql：
數(shù)據(jù)庫、緩存與其他NoSql并行工作，充分發(fā)揮每種NoSql的特點(diǎn)。當(dāng)然NoSql在性能方面大大優(yōu)于關(guān)系挺數(shù)據(jù)庫的同時(shí)，往往也伴隨著一些特性的缺失，比較常見的就是事務(wù)功能的缺失。
下面看一下常用的NoSql及他們的代表產(chǎn)品，并對(duì)每種NoSql的優(yōu)缺點(diǎn)和適用場(chǎng)景做一下分析，便于熟悉每種NoSql的特點(diǎn)，方便技術(shù)選型。
?
KV型NoSql（代表----Redis）
KV型NoSql顧名思義就是以鍵值對(duì)形式存儲(chǔ)的非關(guān)系型數(shù)據(jù)庫，是最簡(jiǎn)單、最容易理解也是大家最熟悉的一種NoSql，因此比較快地帶過。Redis、MemCache是其中的代表，Redis又是KV型NoSql中應(yīng)用最廣泛的NoSql，KV型數(shù)據(jù)庫以Redis為例，最大的優(yōu)點(diǎn)我總結(jié)下來就兩點(diǎn)：
* 數(shù)據(jù)基于內(nèi)存，讀寫效率高
* KV型數(shù)據(jù)，時(shí)間復(fù)雜度為O(1)，查詢速度快
因此，KV型NoSql最大的優(yōu)點(diǎn)就是高性能
，利用Redis自帶的BenchMark做基準(zhǔn)測(cè)試，TPS可達(dá)到10萬的級(jí)別，性能非常強(qiáng)勁。同樣的Redis也有所有KV型NoSql都有的比較明顯的缺點(diǎn)：
* 只能根據(jù)K查V，無法根據(jù)V查K
* 查詢方式單一，只有KV的方式，不支持條件查詢，多條件查詢唯一的做法就是數(shù)據(jù)冗余，但這會(huì)極大的浪費(fèi)存儲(chǔ)空間
* 內(nèi)存是有限的，無法支持海量數(shù)據(jù)存儲(chǔ)
* 同樣的，由于KV型NoSql的存儲(chǔ)是基于內(nèi)存的，會(huì)有丟失數(shù)據(jù)的風(fēng)險(xiǎn)
綜上所述，KV型NoSql最合適的場(chǎng)景就是緩存的場(chǎng)景：
* 讀遠(yuǎn)多于寫
* 讀取能力強(qiáng)
* 沒有持久化的需求，可以容忍數(shù)據(jù)丟失，反正丟了再查詢一把寫入就是了
例如根據(jù)用戶id查詢用戶信息，每次根據(jù)用戶id去緩存中查詢一把，查到數(shù)據(jù)直接返回，查不到去關(guān)系型數(shù)據(jù)庫里面根據(jù)id查詢一把數(shù)據(jù)寫到緩存中去。
?
搜索型NoSql（代表----ElasticSearch）
傳統(tǒng)關(guān)系型數(shù)據(jù)庫主要通過索引來達(dá)到快速查詢的目的，但是在全文搜索的場(chǎng)景下，索引是無能為力的，like查詢一來無法滿足所有模糊匹配需求，二來使用限制太大且使用不當(dāng)容易造成慢查詢，
搜索型NoSql的誕生正是為了解決關(guān)系型數(shù)據(jù)庫全文搜索能力較弱的問題，ElasticSearch是搜索型NoSql的代表產(chǎn)品。
全文搜索的原理是倒排索引，我們看一下什么是倒排索引。要說倒排索引我們先看下什么是正排索引，傳統(tǒng)的正排索引是文檔-->關(guān)鍵字的映射，例如"Tom is my
friend"這句話，會(huì)將其切分為"Tom"、"is"、"my"、"friend"四個(gè)單詞，在搜索的時(shí)候?qū)ξ臋n進(jìn)行掃描，符合條件的查出來。這種方式原理非常簡(jiǎn)單，但是由于其檢索效率太低，基本沒什么實(shí)用價(jià)值。
倒排索引則完全相反，它是關(guān)鍵字-->文檔的映射，我用張表格展示一下就比較清楚了：
意思是我現(xiàn)在這里有"Tom is Tom"、"Tom is my friend"、"Thank you, Betty"、"Tom is Betty's
husband"四句話，搜索引擎會(huì)根據(jù)一定的切分規(guī)則將這句話切成N個(gè)關(guān)鍵字，并以關(guān)鍵字的維度維護(hù)關(guān)鍵字在每個(gè)文本中的出現(xiàn)次數(shù)。這樣下次搜索"Tom"的時(shí)候，由于Tom這個(gè)詞語在"Tom
is Tom"、"Tom is my friend"、"Tom is Betty's
husband"三句話中都有出現(xiàn)，因此這三條記錄都會(huì)被檢索出來，且由于"Tom is
Tom"這句話中"Tom"出現(xiàn)了2次，因此這條記錄對(duì)"Tom"這個(gè)單詞的匹配度最高，最先展示。這就是搜索引擎倒排索引的基本原理，假設(shè)某個(gè)關(guān)鍵字在某個(gè)文檔中出現(xiàn)，那么倒排索引中有兩部分內(nèi)容：
* 文檔ID
* 在該文檔中出現(xiàn)的位置情況
可以舉一反三，我們搜索"Betty Tom"這兩個(gè)詞語也是一樣，搜索引擎將"Betty
Tom"切分為"Tom"、"Betty"兩個(gè)單詞，根據(jù)開發(fā)者指定的滿足率，比如滿足率=50%，那么只要記錄中出現(xiàn)了兩個(gè)單詞之一的記錄都會(huì)被檢索出來，再按照匹配度進(jìn)行展示。
搜索型NoSql以ElasticSearch為例，它的優(yōu)點(diǎn)為：
* 支持分詞場(chǎng)景、全文搜索，這是區(qū)別于關(guān)系型數(shù)據(jù)庫最大特點(diǎn)
* 支持條件查詢，支持聚合操作，類似關(guān)系型數(shù)據(jù)庫的Group By，但是功能更加強(qiáng)大，適合做數(shù)據(jù)分析
* 數(shù)據(jù)寫文件無丟失風(fēng)險(xiǎn)，在集群環(huán)境下可以方便橫向擴(kuò)展，可承載PB級(jí)別的數(shù)據(jù)
* 高可用，自動(dòng)發(fā)現(xiàn)新的或者失敗的節(jié)點(diǎn)，重組和重新平衡數(shù)據(jù)，確保數(shù)據(jù)是安全和可訪問的
同樣，ElasticSearch也有比較明顯的缺點(diǎn)：
* 性能全靠?jī)?nèi)存來頂，也是使用的時(shí)候最需要注意的點(diǎn)，非常吃硬件資源、吃內(nèi)存，大數(shù)據(jù)量下64G +
SSD基本是標(biāo)配，算得上是數(shù)據(jù)庫中的愛馬仕了。為什么要專門提一下內(nèi)存呢，因?yàn)閮?nèi)存這個(gè)東西是很值錢的，相同的配置多一倍內(nèi)存，一個(gè)月差不多就要多花幾百塊錢，至于ElasticSearch內(nèi)存用在什么地方，大概有如下這些：
* Indexing Buffer----ElasticSearch基于Luence，Lucene的倒排索引是先在內(nèi)存里生成，然后定期以Segment
File的方式刷磁盤的，每個(gè)Segment File實(shí)際就是一個(gè)完整的倒排索引
* Segment
Memory----倒排索引前面說過是基于關(guān)鍵字的，Lucene在4.0后會(huì)將所有關(guān)鍵字以FST這種數(shù)據(jù)結(jié)構(gòu)的方式將所有關(guān)鍵字在啟動(dòng)的時(shí)候全量加載到內(nèi)存，加快查詢速度，官方建議至少留系統(tǒng)一半內(nèi)存給Lucene
* 各類緩存----Filter Cache、Field Cache、Indexing Cache等，用于提升查詢分析性能，例如Filter
Cache用于緩存使用過的Filter的結(jié)果集
* Cluter State
Buffer----ElasticSearch被設(shè)計(jì)為每個(gè)Node都可以響應(yīng)用戶請(qǐng)求，因此每個(gè)Node的內(nèi)存中都包含有一份集群狀態(tài)的拷貝，一個(gè)規(guī)模很大的集群這個(gè)狀態(tài)信息可能會(huì)非常大
* 讀寫之間有延遲，寫入的數(shù)據(jù)差不多1s樣子會(huì)被讀取到，這也正常，寫入的時(shí)候自動(dòng)加入這么多索引肯定影響性能
*
數(shù)據(jù)結(jié)構(gòu)靈活性不高，ElasticSearch這個(gè)東西，字段一旦建立就沒法修改類型了，假如建立的數(shù)據(jù)表某個(gè)字段沒有加全文索引，想加上，那么只能把整個(gè)表刪了再重建
因此，搜索型NoSql最適用的場(chǎng)景就是有條件搜索尤其是全文搜索的場(chǎng)景，作為關(guān)系型數(shù)據(jù)庫的一種替代方案。
另外，搜索型數(shù)據(jù)庫還有一種特別重要的應(yīng)用場(chǎng)景。我們可以想，一旦對(duì)數(shù)據(jù)庫做了分庫分表后，原來可以在單表中做的聚合操作、統(tǒng)計(jì)操作是否統(tǒng)統(tǒng)失效？例如我把訂單表分16個(gè)庫，1024張表，那么訂單數(shù)據(jù)就散落在1024張表中，我想要統(tǒng)計(jì)昨天浙江省單筆成交金額最高的訂單是哪筆如何做？我想要把昨天的所有訂單按照時(shí)間排序分頁展示如何做？
這就是文檔型NoSql的另一大作用了，我們可以把分表之后的數(shù)據(jù)統(tǒng)一打在文檔型NoSql中，利用文檔型NoSql的搜索與聚合能力完成對(duì)全量數(shù)據(jù)的查詢。
至于為什么把它放在KV型NoSql后面作為第二個(gè)寫呢，因?yàn)橥ǔＫ阉餍蚇oSql也會(huì)作為一層前置緩存，來對(duì)關(guān)系型數(shù)據(jù)庫進(jìn)行保護(hù)。
?
列式NoSql（代表----HBase）
列式NoSql，大數(shù)據(jù)時(shí)代最具代表性的技術(shù)之一了，以HBase為代表。
列式NoSql是基于列式存儲(chǔ)的，那么什么是列式存儲(chǔ)呢，列式NoSql和關(guān)系型數(shù)據(jù)庫一樣都有主鍵的概念，區(qū)別在于關(guān)系型數(shù)據(jù)庫是按照行組織的數(shù)據(jù)：
看到每行有name、phone、address三個(gè)字段，這是行式存儲(chǔ)的方式，且可以觀察id = 2的這條數(shù)據(jù)，即使phone字段沒有，它也是占空間的。
列式存儲(chǔ)完全是另一種方式，它是按每一列進(jìn)行組織的數(shù)據(jù)：
這么做有什么好處呢？大致有以下幾點(diǎn)：
* 查詢時(shí)只有指定的列會(huì)被讀取，不會(huì)讀取所有列
*
存儲(chǔ)上節(jié)約空間，Null值不會(huì)被存儲(chǔ)，一列中有時(shí)候會(huì)有很多重復(fù)數(shù)據(jù)（尤其是枚舉數(shù)據(jù)，性別、狀態(tài)等），這類數(shù)據(jù)可壓縮，行式數(shù)據(jù)庫壓縮率通常在3:1~5:1之間，列式數(shù)據(jù)庫的壓縮率一般在8:1~30:1左右
* 列數(shù)據(jù)被組織到一起，一次磁盤IO可以將一列數(shù)據(jù)一次性讀取到內(nèi)存中
第二點(diǎn)說到了數(shù)據(jù)壓縮，什么意思呢，以比較常見的字典表壓縮方式舉例：
自己看圖理解一下，應(yīng)該就懂了。?
接著繼續(xù)講講優(yōu)缺點(diǎn)，列式NoSql，以HBase為代表的，優(yōu)點(diǎn)為：
* 海量數(shù)據(jù)無限存儲(chǔ)，PB級(jí)別數(shù)據(jù)隨便存，底層基于HDFS（Hadoop文件系統(tǒng)），數(shù)據(jù)持久化
* 讀寫性能好，只要沒有濫用造成數(shù)據(jù)熱點(diǎn)，讀寫基本隨便玩
* 橫向擴(kuò)展在關(guān)系型數(shù)據(jù)庫及非關(guān)系型數(shù)據(jù)庫中都是最方便的之一，只需要添加新機(jī)器就可以實(shí)現(xiàn)數(shù)據(jù)容量的線性增長(zhǎng)，且可用在廉價(jià)服務(wù)器上，節(jié)省成本
* 本身沒有單點(diǎn)故障，可用性高
* 可存儲(chǔ)結(jié)構(gòu)化或者半結(jié)構(gòu)化的數(shù)據(jù)
* 列數(shù)理論上無限，HBase本身只對(duì)列族數(shù)量有要求，建議1~3個(gè)
說了這么多HBase的優(yōu)點(diǎn)，又到了說HBase缺點(diǎn)的時(shí)候了：
* HBase是Hadoop生態(tài)的一部分，因此它本身是一款比較重的產(chǎn)品，依賴很多Hadoop組件，數(shù)據(jù)規(guī)模不大沒必要用，運(yùn)維還是有點(diǎn)復(fù)雜的
*
KV式，不支持條件查詢，或者說條件查詢非常非常弱吧，HBase在Scan掃描一批數(shù)據(jù)的情況下還是提供了前綴匹配這種API的，條件查詢除非定義多個(gè)RowKey做數(shù)據(jù)冗余
* 不支持分頁查詢，因?yàn)榻y(tǒng)計(jì)不了數(shù)據(jù)總數(shù)
因此HBase比較適用于那種KV型的且未來無法預(yù)估數(shù)據(jù)增長(zhǎng)量的場(chǎng)景，另外HBase使用還是需要一定的經(jīng)驗(yàn)，主要體現(xiàn)在RowKey的設(shè)計(jì)上。
?
文檔型NoSql（代表----MongoDB）
坦白講，根據(jù)我的工作經(jīng)歷，文檔型NoSql我只有比較淺的使用經(jīng)驗(yàn)，因此這部分只能結(jié)合之前的使用與網(wǎng)上的文章大致給大家介紹一下。
什么是文檔型NoSql呢，文檔型NoSql指的是將半結(jié)構(gòu)化數(shù)據(jù)存儲(chǔ)為文檔的一種NoSql，文檔型NoSql通常以JSON或者XML格式存儲(chǔ)數(shù)據(jù)，因此文檔型NoSql是沒有Schema的，由于沒有Schema的特性，我們可以隨意地存儲(chǔ)與讀取數(shù)據(jù)，因此文檔型NoSql的出現(xiàn)是
解決關(guān)系型數(shù)據(jù)庫表結(jié)構(gòu)擴(kuò)展不方便的問題的。
MongoDB是文檔型NoSql的代表產(chǎn)品，同時(shí)也是所有NoSql產(chǎn)品中的明星產(chǎn)品之一，因此這里以MongoDB為例。按我的理解，作為文檔型NoSql，MongoDB是一款完全和關(guān)系型數(shù)據(jù)庫對(duì)標(biāo)的產(chǎn)品，就我們從存儲(chǔ)上來看：
看到，關(guān)系型數(shù)據(jù)庫是按部就班地每個(gè)字段一列存，在MongDB里面就是一個(gè)JSON字符串存儲(chǔ)。
關(guān)系型數(shù)據(jù)可以為name、phone建立索引，MongoDB使用createIndex命令一樣可以為列建立索引，建立索引之后可以大大提升查詢效率。其他方面而言，就大的基本概念，二者之間基本也是類似的：
因此，對(duì)于MongDB，我們只要理解成一個(gè)Free-Schema的關(guān)系型數(shù)據(jù)庫就完事了，它的優(yōu)缺點(diǎn)比較一目了然，優(yōu)點(diǎn)：
* 沒有預(yù)定義的字段，擴(kuò)展字段容易
* 相較于關(guān)系型數(shù)據(jù)庫，讀寫性能優(yōu)越，命中二級(jí)索引的查詢不會(huì)比關(guān)系型數(shù)據(jù)庫慢，對(duì)于非索引字段的查詢則是全面勝出
缺點(diǎn)在于：
* 不支持事務(wù)操作，雖然Mongodb4.0之后宣稱支持事務(wù)，但是效果待觀測(cè)
* 多表之間的關(guān)聯(lián)查詢不支持（雖然有嵌入文檔的方式），join查詢還是需要多次操作
* 空間占用較大，這個(gè)是MongDB的設(shè)計(jì)問題，空間預(yù)分配機(jī)制 + 刪除數(shù)據(jù)后空間不釋放，只有用db.repairDatabase()去修復(fù)才能釋放
* 目前沒發(fā)現(xiàn)MongoDB有關(guān)系型數(shù)據(jù)庫例如MySql的Navicat這種成熟的運(yùn)維工具
總而言之，MongDB的使用場(chǎng)景很大程度上可以對(duì)標(biāo)關(guān)系型數(shù)據(jù)庫，但是比較適合處理那些沒有join、沒有強(qiáng)一致性要求且表Schema會(huì)常變化的數(shù)據(jù)。
?
總結(jié)：數(shù)據(jù)庫與NoSql及各種NoSql間的對(duì)比
最后一部分，做一個(gè)總結(jié)，本文歸根到底是兩個(gè)話題：
* 何時(shí)選用關(guān)系型數(shù)據(jù)庫，何時(shí)選用非關(guān)系型數(shù)據(jù)庫
* 選用非關(guān)系型數(shù)據(jù)庫，使用哪種非關(guān)系型數(shù)據(jù)庫
首先是第一個(gè)話題，關(guān)系型數(shù)據(jù)庫與非關(guān)系型數(shù)據(jù)庫的選擇，在我理解里面無非就是兩點(diǎn)考慮：
第一點(diǎn)，不多解釋應(yīng)該都理解，非關(guān)系型數(shù)據(jù)庫都是通過犧牲了ACID特性來獲取更高的性能的，假設(shè)兩張表之間有比較強(qiáng)的一致性需求，那么這類數(shù)據(jù)是不適合放在非關(guān)系型數(shù)據(jù)庫中的。
第二點(diǎn)，核心數(shù)據(jù)不走非關(guān)系型數(shù)據(jù)庫，例如用戶表、訂單表，但是這有一個(gè)前提，就是這一類核心數(shù)據(jù)會(huì)有多種查詢模式，例如用戶表有ABCD四個(gè)字段，可能根據(jù)AB查，可能根據(jù)AC查，可能根據(jù)D查，假設(shè)核心數(shù)據(jù)，但是就是個(gè)KV形式，比如用戶的聊天記錄，那么HBase一存就完事了。
這幾年的工作經(jīng)驗(yàn)來看，非核心數(shù)據(jù)尤其是日志、流水一類中間數(shù)據(jù)千萬不要寫在關(guān)系型數(shù)據(jù)庫中，這一類數(shù)據(jù)通常有兩個(gè)特點(diǎn)：
* 寫遠(yuǎn)高于讀
* 寫入量巨大
一旦使用關(guān)系型數(shù)據(jù)庫作為存儲(chǔ)引擎，將大大降低關(guān)系型數(shù)據(jù)庫的能力，正常讀寫QPS不高的核心服務(wù)會(huì)受這一類數(shù)據(jù)讀寫的拖累。
接著是第二個(gè)問題，如果我們使用非關(guān)系型數(shù)據(jù)庫作為存儲(chǔ)引擎，那么如何選型？其實(shí)上面的文章基本都寫了，這里只是做一個(gè)總結(jié)（所有的缺點(diǎn)都不會(huì)體現(xiàn)事務(wù)這個(gè)點(diǎn)，因?yàn)檫@是所有NoSql相比關(guān)系型數(shù)據(jù)庫共有的一個(gè)問題）：
但是這里特別說明，選型一定要結(jié)合實(shí)際情況而不是照本宣科，比如：
* 企業(yè)發(fā)展之初，明明一個(gè)關(guān)系型數(shù)據(jù)庫就能搞定且支撐一年的架構(gòu)，搞一套大而全的技術(shù)方案出來
*
有一些數(shù)據(jù)條件查詢多，更適合使用ElasticSearch做存儲(chǔ)降低關(guān)系型數(shù)據(jù)庫壓力，但是公司成本有限，這種情況下這類數(shù)據(jù)可以嘗試?yán)^續(xù)使用關(guān)系型數(shù)據(jù)庫做存儲(chǔ)
* 有一類數(shù)據(jù)格式簡(jiǎn)單，就是個(gè)KV類型且增長(zhǎng)量大，但是公司沒有HBase這方面的人才，運(yùn)維上可能會(huì)有一定難度，出于實(shí)際情況考慮，可先用關(guān)系型數(shù)據(jù)庫頂一陣子
所以，如果不考慮實(shí)際情況，雖然合適有些存儲(chǔ)引擎更加合適，但是強(qiáng)行使用反而適得其反，總而言之，適合自己的才是最好的。
?
熱門工具 換一換