1. 什麼是分布式編程
分布式應用程序就是指應用程序分布在不同計算機上，通過網路來共同完成一項任務，通常為伺服器/客戶端模式。更廣義上理解「分布」，不只是應用程序，還包括資料庫等，分布在不同計算機，完成同一個任務。之所以要把一個應用程序分布在不同的計算機上，主要有兩個目的：
1) 分散伺服器的壓力
大型系統中，模塊眾多，並發量大，僅用一個伺服器承載往往會發生壓力過大而導致系統癱瘓的情況。可以在橫向和縱向兩方面來進行拆分，把這些模塊部署到不同的伺服器上。這樣整個系統的壓力就分布到了不同的伺服器上。
l 橫向：按功能劃分。
l 縱向：N層架構，其中的一些層分布到不同的伺服器上（分層的概念會在後文進行介紹）。
2) 提供服務，功能重用
使用服務進行功能重用比使用組件進行代碼重用更進一層。舉例來說，如果在一個系統中的三個模塊都需要用到報表功能，一種方法是把報表功能做成一個單獨的組件，然後讓三個模塊都引用這個組件，計算操作由三個模塊各自進行；另一種方法是把報表功能做成單獨的服務，讓這三個模塊直接使用這個服務來獲取數據，所有的計算操作都在一處進行，很明顯後者的方案會比前者好得多。
服務不僅能對內提供還能對外提供，如果其他合作夥伴需要使用我們的報表服務，我們又不想直接把所有的信息都公開給它們。在這種情況下組件方式就不是很合理了，通過公開服務並對服務的使用方做授權和驗證，那麼我們既能保證合作夥伴能得到他們需要的數據，又能保證核心的數據不公開。
2. rust可以開發分布式系統嗎
rust是可以開發分布式系統的。
引子
構建一個分布式系統 並不是一件容易的事情，我們需要考慮很多的問題，首先就是我們的系統到底需要提供什麼樣的功能，譬如：
一致性：我們是否需要保證整個系統的線性一致性，還是能容忍短時間的數據不一致，只支持最終一致性。
穩定性：我們能否保證系統 7 x 24 小時穩定運行。系統的可用性是 4 個 9，還有 5 個 9？如果出現了機器損壞等災難情況，系統能否做的自動恢復。
擴展性：當數據持續增多，能否通過添加機器就自動做到數據再次平衡，並且不影響外部服務。
分布式事務：是否需要提供分布式事務支持，事務隔離等級需要支持到什麼程度。
上面的問題在系統設計之初，就需要考慮好，作為整個系統的設計目標。為了實現這些特性，我們就需要考慮到底採用哪一種實現方案，取捨各個方面的利弊等。
後面，我將以我們開發的分布式 Key-Value TiKV 作為實際例子，來說明下我們是如何取捨並實現的。
TiKV
TiKV 是一個分布式 Key-Value store，它使用 Rust 開發，採用 Raft 一致性協議保證數據的強一致性，以及穩定性，同時通過 Raft 的 Configuration Change 機制實現了系統的可擴展性。
TiKV 提供了基本的 KV API 支持，也就是通常的 Get，Set，Delete，Scan 這樣的 API。TiKV 也提供了支持 ACID 事務的 Transaction API，我們可以使用 Begin 開啟一個事務，在事務裡面對 Key 進行操作，最後再用 Commit 提交一個事務，TiKV 支持 SI 以及 SSI 事務隔離級別，用來滿足用戶的不同業務場景。
Rust
在規劃好 TiKV 的特性之後，我們就要開始進行 TiKV 的開發。這時候，我們面臨的第一個問題就是採用什麼樣的語言進行開發。當時，擺在我們眼前的有幾個選擇：
Go，Go 是我們團隊最擅長的一門語言，而且 Go 提供的 goroutine，channel 這些機制，天生的適合大規模分布式系統的開發，但靈活方便的同時也有一些甜蜜的負擔，首先就是 GC，雖然現在 Go 的 GC 越來越完善，但總歸會有短暫的卡頓，另外 goroutine 的調度也會有切換開銷，這些都可能會造成請求的延遲增高。
Java，現在世面上面有太多基於 Java 做的分布式系統了，但 Java 一樣有 GC 等開銷問題，同時我們團隊在 Java 上面沒有任何開發經驗，所以沒有採用。
C++，C++ 可以認為是開發高性能系統的代名詞，但我們團隊沒有特別多的同學能熟練掌握 C++，所以開發大型 C++ 項目並不是一件非常容易的事情。雖然使用現代 C++ 的編程方式能大量減少 data race，dangling pointer 等風險，我們仍然可能犯錯。
當我們排除了上面幾種主流語言之後，我們發現，為了開發 TiKV，我們需要這門語言具有如下特性：
靜態語言，這樣才能最大限度的保證運行性能。
無 GC，完全手動控制內存。
Memory safe，盡量避免 dangling pointer，memory leak 等問題。
Thread safe，不會遇到 data race 等問題。
包管理，我們可以非常方便的使用第三方庫。
高效的 C 綁定，因為我們還可能使用一些 C library，所以跟 C 交互不能有開銷。
綜上，我們決定使用 Rust，Rust 是一門系統編程語言，它提供了我們上面想要的語言特性，但選擇 Rust 對我們來說也是很有風險的，主要有兩點：
我們團隊沒有任何 Rust 開發經驗，全部都需要花時間學習 Rust，而偏偏 Rust 有一個非常陡峭的學習曲線。
基礎網路庫的缺失，雖然那個時候 Rust 已經出了 1.0，但我們發現很多基礎庫都沒有，譬如在網路庫上面只有 mio，沒有好用的 RPC 框架，HTTP 也不成熟。
但我們還是決定使用 Rust，對於第一點，我們團隊花了將近一個月的時間來學習 Rust，跟 Rust 編譯器作斗爭，而對於第二點，我們就完全開始自己寫。
幸運的，當我們越過 Rust 那段陣痛期之後，發現用 Rust 開發 TiKV 異常的高效，這也就是為啥我們能在短時間開發出 TiKV 並在生產環境中上線的原因。
一致性協議
對於分布式系統來說，CAP 是一個不得不考慮的問題，因為 P 也就是 Partition Tolerance 是一定存在的，所以我們就要考慮到底是選擇 C - Consistency 還是 A - Availability。
我們在設計 TiKV 的時候就決定 - 完全保證數據安全性，所以自然就會選擇 C，但其實我們並沒有完全放棄 A，因為多數時候，畢竟斷網，機器停電不會特別頻繁，我們只需要保證 HA - High Availability，也就是 4 個 9 或者 5 個 9 的可用性就可以了。
既然選擇了 C，我們下一個就考慮的是選用哪一種分布式一致性演算法，現在流行的無非就是 Paxos 或者 Raft，而 Raft 因為簡單，容易理解，以及有很多現成的開源庫可以參考，自然就成了我們的首要選擇。
在 Raft 的實現上，我們直接參考的 etcd 的 Raft。etcd 已經被大量的公司在生產環境中使用，所以它的 Raft 庫質量是很有保障的。雖然 etcd 是用 Go 實現的，但它的 Raft library 是類似 C 的實現，所以非常便於我們用 Rust 直接翻譯。在翻譯的過程中，我們也給 etcd 的 Raft fix 了一些 bug，添加了一些功能，讓其變得更加健壯和易用。
現在 Raft 的代碼仍然在 TiKV 工程裡面，但我們很快會將獨立出去，變成獨立的 library，這樣大家就能在自己的 Rust 項目中使用 Raft 了。
使用 Raft 不光能保證數據的一致性，也可以藉助 Raft 的 Configuration Change 機制實現系統的水平擴展，這個我們會在後面的文章中詳細的說明。
存儲引擎
選擇了分布式一致性協議，下一個就要考慮數據存儲的問題了。在 TiKV 裡面，我們會存儲 Raft log，然後也會將 Raft log 裡面實際的客戶請求應用到狀態機裡面。
首先來看狀態機，因為它會存放用戶的實際數據，而這些數據完全可能是隨機的 key - value，為了高效的處理隨機的數據插入，自然我們就考慮使用現在通用的 LSM Tree 模型。而在這種模型下，RocksDB 可以認為是現階段最優的一個選擇。
RocksDB 是 Facebook 團隊在 LevelDB 的基礎上面做的高性能 Key-Value Storage，它提供了很多配置選項，能讓大家根據不同的硬體環境去調優。這里有一個梗，說的是因為 RocksDB 配置太多，以至於連 RocksDB team 的同學都不清楚所有配置的意義。
關於我們在 TiKV 中如何使用，優化 RocksDB，以及給 RocksDB 添加功能，fix bug 這些，我們會在後面文章中詳細說明。
而對於 Raft Log，因為任意 Log 的 index 是完全單調遞增的，譬如 Log 1，那麼下一個 Log 一定是 Log 2，所以 Log 的插入可以認為是順序插入。這種的，最通常的做法就是自己寫一個 Segment File，但現在我們仍然使用的是 RocksDB，因為 RocksDB 對於順序寫入也有非常高的性能，也能滿足我們的需求。但我們不排除後面使用自己的引擎。
因為 RocksDB 提供了 C API，所以可以直接在 Rust 裡面使用，大家也可以在自己的 Rust 項目裡面通過 rust-rocksdb 這個庫來使用 RocksDB。
分布式事務
要支持分布式事務，首先要解決的就是分布式系統時間的問題，也就是我們用什麼來標識不同事務的順序。通常有幾種做法：
TrueTime，TrueTime 是 Google Spanner 使用的方式，不過它需要硬體 GPS + 原子鍾支持，而且 Spanner 並沒有在論文裡面詳細說明硬體環境是如何搭建的，外面要自己實現難度比較大。
HLC，HLC 是一種混合邏輯時鍾，它使用 Physical Time 和 Logical Clock 來確定事件的先後順序，HLC 已經在一些應用中使用，但 HLC 依賴 NTP，如果 NTP 精度誤差比較大，很可能會影響 commit wait time。
TSO，TSO 是一個全局授時器，它直接使用一個單點服務來分配時間。TSO 的方式很簡單，但會有單點故障問題，單點也可能會有性能問題。
TiKV 採用了 TSO 的方式進行全局授時，主要是為了簡單。至於單點故障問題，我們通過 Raft 做到了自動 fallover 處理。而對於單點性能問題，TiKV 主要針對的是 PB 以及 PB 以下級別的中小規模集群，所以在性能上面只要能保證每秒百萬級別的時間分配就可以了，而網路延遲上面，TiKV 並沒有全球跨 IDC 的需求，在單 IDC 或者同城 IDC 情況下，網路速度都很快，即使是異地 IDC，也因為有專線不會有太大的延遲。
解決了時間問題，下一個問題就是我們採用何種的分布式事務演算法，最通常的就是使用 2 PC，但通常的 2 PC 演算法在一些極端情況下面會有問題，所以業界要不通過 Paxos，要不就是使用 3 PC 等演算法。在這里，TiKV 參考 Percolator，使用了另一種增強版的 2 PC 演算法。
這里先簡單介紹下 Percolator 的分布式事務演算法，Percolator 使用了樂觀鎖，也就是會先緩存事務要修改的數據，然後在 Commit 提交的時候，對要更改的數據進行加鎖處理，然後再更新。採用樂觀鎖的好處在於對於很多場景能提高整個系統的並發處理能力，但在沖突嚴重的情況下反而沒有悲觀鎖高效。
對於要修改的一行數據，Percolator 會有三個欄位與之對應，Lock，Write 和 Data：
Lock，就是要修改數據的實際 lock，在一個 Percolator 事務裡面，有一個 primary key，還有其它 secondary keys， 只有 primary key 先加鎖成功，我們才會再去嘗試加鎖後續的 secondary keys。
Write，保存的是數據實際提交寫入的 commit timestamp，當一個事務提交成功之後，我們就會將對應的修改行的 commit timestamp 寫入到 Write 上面。
Data，保存實際行的數據。
當事務開始的時候，我們會首先得到一個 start timestamp，然後再去獲取要修改行的數據，在 Get 的時候，如果這行數據上面已經有 Lock 了，那麼就可能終止當前事務，或者嘗試清理 Lock。
當我們要提交事務的時候，先得到 commit timestamp，會有兩個階段：
Prewrite：先嘗試給 primary key 加鎖，然後嘗試給 second keys 加鎖。如果對應 key 上面已經有 Lock，或者在 start timestamp 之後，Write 上面已經有新的寫入，Prewrite 就會失敗，我們就會終止這次事務。在加鎖的時候，我們也會順帶將數據寫入到 Data 上面。
Commit：當所有涉及的數據都加鎖成功之後，我們就可以提交 primay key，這時候會先判斷之前加的 Lock 是否還在，如果還在，則刪掉 Lock，將 commit timestamp 寫入到 Write。當 primary key 提交成功之後，我們就可以非同步提交 second keys，我們不用在乎 primary keys 是否能提交成功，即使失敗了，也有機制能保證數據被正常提交。