透過12306五大焦點看高性能高并發(fā)系統(tǒng)
幽云十八 發(fā)表于：12年02月20日 09:46 [轉載] IT168
焦點三：高性能高并發(fā)系統(tǒng)架構到底該怎樣設計?
關于12306購票系統(tǒng)的問題討論到這個階段，幾乎所有人都明白，就目前情況下，使用單臺服務器根本就不可能應對這種千萬級PV的并發(fā)，只能用集群 來解決這個問題，那么說到集群，就不可避免地談到系統(tǒng)架構，可以說架構將直接影響整個系統(tǒng)的性能發(fā)揮。如果架構不合理，單臺服務器性能再好也是無處著力; 而反之則情況未必，并且這種情況在互聯(lián)網(wǎng)行業(yè)相當常見，諸如谷歌、Facebook等公司均是采用普通性能的服務器來搭建集群，并通過系統(tǒng)架構和特定優(yōu)化 來發(fā)揮其最大性能，對于業(yè)內(nèi)人士而言，這些都不必廢話。
百度首席架構師林仕鼎認為，類似于12306的在線交易系統(tǒng)可采用Scale- out這種模式來做，即通過簡單地不斷添加機器的方式。也就是說，架設這個系統(tǒng)本身并不復雜，12306系統(tǒng)之所以崩潰，主要原因在于請求的尖峰，10倍 于平常的壓力是很正常的。普通模型到達性能瓶頸后，開始堆積請求(可能在web server，也可能在請求隊列，不過通常不會在CDN)，吞吐急劇下降，延遲急劇上升，而隨著堆積請求越多，情況越糟，引起雪崩效應。而12306的問 題就是屬于這種情況，這樣的壓力通常不會持續(xù)很久，如果性能不急劇下降的話，一段時間后其實也就能把請求都響應了。但12306的情況則是人們沒有買到 票，于是不停是刷新，這個操作是不間斷的，而且是大規(guī)模范圍內(nèi)的，所以宕機也就實屬必然。
林仕鼎隨后在第二篇博文中說，(類似于 12306)系統(tǒng)的復雜度在于海量的并發(fā)請求，并發(fā)性可以通過scale-out(簡單來說，就是堆機器)加以解決，但最難的卻是保證系統(tǒng)的穩(wěn)定吞吐。值得注意的是，在線系統(tǒng)應以保證極限情況下的穩(wěn)定輸出(sustained throughput)為首要設計目標，而這是不容易實現(xiàn)的。至于如何切分數(shù)據(jù)，如何scale-out，這和具體業(yè)務特點關系密切。這些都是軟件層需要解決的問題，如何用軟件架構的方法來實現(xiàn)scale-up就很困難，做得好與不好可能性能差異能達幾倍到一個量級。
IBM軟件架構師景文童認為12306 互聯(lián)網(wǎng)售票系統(tǒng)應該是一個高性能、高伸縮性、高可靠性的系統(tǒng)，可以在高峰期(例如春運時刻)增加機器能夠應對高峰期的峰值用戶群。而目前的傳統(tǒng)做法是用一 大堆好機器來做數(shù)據(jù)庫集群和應用服務器集群，把用J2EE架構做出來的功能部署在應用服務器集群上，而把大部分壓力都放在數(shù)據(jù)庫上。景文童認為，傳統(tǒng)的做 法并不特別關注高性能、高可靠性、高伸縮性的應用架構設計、數(shù)據(jù)架構的設計和相應的代碼質量。而這也正是12306系統(tǒng)所缺失的地方。
12306與中國著名的互聯(lián)網(wǎng)企業(yè)進行合作解決—整體架構
針對類似于12306的高性能高并發(fā)系統(tǒng)設計，童文童認為12306網(wǎng)站完全可以和新浪、淘寶等大型互聯(lián)網(wǎng)公司進行合作，通過他們的平臺進行登錄，利用這些大型互聯(lián)網(wǎng)公司的資源與12306的平臺相對接，以分散海量并發(fā)所帶來的壓力，具體架構設計可參考上圖。
在集成架構方面，可采用以消息隊列為核心的異步機制把新浪微博、淘寶、騰訊這些公司平臺提供的互聯(lián)網(wǎng)售票應用與12306互聯(lián)網(wǎng)售票數(shù)據(jù)服務系統(tǒng)集成起來。這種消息隊列為核心的異步機制進行解耦的架構有幾個最大的好處：
當大量的并發(fā)的用戶(例如千萬級別的)在幾分鐘之內(nèi)甚至1分鐘之內(nèi)壓到新浪微博、淘寶、騰訊這些公司平臺提供的互聯(lián)網(wǎng)售票WEB應用，所產(chǎn)生的壓力 由相應的網(wǎng)絡、均衡負載器、互聯(lián)網(wǎng)售票WEB應用的服務器給分別的承受掉。并且轉換成相應的消息異步的傳到12306互聯(lián)網(wǎng)售票數(shù)據(jù)服務系統(tǒng)進行處理，這 樣轉換給12306互聯(lián)網(wǎng)售票數(shù)據(jù)服務系統(tǒng)的并發(fā)壓力將會下降幾個數(shù)量級。
12306互聯(lián)網(wǎng)售票數(shù)據(jù)服務系統(tǒng)可以根據(jù)相應的需求按需配置所需要的資源(例如機器數(shù)目和線程數(shù)目進行處理)對不同的隊列進行處理。并且由于采用 了消息隊列為核心的異步機制，在高峰期的時候肯定是大量的消息涌入以期待處理，在沒有采用消息隊列為核心的異步機制的時候我們需要的一次一條條進行處理， 而這種情況下例如我們可以對登錄實現(xiàn)一次處理10條消息的批量處理，從而大大地降低對數(shù)據(jù)庫的壓力。
12306可以將前端交給這些公司合作一起解決高并發(fā)問題，當然也可以自己獨立解決前端的并發(fā)問題，以避免合作過程中可能出現(xiàn)的問題。這對于整體系 統(tǒng)架構設計而言，并不會有太大的變化，只是需要投入大量的成本而已。
