青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

eXile 的專欄

高性能服務器的多線程策略


(一)線程數(shù)量與線程池模型
  參見:high-performance server design. http://pl.atyp.us/content/tech/servers.html

  頻繁的上下文切換,會導致系統(tǒng)性能嚴重下降,而產(chǎn)生過多的切換大致有兩個原因:
  1)過多的線程數(shù)量。這會使系統(tǒng)性能呈指數(shù)級的下降。對于每連接一個線程的系統(tǒng)而言,這也是為什么性能會變差的原因。一個具有可伸縮性的系統(tǒng),它的唯一可行的選擇,就是限制運行線程的數(shù)量。一般而言,這個值應該小于或等于處理器的數(shù)目。(說明,在boost網(wǎng)絡庫asio提供的example中,有一個關于這種實現(xiàn)的很好的例子)
  2)所使用的線程池及事件模型。最簡單的一種模型通常是這個樣子:一個偵聽線程異步地接收請求,并在隊列中進行緩沖。另外一組工作者線程則負責處理這些請求。這是一個不錯的模型,缺點就是每處理一個請求一般要經(jīng)過兩次線程切換(加上對請求的回復)。為了避免這種缺點,一個線程就必須具備偵聽者和工作者兩種角色,可以采用稱之謂“領導者/跟隨者”的模型。一個線程作為領導者,來進行監(jiān)聽,當收到請求時,它選出一個跟隨者線程作為新的領導者進行偵聽,自己則對請求進行處理,結束后,到跟隨者隊列中進行等待。

(二)多線程的內存池優(yōu)化

  普通的內存池一旦應用到多線程中,都面臨著鎖競爭的問題,在stlport所做的對于字符串性能的測試中,當使用兩個線程時,它所使用的內存池node_allocator性能已經(jīng)出現(xiàn)明顯的下降。所以對于多線程而言,一個線程一個內存池是一個很好的選擇。要實現(xiàn)這種設計,面臨的第一個問題,是內存塊的跨線程使用問題,即一個內存塊,可能在A線程中申請,但可能在B線程中釋放。
  在GCC的STL實現(xiàn)libstdc++中,有一個多線程內存池的實現(xiàn)(mt_allocator)。它是node_allocator(現(xiàn)在叫pool_allocator) 的多線程版本。它還有一個優(yōu)點就是所有參數(shù)都是可配置的。
  它的設計思路如下:每個線程一個內存池,同時還有一個全局的內存池。每個線程可以訪問自己的內存池,同時可在鎖保護下訪問全局內存池。申請的每一個內存塊中,都有一個線程ID,以標明是從哪個線程中申請的。
  申請過程:首先向所在線程申請,若本線程沒有空閑塊,則向全局內存池申請。
  釋放過程:直接歸還到本線程的空閑鏈中。還有一個問題,為了防止線程內存池之間的不均衡,或者某一個線程中的空閑鏈過長,可以設置一個水位標,當超過這個水位標時,把釋放的內存直接歸還到全局內存池中。

posted on 2008-03-06 00:09 eXile 閱讀(6999) 評論(9)  編輯 收藏 引用 所屬分類: 網(wǎng)絡開發(fā)

評論

# re: 高性能服務器的多線程策略[未登錄] 2008-03-06 08:30 cppexplore

頂 不錯
內存申請針對線程內還是跨線程 決定是否采用加鎖策略,為了差異化這種處理,在內存池上進行進一步的封裝 不錯!  回復  更多評論   

# re: 高性能服務器的多線程策略[未登錄] 2008-03-06 14:42 cppexplore

第一部分(2)的結論不太對。
主線程偵聽,預派生的線程處理業(yè)務,這個稱為模型A吧.
leader/follow這里稱為B.
我服務器的4核的SMP,linux 2.6內核,測試工具ab,小壓力的測試不說了,都能達到17000左右,測試項如下:
ab -c 4000 -n 40000 http://172.24.252.248:5000/
預派生線程數(shù)量都是4。
壓力測試的結果是:
業(yè)務邏輯簡單的時候(僅僅是讀數(shù)據(jù),然后resonse200OK):
B模型多次測試平均的結果大約是每秒8500。
而A模型的性能和緩存隊列的大小有關,當緩存大小取500時,和B模型性能相當。取1000,測試的平均結果大約是每秒9500。取100則降低為6500左右


猜測原因:linux的pthread_mutex_t既然是非暫停點的實現(xiàn),那么它的性能一定很好,遠好于條件鎖、信號燈等。pthread_cond_t則是暫停點的實現(xiàn),可能把線程推向睡眠。增大緩存大小,可以有效減少對pthread_cond_t的系統(tǒng)調用。

另根據(jù)對各種模型的測試,accept的處理速度非常非常的塊,簡單的業(yè)務處理時間也要比accept的處理低一個數(shù)量級。因此單一線程處理accept,可以盡快建立三次握手,進入緩存隊列等待。

因此猜測 如果業(yè)務為復雜邏輯(實際測試加了4個循環(huán)相加,一句打印的log)的話,模型B的性能將進一步下降。增大業(yè)務處理復雜度后的結果果然如此,模型B的處理降低為6500左右,而模型A在1000的緩存下,每秒的處理能力還是9500左右。  回復  更多評論   

# re: 高性能服務器的多線程策略[未登錄] 2008-03-06 15:14 cppexplore

說錯了 呵呵 三次握手在accept前就完成了 從完成隊列里取而已  回復  更多評論   

# re: 高性能服務器的多線程策略 2008-03-06 20:54 true

leader/followers模式不適合處理爆發(fā)  回復  更多評論   

# re: 高性能服務器的多線程策略 2008-03-06 22:36 eXile

@cppexplore
謝謝指正,不過cppexplore這么快就把測試模型搞出來,厲害,應該用的是什么庫吧,Apache?
  回復  更多評論   

# re: 高性能服務器的多線程策略[未登錄] 2008-03-07 08:16 cppexplore

@eXile
呵呵,還沒用庫。
是我最近正在梳理網(wǎng)絡模型。這幾天正在寫各種模型的網(wǎng)絡程序并測試性能。
等搞完這個再看各種庫是如何實現(xiàn)這些模型以及其性能如何。  回復  更多評論   

# re: 高性能服務器的多線程策略[未登錄] 2008-03-08 10:55 小白

領導者這個處理accept比較好。

服務器只要不用弱智算法,以及處理好內存和線程問題,就是高性能的服務器。

服務器雖然把網(wǎng)絡底層作為心臟,把架構作為骨架,但是還有一個很大的部分,就是血肉,也就是服務器的邏輯處理。

很多人談高性能服務器的時候,忽略了邏輯處理,只是在談網(wǎng)絡底層的問題,這是非常錯誤的。

網(wǎng)絡底層,只要符合我上面說的那個高性能服務器的標準,就可以在真正的服務器硬件上跑得很好了。

接下來,我們需要面對的就是邏輯處理給我們的挑戰(zhàn)。無論在哪個行業(yè),都應該仔細謹慎的去對邏輯處理進行設計。

  回復  更多評論   

# re: 高性能服務器的多線程策略 2008-03-12 12:41 eXile

在現(xiàn)在gcc的mt_allocator實現(xiàn)中,有一個bug, 就是對一個計數(shù)器(_M_use)并沒有采用原子計數(shù),這個計數(shù)器主要用來控制空閑鏈的長度,所以它并不會導致程序異常,但是可能會影響到程序性能,不過如果采用原子計數(shù),則有另一個性能上的擔憂。這個問題直到最新的gcc4.3中才得到解決。  回復  更多評論   

# re: 高性能服務器的多線程策略 2011-08-29 19:40 cingoli

小白 說得非常好啊,我做網(wǎng)游服務器開發(fā),著眼點也在這里。

不過,非本質復雜性 和 本質復雜性 都要處理好才好吧。無論性能還是復雜度。  回復  更多評論   

導航

<2025年9月>
31123456
78910111213
14151617181920
21222324252627
2829301234
567891011

統(tǒng)計

常用鏈接

留言簿(18)

隨筆分類

隨筆檔案

服務器編程

搜索

最新評論

閱讀排行榜

評論排行榜

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            亚洲国产精品一区在线观看不卡 | 亚洲主播在线播放| 亚洲电影第1页| 欧美激情精品久久久久久黑人| 老司机精品久久| 欧美+亚洲+精品+三区| 麻豆亚洲精品| 亚洲激情欧美激情| 亚洲一区二区精品| 欧美中文字幕精品| 欧美激情一区二区三区在线视频观看| 亚洲福利一区| 99v久久综合狠狠综合久久| 亚洲毛片av在线| 亚洲天堂网在线观看| 久久aⅴ国产欧美74aaa| 久久资源在线| 欧美日韩国产一区二区| 国产乱码精品一区二区三| 国产夜色精品一区二区av| 亚洲国产91精品在线观看| 在线天堂一区av电影| 久久视频这里只有精品| 亚洲精品在线免费观看视频| 亚洲一区二区欧美日韩| 美国三级日本三级久久99| 国产精品爱久久久久久久| 在线成人www免费观看视频| 中文亚洲字幕| 亚洲欧美日韩一区二区在线| 欧美视频中文一区二区三区在线观看| 国产精品va在线| 黄色另类av| 亚洲综合好骚| 亚洲第一主播视频| 亚洲一区久久久| 欧美福利在线| 极品尤物久久久av免费看| 一区二区三区导航| 另类成人小视频在线| 亚洲视频在线观看网站| 欧美a级一区| 国内精品美女在线观看| 亚洲性夜色噜噜噜7777| 欧美国产在线电影| 久久都是精品| 国产欧美在线| 亚洲自拍偷拍福利| 日韩视频不卡| 欧美精品自拍| 亚洲激情成人网| 久久久久成人网| 亚洲欧美日韩国产| 国产精品久久久久国产精品日日| 亚洲大片在线观看| 久久午夜视频| 亚洲欧美日韩在线不卡| 国产精品v亚洲精品v日韩精品| 日韩亚洲成人av在线| 欧美成人免费全部观看天天性色| 欧美一级久久| 国产午夜精品美女毛片视频| 午夜国产精品视频| 亚洲天堂免费观看| 国产精品美女999| 亚洲欧美激情诱惑| 亚洲免费观看| 欧美午夜激情视频| 亚洲欧美日韩中文视频| 洋洋av久久久久久久一区| 欧美视频亚洲视频| 午夜天堂精品久久久久| 亚洲一区二区久久| 国产日韩欧美a| 免费美女久久99| 欧美.www| 亚洲视频第一页| 亚洲一级在线观看| 国产一区二区三区无遮挡| 久久综合激情| 媚黑女一区二区| 在线视频欧美日韩精品| 亚洲午夜国产一区99re久久 | 99re这里只有精品6| 亚洲精品国产拍免费91在线| 欧美精品一区二区久久婷婷| 99re视频这里只有精品| 久久精品免费播放| 久久免费视频网| 一本久道综合久久精品| 亚洲天堂免费在线观看视频| 国产午夜精品美女视频明星a级| 久久人人97超碰国产公开结果 | 性伦欧美刺激片在线观看| 国产一区二区三区黄| 男人的天堂亚洲在线| 欧美激情亚洲一区| 欧美呦呦网站| 欧美激情免费观看| 欧美在线视频一区二区| 老司机免费视频一区二区三区| 日韩视频永久免费观看| 亚洲欧美另类中文字幕| 亚洲国产精品va| 亚洲一区二区三区成人在线视频精品 | 欧美成人国产va精品日本一级| 欧美国产日韩一区二区在线观看 | 欧美一级淫片播放口| 最新国产成人在线观看| 亚洲一区在线直播| 亚洲精品一区二区三区蜜桃久| 亚洲欧美一区二区原创| 亚洲免费观看视频| 久久成人18免费观看| 亚洲一区二区三区高清不卡| 乱中年女人伦av一区二区| 欧美在线观看视频在线| 欧美视频一区在线观看| 最新精品在线| 亚洲人成网站在线观看播放| 久久成人18免费观看| 亚洲欧美中文在线视频| 欧美日韩小视频| 欧美a级一区| 国产在线精品自拍| 中文国产一区| 亚洲午夜小视频| 欧美日韩国产天堂| 亚洲电影有码| 国产一区二区丝袜高跟鞋图片| 亚洲作爱视频| 在线亚洲欧美专区二区| 欧美成人一区二区三区| 狂野欧美一区| 国产在线一区二区三区四区| 亚洲欧美视频在线| 久久国产精品久久国产精品| 国产精品久久久久一区二区三区共 | av成人黄色| 欧美剧在线免费观看网站| 亚洲国产成人精品视频| 曰本成人黄色| 亚洲一区二区精品在线观看| 亚洲丰满在线| 久久深夜福利免费观看| 久久免费视频这里只有精品| 国产精品一区二区黑丝| 亚洲欧美日韩爽爽影院| 欧美亚洲视频在线观看| 国产精品麻豆va在线播放| 亚洲免费在线精品一区| 久久久一二三| 亚洲高清在线视频| 欧美va天堂| 日韩一级片网址| 亚洲视频国产视频| 国产精品女人久久久久久| 亚洲欧美日韩在线观看a三区| 久久国产免费| 亚洲国产毛片完整版| 欧美国产精品劲爆| 一区二区三区四区五区精品视频| 亚洲综合日韩| 伊人夜夜躁av伊人久久| 麻豆精品一区二区av白丝在线| 亚洲福利视频在线| 午夜一区不卡| 极品少妇一区二区| 欧美三级免费| 久久精品91久久久久久再现| 亚洲第一二三四五区| 亚洲午夜久久久久久久久电影网| 国产精品理论片| 免费欧美在线视频| 一本久道综合久久精品| 久久久综合激的五月天| 亚洲日本精品国产第一区| 国产精品videosex极品| 久久综合网络一区二区| 一区二区三区四区精品| 蜜桃视频一区| 午夜视频一区二区| 亚洲国产精品久久久久婷婷884| 欧美色大人视频| 久久亚洲综合网| 宅男噜噜噜66一区二区| 欧美激情一区二区在线 | 亚洲国产成人久久综合一区| 亚洲综合二区| 亚洲精品黄网在线观看| 国产视频久久| 欧美日韩国产免费| 麻豆国产精品777777在线| 亚洲欧美精品在线观看| 亚洲国产精品一区二区第一页 | 久久夜色精品国产欧美乱极品| 亚洲视频电影在线| 亚洲精品一区二区三区四区高清| 国产精品老牛| 国产精品porn|