• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            攀升·Uranus


            Something Different,Something New
            數(shù)據(jù)加載中……

            (轉(zhuǎn))MongoDB與內(nèi)存

            @import url(http://m.shnenglu.com/cutesoft_client/cuteeditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);

            MongoDB與內(nèi)存

            但凡初次接觸MongoDB的人,無(wú)不驚訝于它對(duì)內(nèi)存的貪得無(wú)厭,至于個(gè)中緣由,我先講講Linux是如何管理內(nèi)存的,再說(shuō)說(shuō)MongoDB是如何使用內(nèi)存的,答案自然就清楚了。

            據(jù)說(shuō)帶著問(wèn)題學(xué)習(xí)更有效,那就先看一個(gè)MongoDB服務(wù)器的top命令結(jié)果:

            shell> top -p $(pidof mongod)
            Mem:  32872124k total, 30065320k used,  2806804k free,   245020k buffers
            Swap:  2097144k total,      100k used,  2097044k free, 26482048k cached
            VIRT  RES  SHR %MEM
            1892g  21g  21g 69.6

            這臺(tái)MongoDB服務(wù)器有沒(méi)有性能問(wèn)題?大家可以一邊思考一邊繼續(xù)閱讀。

            先講講Linux是如何管理內(nèi)存的

            在Linux里(別的系統(tǒng)也差不多),內(nèi)存有物理內(nèi)存和虛擬內(nèi)存之說(shuō),物理內(nèi)存是什么自然無(wú)需解釋,虛擬內(nèi)存實(shí)際是物理內(nèi)存的抽象,多數(shù)情況下,出于方便性的考慮,程序訪問(wèn)的都是虛擬內(nèi)存地址,然后操作系統(tǒng)會(huì)通過(guò)Page Table機(jī)制把它翻譯成物理內(nèi)存地址,詳細(xì)說(shuō)明可以參考Understanding MemoryUnderstanding Virtual Memory,至于程序是如何使用虛擬內(nèi)存的,可以參考Playing with Virtual Memory,這里就不多費(fèi)口舌了。

            很多人會(huì)把虛擬內(nèi)存和Swap混為一談,實(shí)際上Swap只是虛擬內(nèi)存引申出的一種技術(shù)而已:操作系統(tǒng)一旦物理內(nèi)存不足,為了騰出內(nèi)存空間存放新內(nèi)容,就會(huì)把當(dāng)前物理內(nèi)存中的內(nèi)容放到交換分區(qū)里,稍后用到的時(shí)候再取回來(lái),需要注意的是,Swap的使用可能會(huì)帶來(lái)性能問(wèn)題,偶爾為之無(wú)需緊張,糟糕的是物理內(nèi)存和交換分區(qū)頻繁的發(fā)生數(shù)據(jù)交換,這被稱之為Swap顛簸,一旦發(fā)生這種情況,先要明確是什么原因造成的,如果是內(nèi)存不足就好辦了,加內(nèi)存就可以解決,不過(guò)有的時(shí)候即使內(nèi)存充足也可能會(huì)出現(xiàn)這種問(wèn)題,比如MySQL就有可能出現(xiàn)這樣的情況,一個(gè)可選的解決方法是限制使用Swap:

            shell> sysctl -w vm.swappiness=0

            查看內(nèi)存情況最常用的是free命令:

            shell> free -m
            total       used       free     shared    buffers     cached
            Mem:         32101      29377       2723          0        239      25880
            -/+ buffers/cache:       3258      28842
            Swap:         2047          0       2047

            新手看到used一欄數(shù)值偏大,free一欄數(shù)值偏小,往往會(huì)認(rèn)為內(nèi)存要用光了。其實(shí)并非如此,之所以這樣是因?yàn)槊慨?dāng)我們操作文件的時(shí)候,Linux都會(huì)盡可能的把文件緩存到內(nèi)存里,這樣下次訪問(wèn)的時(shí)候,就可以直接從內(nèi)存中取結(jié)果,所以cached一欄的數(shù)值非常的大,不過(guò)不用擔(dān)心,這部分內(nèi)存是可回收的,操作系統(tǒng)的虛擬內(nèi)存管理器會(huì)按照LRU算法淘汰冷數(shù)據(jù)。還有一個(gè)buffers,也是可回收的,不過(guò)它是保留給塊設(shè)備使用的。

            知道了原理,我們就可以推算出系統(tǒng)可用的內(nèi)存是free + buffers + cached:

            shell> echo $((2723 + 239 + 25880))
            28842

            至于系統(tǒng)實(shí)際使用的內(nèi)存是used – buffers – cached:

            shell> echo $((29377 - 239 - 25880))
            3258

            除了free命令,還可以使用sar命令:

            shell> sar -r
            kbmemfree kbmemused  %memused kbbuffers  kbcached
            3224392  29647732     90.19    246116  26070160
            shell> sar -W
            pswpin/s pswpout/s
            0.00      0.00

            希望你沒(méi)有被%memused嚇到,如果不幸言中,重讀本文。

            再說(shuō)說(shuō)MongoDB是如何使用內(nèi)存的

            目前,MongoDB使用的是內(nèi)存映射存儲(chǔ)引擎,它會(huì)把數(shù)據(jù)文件映射到內(nèi)存中,如果是讀操作,內(nèi)存中的數(shù)據(jù)起到緩存的作用,如果是寫(xiě)操作,內(nèi)存還可以把隨機(jī)的寫(xiě)操作轉(zhuǎn)換成順序的寫(xiě)操作,總之可以大幅度提升性能。MongoDB并不干涉內(nèi)存管理工作,而是把這些工作留給操作系統(tǒng)的虛擬內(nèi)存管理器去處理,這樣做的好處是簡(jiǎn)化了MongoDB的工作,但壞處是你沒(méi)有方法很方便的控制MongoDB占多大內(nèi)存,幸運(yùn)的是虛擬內(nèi)存管理器的存在讓我們多數(shù)時(shí)候并不需要關(guān)心這個(gè)問(wèn)題。

            MongoDB的內(nèi)存使用機(jī)制讓它在緩存重建方面更有優(yōu)勢(shì),簡(jiǎn)而言之:如果重啟進(jìn)程,那么緩存依然有效,如果重啟系統(tǒng),那么可以通過(guò)拷貝數(shù)據(jù)文件到/dev/null的方式來(lái)重建緩存,更詳細(xì)的描述請(qǐng)參考:Cache Reheating – Not to be Ignored

            有時(shí)候,即便MongoDB使用的是64位操作系統(tǒng),也可能會(huì)遭遇OOM問(wèn)題,出現(xiàn)這種情況,多半是因?yàn)橄拗屏藘?nèi)存的大小所致,可以這樣查看當(dāng)前值:

            shell> ulimit -a | grep memory

            多數(shù)操作系統(tǒng)缺省都是把它設(shè)置成unlimited的,如果你的操作系統(tǒng)不是,可以這樣修改:

            shell> ulimit -m unlimited
            shell> ulimit -v unlimited

            注:ulimit的使用是有上下文的,最好放在MongoDB的啟動(dòng)腳本里。

            有時(shí)候,MongoDB連接數(shù)過(guò)多的話,會(huì)拖累性能,可以通過(guò)serverStatus查詢連接數(shù):

            mongo> db.serverStatus().connections

            每個(gè)連接都是一個(gè)線程,需要一個(gè)Stack,Linux下缺省的Stack設(shè)置一般比較大:

            shell> ulimit -a | grep stack
            stack size              (kbytes, -s) 10240

            至于MongoDB實(shí)際使用的Stack大小,可以用如下命令確認(rèn)(單位:K):

            shell> cat /proc/$(pidof mongod)/limits | grep stack | awk -F 'size' '{print int($NF)/1024}'

            如果Stack過(guò)大(比如:10240K)的話沒(méi)有意義,簡(jiǎn)單對(duì)照命令結(jié)果中的Size和Rss:

            shell> cat /proc/$(pidof mongod)/smaps | grep 10240 -A 10

            所有連接消耗的內(nèi)存加起來(lái)會(huì)相當(dāng)驚人,推薦把Stack設(shè)置小一點(diǎn),比如說(shuō)1024:

            shell> ulimit -s 1024

            注:從MongoDB1.8.3開(kāi)始,MongoDB會(huì)在啟動(dòng)時(shí)自動(dòng)設(shè)置Stack。

            有時(shí)候,出于某些原因,你可能想釋放掉MongoDB占用的內(nèi)存,不過(guò)前面說(shuō)了,內(nèi)存管理工作是由虛擬內(nèi)存管理器控制的,幸好可以使用MongoDB內(nèi)置的closeAllDatabases命令達(dá)到目的:

            mongo> use admin
            mongo> db.runCommand({closeAllDatabases:1})

            另外,通過(guò)調(diào)整內(nèi)核參數(shù)drop_caches也可以釋放緩存:

            shell> sysctl -w vm.drop_caches=1

            平時(shí)可以通過(guò)mongo命令行來(lái)監(jiān)控MongoDB的內(nèi)存使用情況,如下所示:

            mongo> db.serverStatus().mem:
            {
            "resident" : 22346,
            "virtual" : 1938524,
            "mapped" : 962283
            }

            還可以通過(guò)mongostat命令來(lái)監(jiān)控MongoDB的內(nèi)存使用情況,如下所示:

            shell> mongostat
            mapped  vsize    res faults
            940g  1893g  21.9g      0

            其中內(nèi)存相關(guān)字段的含義是:

            • mapped:映射到內(nèi)存的數(shù)據(jù)大小
            • visze:占用的虛擬內(nèi)存大小
            • res:占用的物理內(nèi)存大小

            注:如果操作不能在內(nèi)存中完成,結(jié)果faults列的數(shù)值不會(huì)是0,視大小可能有性能問(wèn)題。

            在上面的結(jié)果中,vsize是mapped的兩倍,而mapped等于數(shù)據(jù)文件的大小,所以說(shuō)vsize是數(shù)據(jù)文件的兩倍,之所以會(huì)這樣,是因?yàn)楸纠校琈ongoDB開(kāi)啟了journal,需要在內(nèi)存里多映射一次數(shù)據(jù)文件,如果關(guān)閉journal,則vsize和mapped大致相當(dāng)。

            如果想驗(yàn)證這一點(diǎn),可以在開(kāi)啟或關(guān)閉journal后,通過(guò)pmap命令來(lái)觀察文件映射情況:

            shell> pmap $(pidof mongod)

            到底MongoDB配備多大內(nèi)存合適?寬泛點(diǎn)來(lái)說(shuō),多多益善,如果要確切點(diǎn)來(lái)說(shuō),這實(shí)際取決于你的數(shù)據(jù)及索引的大小,內(nèi)存如果能夠裝下全部數(shù)據(jù)加索引是最佳情況,不過(guò)很多時(shí)候,數(shù)據(jù)都會(huì)比內(nèi)存大,比如本文所涉及的MongoDB實(shí)例:

            mongo> db.stats()
            {
            "dataSize" : 1004862191980,
            "indexSize" : 1335929664
            }

            本例中索引只有1G多,內(nèi)存完全能裝下,而數(shù)據(jù)文件則達(dá)到了1T,估計(jì)很難找到這么大內(nèi)存,此時(shí)保證內(nèi)存能裝下熱數(shù)據(jù)即可,至于熱數(shù)據(jù)是多少,取決于具體的應(yīng)用,你也可以通過(guò)觀察faults的大小來(lái)判斷當(dāng)前內(nèi)存是否能夠裝下熱數(shù)據(jù),如果faults持續(xù)變大,就說(shuō)明當(dāng)前內(nèi)存已經(jīng)不能滿足熱數(shù)據(jù)的大小了。如此一來(lái)內(nèi)存大小就明確了:內(nèi)存 > 索引 + 熱數(shù)據(jù),最好有點(diǎn)富余,畢竟操作系統(tǒng)本身正常運(yùn)轉(zhuǎn)也需要消耗一部分內(nèi)存。

            關(guān)于MongoDB與內(nèi)存的話題,大家還可以參考官方文檔中的相關(guān)介紹。

            @import url(http://m.shnenglu.com/cutesoft_client/cuteeditor/Load.ashx?type=style&file=SyntaxHighlighter.css);@import url(/css/cuteeditor.css);

            posted on 2012-08-06 13:36 攀升 閱讀(1807) 評(píng)論(0)  編輯 收藏 引用 所屬分類: Linux

            久久综合色老色| 国产99久久久国产精品小说| 久久亚洲私人国产精品| 久久人人爽人人爽人人片AV不| 久久婷婷激情综合色综合俺也去| 久久综合九色综合精品| 亚洲国产成人精品无码久久久久久综合 | 香蕉久久AⅤ一区二区三区| 99精品久久久久久久婷婷| 久久精品人人做人人爽97| 国产精品内射久久久久欢欢| 精品久久久久久久久免费影院| 狠狠色丁香久久综合婷婷| 久久精品国产AV一区二区三区| 久久国产精品成人免费| 97久久国产综合精品女不卡 | 久久精品人人做人人爽97| 久久人人爽人人爽人人片AV东京热| 婷婷久久久亚洲欧洲日产国码AV| 久久精品视频网| 97精品伊人久久大香线蕉app| 久久婷婷五月综合97色直播| 久久久91精品国产一区二区三区| 久久综合偷偷噜噜噜色| 日韩亚洲国产综合久久久| 久久97久久97精品免视看| 久久精品国产亚洲欧美| 乱亲女H秽乱长久久久| 久久久久亚洲AV片无码下载蜜桃| 久久久久久毛片免费看 | 久久久久久久91精品免费观看| 青青青国产精品国产精品久久久久| 亚洲国产另类久久久精品| 香蕉99久久国产综合精品宅男自 | 青青草国产精品久久| 亚洲av伊人久久综合密臀性色| 日日狠狠久久偷偷色综合96蜜桃| 久久精品无码一区二区三区日韩| Xx性欧美肥妇精品久久久久久| 国产精品九九久久免费视频 | 91久久成人免费|