青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

Gordon.Ma

近山則志高,臨水而聰慧
隨筆 - 3, 文章 - 0, 評論 - 1, 引用 - 0
數據加載中……

2014年6月26日

【轉載】一致性 hash 算法( consistent hashing )

載地址: http://blog.csdn.net/sparkliang/article/details/5279393

consistent hashing 算法早在 1997 年就在論文 Consistent hashing and random trees 中被提出,目前在cache 系統中應用越來越廣泛;

1 基本場景

比如你有 N  cache 服務器(后面簡稱 cache ),那么如何將一個對象 object 映射到 N  cache 上呢,你很可能會采用類似下面的通用方法計算 object  hash 值,然后均勻的映射到到 N  cache 

hash(object)%N

   一切都運行正常,再考慮如下的兩種情況;

   1 一個 cache 服務器 m down 掉了(在實際應用中必須要考慮這種情況),這樣所有映射到 cache m 的對象都會失效,怎么辦,需要把 cache m  cache 中移除,這時候 cache  N-1 臺,映射公式變成了 hash(object)%(N-1) 

   2 由于訪問加重,需要添加 cache ,這時候 cache  N+1 臺,映射公式變成了 hash(object)%(N+1) 

 2 意味著什么?這意味著突然之間幾乎所有的 cache 都失效了。對于服務器而言,這是一場災難,洪水般的訪問都會直接沖向后臺服務器;

再來考慮第三個問題,由于硬件能力越來越強,你可能想讓后面添加的節點多做點活,顯然上面的 hash 算法也做不到。

  有什么方法可以改變這個狀況呢,這就是 consistent hashing...

2 hash 算法和單調性

   Hash 算法的一個衡量指標是單調性( Monotonicity ),定義如下:

  單調性是指如果已經有一些內容通過哈希分派到了相應的緩沖中,又有新的緩沖加入到系統中。哈希的結果應能夠保證原有已分配的內容可以被映射到新的緩沖中去,而不會被映射到舊的緩沖集合中的其他緩沖區。

容易看到,上面的簡單 hash 算法 hash(object)%N 難以滿足單調性要求。

3 consistent hashing 算法的原理

consistent hashing 是一種 hash 算法,簡單的說,在移除 / 添加一個 cache 時,它能夠盡可能小的改變已存在 key 映射關系,盡可能的滿足單調性的要求。

下面就來按照 5 個步驟簡單講講 consistent hashing 算法的基本原理。

3.1 環形hash 空間

考慮通常的 hash 算法都是將 value 映射到一個 32 為的 key 值,也即是 0~2^32-1 次方的數值空間;我們可以將這個空間想象成一個首( 0 )尾( 2^32-1 )相接的圓環,如下面圖 1 所示的那樣。

circle space

 1 環形 hash 空間

3.2 把對象映射到hash 空間

接下來考慮 4 個對象 object1~object4 ,通過 hash 函數計算出的 hash  key 在環上的分布如圖 2 所示。

hash(object1) = key1;

… …

hash(object4) = key4;

object

 2 4 個對象的 key 值分布

3.3 把cache 映射到hash 空間

Consistent hashing 的基本思想就是將對象和 cache 都映射到同一個 hash 數值空間中,并且使用相同的 hash算法。

假設當前有 A,B  C  3  cache ,那么其映射結果將如圖 3 所示,他們在 hash 空間中,以對應的 hash 值排列。

hash(cache A) = key A;

… …

hash(cache C) = key C;

cache

 3 cache 和對象的 key 值分布

 

說到這里,順便提一下 cache  hash 計算,一般的方法可以使用 cache 機器的 IP 地址或者機器名作為 hash輸入。

3.4 把對象映射到cache

現在 cache 和對象都已經通過同一個 hash 算法映射到 hash 數值空間中了,接下來要考慮的就是如何將對象映射到 cache 上面了。

在這個環形空間中,如果沿著順時針方向從對象的 key 值出發,直到遇見一個 cache ,那么就將該對象存儲在這個 cache 上,因為對象和 cache  hash 值是固定的,因此這個 cache 必然是唯一和確定的。這樣不就找到了對象和 cache 的映射方法了嗎?!

依然繼續上面的例子(參見圖 3 ),那么根據上面的方法,對象 object1 將被存儲到 cache A 上; object2 object3 對應到 cache C  object4 對應到 cache B 

3.5 考察cache 的變動

前面講過,通過 hash 然后求余的方法帶來的最大問題就在于不能滿足單調性,當 cache 有所變動時, cache會失效,進而對后臺服務器造成巨大的沖擊,現在就來分析分析 consistent hashing 算法。

3.5.1 移除 cache

考慮假設 cache B 掛掉了,根據上面講到的映射方法,這時受影響的將僅是那些沿 cache B 逆時針遍歷直到下一個 cache  cache C )之間的對象,也即是本來映射到 cache B 上的那些對象。

因此這里僅需要變動對象 object4 ,將其重新映射到 cache C 上即可;參見圖 4 

remove

 4 Cache B 被移除后的 cache 映射

3.5.2 添加 cache

再考慮添加一臺新的 cache D 的情況,假設在這個環形 hash 空間中, cache D 被映射在對象 object2 object3 之間。這時受影響的將僅是那些沿 cache D 逆時針遍歷直到下一個 cache  cache B )之間的對象(它們是也本來映射到 cache C 上對象的一部分),將這些對象重新映射到 cache D 上即可。

 

因此這里僅需要變動對象 object2 ,將其重新映射到 cache D 上;參見圖 5 

add

 5 添加 cache D 后的映射關系

4 虛擬節點

考量 Hash 算法的另一個指標是平衡性 (Balance) ,定義如下:

平衡性

  平衡性是指哈希的結果能夠盡可能分布到所有的緩沖中去,這樣可以使得所有的緩沖空間都得到利用。

hash 算法并不是保證絕對的平衡,如果 cache 較少的話,對象并不能被均勻的映射到 cache 上,比如在上面的例子中,僅部署 cache A  cache C 的情況下,在 4 個對象中, cache A 僅存儲了 object1 ,而 cache C 則存儲了object2  object3  object4 ;分布是很不均衡的。

為了解決這種情況, consistent hashing 引入了“虛擬節點”的概念,它可以如下定義:

“虛擬節點”( virtual node )是實際節點在 hash 空間的復制品( replica ),一實際個節點對應了若干個“虛擬節點”,這個對應個數也成為“復制個數”,“虛擬節點”在 hash 空間中以 hash 值排列。

仍以僅部署 cache A  cache C 的情況為例,在圖 4 中我們已經看到, cache 分布并不均勻。現在我們引入虛擬節點,并設置“復制個數”為 2 ,這就意味著一共會存在 4 個“虛擬節點”, cache A1, cache A2 代表了cache A  cache C1, cache C2 代表了 cache C ;假設一種比較理想的情況,參見圖 6 

virtual nodes

 6 引入“虛擬節點”后的映射關系

 

此時,對象到“虛擬節點”的映射關系為:

objec1->cache A2  objec2->cache A1  objec3->cache C1  objec4->cache C2 

因此對象 object1  object2 都被映射到了 cache A 上,而 object3  object4 映射到了 cache C 上;平衡性有了很大提高。

引入“虛擬節點”后,映射關系就從 { 對象 -> 節點 } 轉換到了 { 對象 -> 虛擬節點 } 。查詢物體所在 cache 時的映射關系如圖 7 所示。

map

 7 查詢對象所在 cache

 

“虛擬節點”的 hash 計算可以采用對應節點的 IP 地址加數字后綴的方式。例如假設 cache A  IP 地址為202.168.14.241 

引入“虛擬節點”前,計算 cache A  hash 值:

Hash(“202.168.14.241”);

引入“虛擬節點”后,計算“虛擬節”點 cache A1  cache A2  hash 值:

Hash(“202.168.14.241#1”);  // cache A1

Hash(“202.168.14.241#2”);  // cache A2

5 小結

Consistent hashing 的基本原理就是這些,具體的分布性等理論分析應該是很復雜的,不過一般也用不到。

http://weblogs.java.net/blog/2007/11/27/consistent-hashing 上面有一個 java 版本的例子,可以參考。

http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx 轉載了一個 PHP 版的實現代碼。

http://www.codeproject.com/KB/recipes/lib-conhash.aspx C語言版本


 

一些參考資料地址:

http://portal.acm.org/citation.cfm?id=258660

http://en.wikipedia.org/wiki/Consistent_hashing

http://www.spiteful.com/2008/03/17/programmers-toolbox-part-3-consistent-hashing/

 http://weblogs.java.net/blog/2007/11/27/consistent-hashing

http://tech.idv2.com/2008/07/24/memcached-004/

http://blog.csdn.net/mayongzhan/archive/2009/06/25/4298834.aspx

posted @ 2014-06-26 18:27 Gordooooon 閱讀(273) | 評論 (0)編輯 收藏

2014年6月19日

【轉載】Google Protocol Buffer 的使用和原理

     摘要: 原文鏈接: http://www.ibm.com/developerworks/cn/linux/l-cn-gpb/簡介什么是 Google Protocol Buffer? 假如您在網上搜索,應該會得到類似這樣的文字介紹:Google Protocol Buffer( 簡稱 Protobuf) 是 Google 公司內部的混合語言數據標準,目前已經正在使用的有超過 48,162 種報文格式定義和...  閱讀全文

posted @ 2014-06-19 18:06 Gordooooon 閱讀(256) | 評論 (0)編輯 收藏

2012年5月22日

C++關鍵字

面試過程中,一些面試官對C++一些特殊關鍵字很關注;
整理了一些比較有說頭的關鍵字
  • explicit
用來聲明構造函數,被聲明的構造函數為顯示構造函數,不能在隱式轉換中使用。
C++中一個參數的構造函數或除第一個參數外均有默認值的多參構造函數,有兩個作用:1、構造對象;2、默認且隱式的類型轉換操作符。
 1 class foo
 2 {
 3 public:
 4     explicit foo( int a )
 5         : _member( a )
 6     {}
 7 
 8     int _member;
 9 };
10 
11 int bar( const foo & f )
12 {
13     return f._member;
14 }
15 
16 bar( 1 ); // 失敗, explicit禁止int到foo的隱式(implicit)類型轉換.
17 
18 bar( foo( 1 ) ); // 正確, 顯式調用explicit構造函數.
19 
20 bar( static_cast<foo>1 ) );  // 正確, 通過static_cast調用explicit構造函數.
21 
22 bar( foo( 1.0 ) );  // 正確, 顯式調用explicit構造函數, 參數自動從浮點轉換成整型.

  • mutable
用來聲明一個成員變量,被mutable聲明的成員變量,可以在被const修飾的成員函數中修改。
mutable不可與const、static同時使用。
 1 class foo
 2 {
 3 public:
 4     foo()
 5         : _member(0)
 6     {}
 7 
 8     void ExChange( int a ) const
 9     {
10         _member = a;
11     }
12 
13     mutable int _member;
14 }

  • volatile
用以聲明一個變量,被volatile聲明的變量意味著有可能被某些編譯器未知的因素更改,因此編譯器不會對其做任何優化操作。
從而可以提供對特殊地址的穩定訪問,多用于嵌入式編程中。
 1 void foo()
 2 {
 3     //volatile int nData = 1;
 4     int nData = 1;
 5 
 6     int nData_b = nData;
 7     printf("nData = %d\n",nData_b);
 8 
 9     // c++嵌入asm參見:http://asm.sourceforge.net/articles/linasm.html
10     asm("movl $2, -4(%ebp)\n\r"); // 修改變量地址內容
11 
12     int nData_a = nData;
13     printf("nData = %d\n",nData_a);
14 }
15 
16 使用volatile輸出:
17 nData = 1
18 nData = 2
19 
20 不使用volatile輸出為:
21 nData = 1
22 nData = 1

posted @ 2012-05-22 15:16 Gordooooon 閱讀(1458) | 評論 (1)編輯 收藏

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            在线视频中文亚洲| 一区二区精品在线观看| 亚洲激情视频在线| 国产日韩专区在线| 国产区欧美区日韩区| 国产精品久久久久一区二区| 欧美日精品一区视频| 欧美日本在线看| 欧美破处大片在线视频| 欧美日韩国产一区二区| 欧美午夜精品久久久| 国产精品免费观看在线| 国内外成人在线| 亚洲福利视频网站| 亚洲精品一区在线观看香蕉| 一区二区三区不卡视频在线观看| 日韩视频免费在线| 久久精品国产久精国产思思| 久久久久久亚洲精品杨幂换脸| 久久综合激情| 亚洲国产另类精品专区| 亚洲国产视频一区| 亚洲尤物视频网| 久久久久www| 欧美精品国产精品日韩精品| 欧美一区二区性| 噜噜噜91成人网| 国产精品视频久久久| 亚洲电影有码| 亚洲欧美国产高清va在线播| 免费观看亚洲视频大全| 亚洲精选91| 久久精品成人| 欧美体内she精视频在线观看| 国产一区欧美| 亚洲午夜久久久久久久久电影院| 久久久精彩视频| 亚洲美女视频| 久久久久久夜| 国产九色精品成人porny| 亚洲精品精选| 久久午夜精品一区二区| 99国产精品久久久| 久久一区亚洲| 国产偷自视频区视频一区二区| 一本久久综合| 欧美高清影院| 欧美一级日韩一级| 欧美日韩在线亚洲一区蜜芽| 亚洲国产裸拍裸体视频在线观看乱了中文| 亚洲欧美日韩人成在线播放| 国产精品久久久久77777| 在线播放日韩专区| 欧美在线视频网站| 亚洲特级毛片| 国产精品福利av| 亚洲一级免费视频| 日韩午夜激情| 国产精品黄页免费高清在线观看| 一区二区三区黄色| 99视频精品在线| 欧美日韩精品一区二区天天拍小说| 亚洲人在线视频| 亚洲国产精彩中文乱码av在线播放| 久久精品亚洲国产奇米99| 国产欧美日韩一区二区三区在线观看| 亚洲欧美日韩国产一区| 亚洲深夜av| 国产欧美日韩亚洲一区二区三区 | 久久综合精品一区| 黄色在线一区| 噜噜噜噜噜久久久久久91| 亚洲欧洲一区二区在线播放| 日韩一二在线观看| 亚洲国产精品电影| 欧美激情综合五月色丁香| 亚洲欧洲精品一区二区三区不卡| 久久人人97超碰精品888| 久久精品最新地址| 在线精品国产欧美| 久久综合久久综合九色| 欧美激情亚洲综合一区| 欧美久色视频| 亚洲深夜福利视频| 一区二区三区四区五区精品视频| 欧美日韩国产123| 国产精品99久久久久久www| 亚洲欧洲午夜| 久久亚洲国产精品一区二区| 亚洲看片一区| 亚洲精品免费观看| 欧美精品在线一区| 这里只有精品在线播放| 一区二区高清在线观看| 国产精品日韩欧美| 久久本道综合色狠狠五月| 午夜精品影院在线观看| 欧美电影免费观看高清完整版| 亚洲图中文字幕| 亚洲欧美成人一区二区三区| 国产麻豆综合| 毛片av中文字幕一区二区| 久久婷婷综合激情| 亚洲美女黄网| 亚洲伊人伊色伊影伊综合网| 国产女优一区| 亚洲欧美日韩在线不卡| 欧美成人亚洲成人| 亚洲无毛电影| 亚洲欧美日韩精品| 在线播放日韩| 亚洲午夜国产一区99re久久| 国产亚洲二区| 亚洲国产欧美日韩| 国产精品草莓在线免费观看| 久久视频国产精品免费视频在线| 美女脱光内衣内裤视频久久网站| 一区二区三区四区国产| 亚洲综合色在线| 亚洲日韩欧美视频| 亚洲在线观看视频网站| 亚洲黄色一区| 久久人人爽国产| 亚洲欧美一区二区三区久久| 狼人社综合社区| 午夜久久久久久| 欧美1区视频| 久久福利影视| 欧美三区美女| 99亚洲伊人久久精品影院红桃| 红桃视频一区| 亚洲一区二区日本| 亚洲日本一区二区| 久久精品中文| 欧美中文字幕久久| 久久久久88色偷偷免费| 亚洲视频在线免费观看| 在线日韩av片| 欧美亚洲一区二区在线| 中日韩高清电影网| 欧美1区2区| 亚洲女爱视频在线| 国产精品女主播| 亚洲欧洲久久| 亚洲国产91| 久久综合久久久| 久久一区激情| 国产精品免费小视频| 午夜精品久久久久久久99水蜜桃| 一区二区三区久久| 欧美国产专区| 亚洲电影有码| 在线看无码的免费网站| 日韩视频在线一区二区| 亚洲一区视频在线| 国产精品国产a级| 亚洲手机在线| 欧美一区二区在线| 国产欧美日韩在线视频| 亚洲黑丝在线| 欧美亚洲一区二区在线| 国产精品久久久久999| 一本色道88久久加勒比精品| 一区二区三区精密机械公司 | 亚洲一区视频在线| 亚洲小视频在线| 国产精品不卡在线| 亚洲欧美日本国产专区一区| 午夜精品免费在线| 欧美黄色日本| 午夜精品久久久久久久| 久久久五月天| 亚洲激情第一页| 欧美日本免费| 亚洲一区二区三区中文字幕在线| 亚洲免费观看| 国产亚洲欧美色| 久久伊人亚洲| 亚洲精品四区| 欧美中文在线观看国产| 精品成人国产在线观看男人呻吟| 在线亚洲免费| 欧美77777| 亚洲私人黄色宅男| 国产亚洲综合在线| 欧美大片在线观看一区| 一区二区三区欧美激情| 亚洲欧美成人| 精品不卡一区二区三区| 男人的天堂亚洲在线| 一区二区久久久久久| 久久亚洲国产成人| 一区二区电影免费在线观看| 欧美高清在线一区二区| 亚洲一级在线| 欧美激情一区二区三区在线视频观看| 亚洲午夜视频| 国产综合在线看| 欧美日韩一区二区欧美激情| 欧美一级网站|