青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

Shuffy

不斷的學習,不斷的思考,才能不斷的進步.Let's do better together!
posts - 102, comments - 43, trackbacks - 0, articles - 19

字符串Hash函數評估

Posted on 2011-11-04 14:21 Shuffy 閱讀(671) 評論(0)  編輯 收藏 引用

Hash查找因為其O(1)的查找性能而著稱,被對查找性能要求高的應用所廣泛采用。它的基本思想是:
(1) 創建一個定長的線性Hash表,一般可以初始化時指定length;

(2) 設計Hash函數,將關鍵字key散射到Hash表中。其中hash函數設計是最為關鍵的,均勻分布、沖突概率小全在它;

(3) 通常采用拉鏈方法來解決hash沖突問題,即散射到同一個hash表項的關鍵字,以鏈表形式來表示(也稱為桶backet);

(4) 給定關鍵字key,就可以在O(1) + O(m)的時間復雜度內定位到目標。其中,m為拉鏈長度,即桶深。

 

Hash應用中,字符串是最為常見的關鍵字,應用非常普通,現在的程序設計語言中基本上都提供了字符串hash表的支持。字符串hash函數非常多,常見的主要有Simple_hash, RS_hash, JS_hash, PJW_hash, ELF_hash, BKDR_hash, SDBM_hash, DJB_hash, AP_hash, CRC_hash等。它們的C語言實現見后面附錄代碼: hash.h, hash.c。那么這么些字符串hash函數,誰好熟非呢?評估hash函數優劣的基準主要有以下兩個指標:

(1) 散列分布性

即桶的使用率backet_usage = (已使用桶數) / (總的桶數),這個比例越高,說明分布性良好,是好的hash設計。

(2) 平均桶長

即avg_backet_len,所有已使用桶的平均長度。理想狀態下這個值應該=1,越小說明沖突發生地越少,是好的hash設計。

hash函數計算一般都非常簡潔,因此在耗費計算時間復雜性方面判別甚微,這里不作對比。

 

評估方案設計是這樣的:

(1) 以200M的視頻文件作為輸入源,以4KB的塊為大小計算MD5值,并以此作為hash關鍵字;

(2) 分別應用上面提到的各種字符串hash函數,進行hash散列模擬;

(3) 統計結果,用散列分布性和平均桶長兩個指標進行評估分析。

 

測試程序見附錄代碼hashtest.c,測試結果如下表所示。從這個結果我們也可以看出,這些字符串hash函數真是不相仲伯,難以決出高低,所以實際應用中可以根據喜好選擇。當然,最好實際測試一下,畢竟應用特點不大相同。其他幾組測試結果也類似,這里不再給出。

 

Hash函數 桶數 Hash調用總數 最大桶長 平均桶長 桶使用率%
simple_hash 10240 47198 16 4.63 99.00%
RS_hash 10240 47198 16 4.63 98.91%
JS_hash 10240 47198 15 4.64 98.87%
PJW_hash 10240 47198 16 4.63 99.00%
ELF_hash 10240 47198 16 4.63 99.00%
BKDR_hash 10240 47198 16 4.63 99.00%
SDBM_hash 10240 47198 16 4.63 98.90%
DJB_hash 10240 47198 15 4.64 98.85%
AP_hash 10240 47198 16 4.63 98.96%
CRC_hash 10240 47198 16 4.64 98.77%

附錄源代碼:

hash.h

 

  1. #ifndef _HASH_H
  2. #define _HASH_H
  3. #ifdef __cplusplus
  4. extern "C" {
  5. #endif
  6. /* A Simple Hash Function */
  7. unsigned int simple_hash(char *str);
  8. /* RS Hash Function */
  9. unsigned int RS_hash(char *str);
  10. /* JS Hash Function */
  11. unsigned int JS_hash(char *str);
  12. /* P. J. Weinberger Hash Function */
  13. unsigned int PJW_hash(char *str);
  14. /* ELF Hash Function */
  15. unsigned int ELF_hash(char *str);
  16. /* BKDR Hash Function */
  17. unsigned int BKDR_hash(char *str);
  18. /* SDBM Hash Function */
  19. unsigned int SDBM_hash(char *str);
  20. /* DJB Hash Function */
  21. unsigned int DJB_hash(char *str);
  22. /* AP Hash Function */
  23. unsigned int AP_hash(char *str);
  24. /* CRC Hash Function */
  25. unsigned int CRC_hash(char *str);
  26. #ifdef __cplusplus
  27. }
  28. #endif
  29. #endif

hash.c

 

  1. #include <string.h>
  2. #include "hash.h"
  3. /* A Simple Hash Function */
  4. unsigned int simple_hash(char *str)
  5. {
  6. register unsigned int hash;
  7. register unsigned char *p;
  8. for(hash = 0, p = (unsigned char *)str; *p ; p++)
  9. hash = 31 * hash + *p;
  10. return (hash & 0x7FFFFFFF);
  11. }
  12. /* RS Hash Function */
  13. unsigned int RS_hash(char *str)
  14. {
  15. unsigned int b = 378551;
  16. unsigned int a = 63689;
  17. unsigned int hash = 0;
  18. while (*str)
  19. {
  20. hash = hash * a + (*str++);
  21. a *= b;
  22. }
  23. return (hash & 0x7FFFFFFF);
  24. }
  25. /* JS Hash Function */
  26. unsigned int JS_hash(char *str)
  27. {
  28. unsigned int hash = 1315423911;
  29. while (*str)
  30. {
  31. hash ^= ((hash << 5) + (*str++) + (hash >> 2));
  32. }
  33. return (hash & 0x7FFFFFFF);
  34. }
  35. /* P. J. Weinberger Hash Function */
  36. unsigned int PJW_hash(char *str)
  37. {
  38. unsigned int BitsInUnignedInt = (unsigned int)(sizeof(unsigned int) * 8);
  39. unsigned int ThreeQuarters = (unsigned int)((BitsInUnignedInt * 3) / 4);
  40. unsigned int OneEighth = (unsigned int)(BitsInUnignedInt / 8);
  41. unsigned int HighBits = (unsigned int)(0xFFFFFFFF) << (BitsInUnignedInt - OneEighth);
  42. unsigned int hash = 0;
  43. unsigned int test = 0;
  44. while (*str)
  45. {
  46. hash = (hash << OneEighth) + (*str++);
  47. if ((test = hash & HighBits) != 0)
  48. {
  49. hash = ((hash ^ (test >> ThreeQuarters)) & (~HighBits));
  50. }
  51. }
  52. return (hash & 0x7FFFFFFF);
  53. }
  54. /* ELF Hash Function */
  55. unsigned int ELF_hash(char *str)
  56. {
  57. unsigned int hash = 0;
  58. unsigned int x = 0;
  59. while (*str)
  60. {
  61. hash = (hash << 4) + (*str++);
  62. if ((x = hash & 0xF0000000L) != 0)
  63. {
  64. hash ^= (x >> 24);
  65. hash &= ~x;
  66. }
  67. }
  68. return (hash & 0x7FFFFFFF);
  69. }
  70. /* BKDR Hash Function */
  71. unsigned int BKDR_hash(char *str)
  72. {
  73. unsigned int seed = 131; // 31 131 1313 13131 131313 etc..
  74. unsigned int hash = 0;
  75. while (*str)
  76. {
  77. hash = hash * seed + (*str++);
  78. }
  79. return (hash & 0x7FFFFFFF);
  80. }
  81. /* SDBM Hash Function */
  82. unsigned int SDBM_hash(char *str)
  83. {
  84. unsigned int hash = 0;
  85. while (*str)
  86. {
  87. hash = (*str++) + (hash << 6) + (hash << 16) - hash;
  88. }
  89. return (hash & 0x7FFFFFFF);
  90. }
  91. /* DJB Hash Function */
  92. unsigned int DJB_hash(char *str)
  93. {
  94. unsigned int hash = 5381;
  95. while (*str)
  96. {
  97. hash += (hash << 5) + (*str++);
  98. }
  99. return (hash & 0x7FFFFFFF);
  100. }
  101. /* AP Hash Function */
  102. unsigned int AP_hash(char *str)
  103. {
  104. unsigned int hash = 0;
  105. int i;
  106. for (i=0; *str; i++)
  107. {
  108. if ((i & 1) == 0)
  109. {
  110. hash ^= ((hash << 7) ^ (*str++) ^ (hash >> 3));
  111. }
  112. else
  113. {
  114. hash ^= (~((hash << 11) ^ (*str++) ^ (hash >> 5)));
  115. }
  116. }
  117. return (hash & 0x7FFFFFFF);
  118. }
  119. /* CRC Hash Function */
  120. unsigned int CRC_hash(char *str)
  121. {
  122. unsigned int nleft = strlen(str);
  123. unsigned long long sum = 0;
  124. unsigned short int *w = (unsigned short int *)str;
  125. unsigned short int answer = 0;
  126. /*
  127. * Our algorithm is simple, using a 32 bit accumulator (sum), we add
  128. * sequential 16 bit words to it, and at the end, fold back all the
  129. * carry bits from the top 16 bits into the lower 16 bits.
  130. */
  131. while ( nleft > 1 ) {
  132. sum += *w++;
  133. nleft -= 2;
  134. }
  135. /*
  136. * mop up an odd byte, if necessary
  137. */
  138. if ( 1 == nleft ) {
  139. *( unsigned char * )( &answer ) = *( unsigned char * )w ;
  140. sum += answer;
  141. }
  142. /*
  143. * add back carry outs from top 16 bits to low 16 bits
  144. * add hi 16 to low 16
  145. */
  146. sum = ( sum >> 16 ) + ( sum & 0xFFFF );
  147. /* add carry */
  148. sum += ( sum >> 16 );
  149. /* truncate to 16 bits */
  150. answer = ~sum;
  151. return (answer & 0xFFFFFFFF);
  152. }

 

hashtest.c

 

  1. #include <stdio.h>
  2. #include <stdlib.h>
  3. #include <sys/types.h>
  4. #include <sys/stat.h>
  5. #include <fcntl.h>
  6. #include <errno.h>
  7. #include <string.h>
  8. #include "hash.h"
  9. #include "md5.h"
  10. struct hash_key {
  11. unsigned char *key;
  12. struct hash_key *next;
  13. };
  14. struct hash_counter_entry {
  15. unsigned int hit_count;
  16. unsigned int entry_count;
  17. struct hash_key *keys;
  18. };
  19. #define BLOCK_LEN 4096
  20. static int backet_len = 10240;
  21. static int hash_call_count = 0;
  22. static struct hash_counter_entry *hlist = NULL;
  23. unsigned int (*hash_func)(char *str);
  24. void choose_hash_func(char *hash_func_name)
  25. {
  26. if (0 == strcmp(hash_func_name, "simple_hash"))
  27. hash_func = simple_hash;
  28. else if (0 == strcmp(hash_func_name, "RS_hash"))
  29. hash_func = RS_hash;
  30. else if (0 == strcmp(hash_func_name, "JS_hash"))
  31. hash_func = JS_hash;
  32. else if (0 == strcmp(hash_func_name, "PJW_hash"))
  33. hash_func = PJW_hash;
  34. else if (0 == strcmp(hash_func_name, "ELF_hash"))
  35. hash_func = ELF_hash;
  36. else if (0 == strcmp(hash_func_name, "BKDR_hash"))
  37. hash_func = BKDR_hash;
  38. else if (0 == strcmp(hash_func_name, "SDBM_hash"))
  39. hash_func = SDBM_hash;
  40. else if (0 == strcmp(hash_func_name, "DJB_hash"))
  41. hash_func = DJB_hash;
  42. else if (0 == strcmp(hash_func_name, "AP_hash"))
  43. hash_func = AP_hash;
  44. else if (0 == strcmp(hash_func_name, "CRC_hash"))
  45. hash_func = CRC_hash;
  46. else
  47. hash_func = NULL;
  48. }
  49. void insert_hash_entry(unsigned char *key, struct hash_counter_entry *hlist)
  50. {
  51. unsigned int hash_value = hash_func(key) % backet_len;
  52. struct hash_key *p;
  53. p = hlist[hash_value].keys;
  54. while(p) {
  55. if (0 == strcmp(key, p->key))
  56. break;
  57. p = p->next;
  58. }
  59. if (p == NULL)
  60. {
  61. p = (struct hash_key *)malloc(sizeof(struct hash_key));
  62. if (p == NULL)
  63. {
  64. perror("malloc in insert_hash_entry");
  65. return;
  66. }
  67. p->key = strdup(key);
  68. p->next = hlist[hash_value].keys;
  69. hlist[hash_value].keys = p;
  70. hlist[hash_value].entry_count++;
  71. }
  72. hlist[hash_value].hit_count++;
  73. }
  74. void hashtest_init()
  75. {
  76. int i;
  77. hash_call_count = 0;
  78. hlist = (struct hash_counter_entry *) malloc (sizeof(struct hash_counter_entry) * backet_len);
  79. if (NULL == hlist)
  80. {
  81. perror("malloc in hashtest_init");
  82. return;
  83. }
  84. for (i = 0; i < backet_len; i++)
  85. {
  86. hlist[i].hit_count = 0;
  87. hlist[i].entry_count = 0;
  88. hlist[i].keys = NULL;
  89. }
  90. }
  91. void hashtest_clean()
  92. {
  93. int i;
  94. struct hash_key *pentry, *p;
  95. if (NULL == hlist)
  96. return;
  97. for (i = 0; i < backet_len; ++i)
  98. {
  99. pentry = hlist[i].keys;
  100. while(pentry)
  101. {
  102. p = pentry->next;
  103. if (pentry->key) free(pentry->key);
  104. free(pentry);
  105. pentry = p;
  106. }
  107. }
  108. free(hlist);
  109. }
  110. void show_hashtest_result()
  111. {
  112. int i, backet = 0, max_link = 0, sum = 0;
  113. int conflict_count = 0, hit_count = 0;
  114. float avg_link, backet_usage;
  115. for(i = 0; i < backet_len; i++)
  116. {
  117. if (hlist[i].hit_count > 0)
  118. {
  119. backet++;
  120. sum += hlist[i].entry_count;
  121. if (hlist[i].entry_count > max_link)
  122. {
  123. max_link = hlist[i].entry_count;
  124. }
  125. if (hlist[i].entry_count > 1)
  126. {
  127. conflict_count++;
  128. }
  129. hit_count += hlist[i].hit_count;
  130. }
  131. }
  132. backet_usage = backet/1.0/backet_len * 100;;
  133. avg_link = sum/1.0/backet;
  134. printf("backet_len = %d/n", backet_len);
  135. printf("hash_call_count = %d/n", hash_call_count);
  136. printf("hit_count = %d/n", hit_count);
  137. printf("conflict count = %d/n", conflict_count);
  138. printf("longest hash entry = %d/n", max_link);
  139. printf("average hash entry length = %.2f/n", avg_link);
  140. printf("backet usage = %.2f%/n", backet_usage);
  141. }
  142. void usage()
  143. {
  144. printf("Usage: hashtest filename hash_func_name [backet_len]/n");
  145. printf("hash_func_name:/n");
  146. printf("/tsimple_hash/n");
  147. printf("/tRS_hash/n");
  148. printf("/tJS_hash/n");
  149. printf("/tPJW_hash/n");
  150. printf("/tELF_hash/n");
  151. printf("/tBKDR_hash/n");
  152. printf("/tSDBM_hash/n");
  153. printf("/tDJB_hash/n");
  154. printf("/tAP_hash/n");
  155. printf("/tCRC_hash/n");
  156. }
  157. void md5_to_32(unsigned char *md5_16, unsigned char *md5_32)
  158. {
  159. int i;
  160. for (i = 0; i < 16; ++i)
  161. {
  162. sprintf(md5_32 + i * 2, "%02x", md5_16[i]);
  163. }
  164. }
  165. int main(int argc, char *argv[])
  166. {
  167. int fd = -1, rwsize = 0;
  168. unsigned char md5_checksum[16 + 1] = {0};
  169. unsigned char buf[BLOCK_LEN] = {0};
  170. if (argc < 3)
  171. {
  172. usage();
  173. return -1;
  174. }
  175. if (-1 == (fd = open(argv[1], O_RDONLY)))
  176. {
  177. perror("open source file");
  178. return errno;
  179. }
  180. if (argc == 4)
  181. {
  182. backet_len = atoi(argv[3]);
  183. }
  184. hashtest_init();
  185. choose_hash_func(argv[2]);
  186. while (rwsize = read(fd, buf, BLOCK_LEN))
  187. {
  188. md5(buf, rwsize, md5_checksum);
  189. insert_hash_entry(md5_checksum, hlist);
  190. hash_call_count++;
  191. memset(buf, 0, BLOCK_LEN);
  192. memset(md5_checksum, 0, 16 + 1);
  193. }
  194. close(fd);
  195. show_hashtest_result();
  196. hashtest_clean();
  197. return 0;
  198. }

原文地址:http://blog.csdn.net/liuben/article/details/5050697
青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            久久精品一区| 久久精品国产一区二区三| 欧美日韩亚洲在线| 欧美精品少妇一区二区三区| 麻豆精品网站| 欧美精品一二三| 欧美色综合网| 国产精品免费久久久久久| 国产精品亚洲а∨天堂免在线| 国产精品伦理| 激情丁香综合| 亚洲另类自拍| 午夜精品久久| 欧美成人午夜| 99精品国产热久久91蜜凸| 亚洲小说区图片区| 久久精品国产精品| 欧美精品一区二区在线播放| 国产精品日韩在线观看| 1000部精品久久久久久久久 | 国产欧美一区二区三区久久人妖| 国产综合香蕉五月婷在线| 在线高清一区| 亚洲影院在线| 老司机午夜免费精品视频| 亚洲美女一区| 久久只有精品| 国产精品私拍pans大尺度在线 | 欧美日韩免费观看中文| 国产亚洲精品v| 99re66热这里只有精品3直播| 亚洲欧美视频在线观看| 欧美韩国日本综合| 性一交一乱一区二区洋洋av| 欧美日韩国产小视频在线观看| 国产一区二区毛片| 亚洲天堂网在线观看| 欧美成人精品在线| 激情综合色综合久久综合| 亚洲一区二区3| 欧美成人精品1314www| 国产欧美日本| 亚洲视频自拍偷拍| 欧美国产亚洲另类动漫| 欧美在线地址| 国产伦精品一区二区三区免费| 日韩视频中文字幕| 免费黄网站欧美| 午夜欧美大片免费观看| 欧美午夜影院| 亚洲特色特黄| 亚洲日韩视频| 老色鬼久久亚洲一区二区| 国产综合色在线| 欧美在线欧美在线| 亚洲免费在线| 国产精品夜夜嗨| 午夜免费久久久久| 亚洲一区二区不卡免费| 国产精品女主播| 午夜影院日韩| 午夜精品一区二区三区在线| 国产精品久久久久久久9999| 亚洲一区二区三区乱码aⅴ| 99国产精品视频免费观看一公开| 欧美日本不卡高清| 亚洲午夜在线观看视频在线| 一区二区三区色| 国产精品一区久久| 久久久夜精品| 久久在线视频| 一区二区三区欧美| 一区二区三区四区国产| 国产精品中文在线| 乱中年女人伦av一区二区| 久久蜜桃香蕉精品一区二区三区| 在线观看亚洲| 亚洲欧洲精品一区| 国产精品porn| 久久中文字幕一区| 欧美国产欧美综合 | 久久不射电影网| 欧美一区二区国产| 亚洲第一精品福利| 最新国产拍偷乱拍精品| 国产精品对白刺激久久久| 欧美伊人精品成人久久综合97| 欧美一区二区私人影院日本 | 欧美在线你懂的| 久久久91精品国产| 亚洲日本aⅴ片在线观看香蕉| 亚洲人成77777在线观看网| 欧美午夜片在线免费观看| 久久久视频精品| 欧美精品一区二区蜜臀亚洲| 亚洲男人影院| 久久偷看各类wc女厕嘘嘘偷窃| 亚洲精品国精品久久99热| 亚洲一区二区三区色| 国产精品资源| 亚洲大片一区二区三区| 国产精品高潮呻吟久久av无限| 久久精品日产第一区二区| 欧美高清影院| 久久久噜噜噜| 国产精品久久久久久影院8一贰佰| 久久9热精品视频| 欧美激情免费在线| 久久久美女艺术照精彩视频福利播放| 欧美激情四色| 久久亚洲私人国产精品va媚药| 欧美日韩亚洲一区二区三区四区 | 久久国产精品高清| 欧美gay视频激情| 欧美在线欧美在线| 欧美日韩在线三级| 亚洲国产人成综合网站| 精久久久久久| 亚洲婷婷综合色高清在线| 亚洲精品美女久久7777777| 久久久福利视频| 性久久久久久久久| 欧美网站在线观看| 亚洲欧洲在线免费| …久久精品99久久香蕉国产| 欧美在线观看天堂一区二区三区| 午夜亚洲福利在线老司机| 欧美日韩视频在线第一区| 亚洲第一色在线| 亚洲国产裸拍裸体视频在线观看乱了 | 欧美激情小视频| 亚洲电影自拍| 亚洲欧洲日韩在线| 蜜臀久久99精品久久久画质超高清| 久久精品国产亚洲a| 国产亚洲观看| 欧美一区二区高清在线观看| 久久国产视频网站| 国产日韩在线亚洲字幕中文| 亚洲免费视频观看| 久久九九有精品国产23| 国产专区欧美专区| 久久久久久久久久久久久久一区 | 久久蜜桃精品| 美日韩精品免费| 在线国产亚洲欧美| 免费欧美电影| 日韩亚洲视频| 翔田千里一区二区| 国产欧美高清| 欧美一区二区三区四区视频| 久久久久久久91| 亚洲激情第一区| 欧美紧缚bdsm在线视频| 日韩视频在线免费观看| 亚洲欧美影音先锋| 国产日韩欧美自拍| 欧美激情黄色片| 亚洲视频 欧洲视频| 午夜电影亚洲| 国产午夜精品麻豆| 狼人社综合社区| 艳女tv在线观看国产一区| 欧美亚洲专区| 亚洲人成网站影音先锋播放| 欧美日韩综合| 久久嫩草精品久久久精品一| 亚洲国产欧美日韩精品| 亚洲综合不卡| 亚洲成人在线视频播放| 欧美久久久久免费| 午夜久久福利| 亚洲日产国产精品| 久久人人爽人人| 一本久久青青| 精品二区久久| 国产精品推荐精品| 久久夜色精品| 午夜精品剧场| 亚洲精品欧洲精品| 久久嫩草精品久久久精品| 一本色道久久综合亚洲精品高清| 国产一区二区三区久久| 欧美日韩精品免费| 久久综合九色综合欧美就去吻| 亚洲天堂网在线观看| 91久久久亚洲精品| 久久婷婷国产综合精品青草| 亚洲一区三区电影在线观看| 亚洲第一福利视频| 国产婷婷成人久久av免费高清| 欧美日本精品| 免费视频一区二区三区在线观看| 久久成人亚洲| 亚洲一区在线播放| 一本久久综合| 亚洲免费电影在线| 亚洲国产欧美不卡在线观看| 欧美成年网站| 玖玖玖免费嫩草在线影院一区|