青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

woaidongmao

文章均收錄自他人博客,但不喜標題前加-[轉貼],因其丑陋,見諒!~
隨筆 - 1469, 文章 - 0, 評論 - 661, 引用 - 0
數據加載中……

數據庫分表處理設計思想和實現

一、概述

分表是個目前算是比較炒的比較流行的概念,特別是在大負載的情況下,分表是一個良好分散數據庫壓力的好方法。

首先要了解為什么要分表,分表的好處是什么。我們先來大概了解以下一個數據庫執行SQL的過程:
接收到SQL --> 放入SQL執行隊列 --> 使用分析器分解SQL --> 按照分析結果進行數據的提取或者修改 --> 返回處理結果

當然,這個流程圖不一定正確,這只是我自己主觀意識上這么我認為。那么這個處理過程當中,最容易出現問題的是什么?就是說,如果前一個SQL沒有執行完畢的話,后面的SQL是不會執行的,因為為了保證數據的完整性,必須對數據表文件進行鎖定,包括共享鎖和獨享鎖兩種鎖定。共享鎖是在鎖定的期間,其它線程也可以訪問這個數據文件,但是不允許修改操作,相應的,獨享鎖就是整個文件就是歸一個線程所有,其它線程無法訪問這個數據文件。一般MySQL中最快的存儲引擎MyISAM,它是基于表鎖定的,就是說如果一鎖定的話,那么整個數據文件外部都無法訪問,必須等前一個操作完成后,才能接收下一個操作,那么在這個前一個操作沒有執行完成,后一個操作等待在隊列里無法執行的情況叫做阻塞,一般我們通俗意義上叫做鎖表

鎖表直接導致的后果是什么?就是大量的SQL無法立即執行,必須等隊列前面的SQL全部執行完畢才能繼續執行。這個無法執行的SQL就會導致沒有結果,或者延遲嚴重,影響用戶體驗。

特別是對于一些使用比較頻繁的表,比如SNS系統中的用戶信息表、論壇系統中的帖子表等等,都是訪問量大很大的表,為了保證數據的快速提取返回給用戶,必須使用一些處理方式來解決這個問題,這個就是我今天要聊到的分表技術。


分表技術顧名思義,就是把若干個存儲相同類型數據的表分成幾個表分表存儲,在提取數據的時候,不同的用戶訪問不同的表,互不沖突,減少鎖表的幾率。比如,目前保存用戶分表有兩個表,一個是user_1表,還有一個是 user_2 表,兩個表保存了不同的用戶信息,user_1 保存了前10萬的用戶信息,user_2保存了后10萬名用戶的信息,現在如果同時查詢用戶 heiyeluren1 heiyeluren2 這個兩個用戶,那么就是分表從不同的表提取出來,減少鎖表的可能。


我下面要講述的兩種分表方法我自己都沒有實驗過,不保證準確能用,只是提供一個設計思路。下面關于分表的例子我假設是在一個貼吧系統的基礎上來進行處理和構建的。(如果沒有用過貼吧的用戶趕緊Google一下)



二、基于基礎表的分表處理

這個基于基礎表的分表處理方式大致的思想就是:一個主要表,保存了所有的基本信息,如果某個項目需要找到它所存儲的表,那么必須從這個基礎表中查找出對應的表名等項目,好直接訪問這個表。如果覺得這個基礎表速度不夠快,可以完全把整個基礎表保存在緩存或者內存中,方便有效的查詢。

我們基于貼吧的情況,構建假設如下的3張表:

1.
貼吧版塊表: 保存貼吧中版塊的信息
2.
貼吧主題表:保存貼吧中版塊中的主題信息,用于瀏覽
3.
貼吧回復表:保存主題的原始內容和回復內容


貼吧版塊表包含如下字段:
版塊ID      board_id         int(10)
版塊名稱   board_name     char(50)
子表ID      table_id           smallint(5)
產生時間   created            datetime

貼吧主題表包含如下字段:
主題ID         topic_id       int(10)
主題名稱       topic_name    char(255)
版塊ID         board_id         int(10)
創建時間      created          datetime

貼吧回復表的字段如下:
回復ID       reply_id          int(10)
回復內容     reply_text       text
主題ID       topic_id          int(10)
版塊ID       board_id        int(10)
創建時間     created           datetime

那么上面保存了我們整個貼吧中的表結構信息,三個表對應的關系是:

版塊 --> 多個主題
主題 --> 多個回復

那么就是說,表文件大小的關系是:
版塊表文件 < 主題表文件 < 回復表文件

所以基本可以確定需要對主題表和回復表進行分表,已增加我們數據檢索查詢更改時候的速度和性能。

看了上面的表結構,會明顯發現,在版塊表中保存了一個"table_id"字段,這個字段就是用于保存一個版塊對應的主題和回復都是分表保存在什么表里的。

比如我們有一個叫做“PHP”的貼吧,board_id1,子表ID也是1,那么這條記錄就是:

board_id | board_name | table_id | created
1 | PHP | 1 | 2007-01-19 00:30:12

相應的,如果我需要提取“PHP”吧里的所有主題,那么就必須按照表里保存的table_id來組合一個存儲了主題的表名稱,比如我們主題表的前綴是“topic_”,那么組合出來“PHP”吧對應的主題表應該是:“topic_1”,那么我們執行:

SELECT * FROM topic_1 WHERE board_id = 1 ORDER BY topic_id DESC LIMIT 10

這樣就能夠獲取這個主題下面回復列表,方便我們進行查看,如果需要查看某個主題下面的回復,我們可以繼續使用版塊表中保存的“table_id”來進行查詢。比如我們回復表的前綴是“reply_”,那么就可以組合出“PHP”吧的ID1的主題的回復:

SELECT * FROM reply_1 WHERE topic_id = 1 ORDER BY reply_id DESC LIMIT 10

這里,我們能夠清晰的看到,其實我們這里使用了基礎表,基礎表就是我們的版塊表。那么相應的,肯定會說:基礎表的數據量大了以后如何保證它的速度和效率?

當然,我們就必須使得這個基礎表保持最好的速度和性能,比如,可以采用MySQL的內存表來存儲,或者保存在內存當中,比如Memcache之類的內存緩存等等,可以按照實際情況來進行調整。

一般基于基礎表的分表機制在SNS、交友、論壇等Web2.0網站中是個比較不錯的解決方案,在這些網站中,完全可以單獨使用一個表來來保存基本標識和目標表之間的關系。使用表保存對應關系的好處是以后擴展非常方便,只需要增加一個表記錄。


【優勢】增加刪除節點非常方便,為后期升級維護帶來很大便利
【劣勢】需要增加表或者對某一個表進行操作,還是無法離開數據庫,會產生瓶頸



三、基于Hash算法的分表處理

我們知道Hash表就是通過某個特殊的Hash算法計算出的一個值,這個值必須是惟一的,并且能夠使用這個計算出來的值查找到需要的值,這個叫做哈希表。

我們在分表里的hash算法跟這個思想類似:通過一個原始目標的ID或者名稱通過一定的hash算法計算出數據存儲表的表名,然后訪問相應的表。

繼續拿上面的貼吧來說,每個貼吧有版塊名稱和版塊ID,那么這兩項值是固定的,并且是惟一的,那么我們就可以考慮通過對這兩項值中的一項進行一些運算得出一個目標表的名稱。

現在假如我們針對我們這個貼吧系統,
假設系統最大允許1億條數據,考慮每個表保存100萬條記錄,那么整個系統就不超過100個表就能夠容納。按照這個標準,我們假設在貼吧的版塊ID上進行hash,獲得一個key值,這個值就是我們的表名,然后訪問相應的表。

我們構造一個簡單的hash算法:

function get_hash($id){
    $str = bin2hex($id);
    $hash = substr($str, 0, 4);
    if (strlen($hash)<4){
        $hash = str_pad($hash, 4, "0");
    }
    return $hash;
}

算法大致就是傳入一個版塊ID值,然后函數返回一個4位的字符串,如果字符串長度不夠,使用0進行補全。

比如:get_hash(1),輸出的結果是“3100”,輸入:get_hash(23819),得到的結果是:3233,那么我們經過簡單的跟表前綴組合,就能夠訪問這個表了。那么我們需要訪問ID1的內容時候哦,組合的表將是:topic_3100reply_3100,那么就可以直接對目標表進行訪問了。

當然,使用hash算法后,有部分數據是可能在同一個表的,這一點跟hash表不同,hash表是盡量解決沖突,我們這里不需要,當然同樣需要預測和分析表數據可能保存的表名。


如果需要存儲的數據更多,同樣的,可以對版塊的名字進行hash操作,比如也是上面的二進制轉換成十六進制,因為漢字比數字和字母要多很多,那么重復幾率更小,但是可能組合成的表就更多了,相應就必須考慮一些其它的問題。

歸根結底,使用hash方式的話必須選擇一個好的hash算法,才能生成更多的表,然數據查詢的更迅速。


【優點hash算法直接得出目標表名稱,效率很高】通過
【劣勢】擴展性比較差,選擇了一個hash算法,定義了多少數據量,以后只能在這個數據量上跑,不能超過過這個數據量,可擴展性稍差



四、其它問題

1.
搜索問題
現在我們已經進行分表了,那么就無法直接對表進行搜索,因為你無法對可能系統中已經存在的幾十或者幾百個表進行檢索,所以搜索必須借助第三方的組件來進行,比如Lucene作為站內搜索引擎是個不錯的選擇。

2.
表文件問題
我們知道MySQLMyISAM引擎每個表都會生成三個文件,*.frm*.MYD*.MYI 三個文件,分表用來保存表結構、表數據和表索引。Linux下面每個目錄下的文件數量最好不要超過1000個,不然檢索數據將更慢,那么每個表都會生成三個文件,相應的如果分表超過300個表,那么將檢索非常慢,所以這時候就必須再進行分,比如在進行數據庫的分離。

使用基礎表,我們可以新增加一個字段,用來保存這個表保存在什么數據。使用Hash的方式,我們必須截取hash值中第幾位來作為數據庫的名字。這樣,完好的解決這個問題。


五、總結

在大負載應用當中,數據庫一直是個很重要的瓶頸,必須要突破,本文講解了兩種分表的方式,希望對很多人能夠有啟發的作用。當然,本文代碼和設想沒有經過任何代碼測試,所以無法保證設計的完全準確實用,具體還是需要讀者在使用過程當中認真分析實施。

 

posted on 2009-06-09 13:16 肥仔 閱讀(219) 評論(0)  編輯 收藏 引用 所屬分類: 數據庫

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            国内精品久久久久影院 日本资源 国内精品久久久久伊人av | 国产亚洲人成a一在线v站| 久久久人成影片一区二区三区| 亚洲欧美日韩直播| 在线观看欧美黄色| 伊人久久婷婷色综合98网| 亚洲成人在线免费| 亚洲七七久久综合桃花剧情介绍| 亚洲人成网在线播放| 一区二区三欧美| 午夜激情综合网| 久久久人成影片一区二区三区 | 亚洲欧美日韩直播| 久久久久久久网| 欧美片第一页| 国产一区自拍视频| 99视频超级精品| 欧美在线一级视频| 欧美国产激情二区三区| 一区二区三区四区国产| 久久大综合网| 欧美色欧美亚洲高清在线视频| 久久精品女人| 欧美精品国产精品日韩精品| 国产精品女人毛片| 亚洲国产一区二区三区a毛片| 亚洲深夜激情| 欧美a级在线| 亚洲在线观看免费视频| 欧美刺激性大交免费视频| 国产女主播一区二区| 亚洲美女一区| 美乳少妇欧美精品| 欧美亚洲三级| 欧美视频官网| 日韩午夜av电影| 欧美成人a视频| 欧美中文在线字幕| 国产精品一区视频| 亚洲午夜黄色| 亚洲精品一区二区三| 免费久久99精品国产| 精品成人a区在线观看| 欧美在线观看视频一区二区三区 | 亚洲第一色中文字幕| 午夜精品久久久久久久99热浪潮 | 91久久香蕉国产日韩欧美9色| 小黄鸭精品aⅴ导航网站入口| 欧美电影免费观看大全| 亚久久调教视频| 国产精品系列在线播放| 亚洲精品在线观| 亚洲国产精品电影| 欧美成人免费小视频| 正在播放欧美一区| 欧美a级理论片| 在线观看日韩| 久久久亚洲一区| 久久国产一区| 在线看片日韩| 欧美激情网友自拍| 欧美成人资源| 一区二区三区四区五区在线| 日韩一级在线观看| 欧美三区美女| 亚洲免费视频成人| 亚洲自拍都市欧美小说| 国产欧美一区二区三区在线老狼| 久久av资源网站| 欧美中文在线视频| 亚洲第一在线视频| 91久久久久久国产精品| 欧美chengren| 亚洲一区二区在线播放| 久热成人在线视频| 免费国产自线拍一欧美视频| 亚洲精品一区二区在线| 亚洲日本中文字幕| 欧美深夜福利| 久久人人97超碰精品888| 久久噜噜噜精品国产亚洲综合 | 国产精品久久久一区麻豆最新章节| 欧美一级视频一区二区| 久久高清国产| 99热免费精品在线观看| 亚洲字幕一区二区| 亚洲国产精品t66y| 一本久久综合亚洲鲁鲁五月天| 国产日韩欧美一区在线| 亚洲成人在线视频网站| 欧美在线播放一区| 91久久久久久久久| 亚洲少妇在线| 在线成人av.com| 一本色道久久88综合亚洲精品ⅰ | 亚洲精品免费一区二区三区| 国产精品美女久久久久av超清 | 精品999在线播放| 欧美激情视频在线播放 | 国产精品综合色区在线观看| 欧美承认网站| 国产精品美女久久久久久久| 欧美jjzz| 国产女主播在线一区二区| 亚洲高清色综合| 国产欧美日韩一区二区三区在线观看 | 亚洲一区二区三区乱码aⅴ蜜桃女| 激情久久五月天| 亚洲最快最全在线视频| 亚洲国产一区二区a毛片| 亚洲免费中文| 亚洲免费视频网站| 欧美激情亚洲国产| 久久天天躁狠狠躁夜夜av| 欧美午夜激情在线| 亚洲激情欧美| 亚洲国产精品久久久久秋霞影院| 亚洲伊人一本大道中文字幕| 99re6这里只有精品视频在线观看| 久久久91精品国产| 久久精品二区三区| 国产精品一区二区久激情瑜伽| 亚洲精品中文字幕在线| 亚洲精选视频在线| 久久中文欧美| 欧美不卡视频一区发布| 国产一区二区三区高清在线观看 | 欧美黄色aaaa| 亚洲国产精品电影| 亚洲精品1区| 久久综合伊人77777蜜臀| 久久一区二区三区国产精品| 国产日韩一区二区三区| 香蕉久久精品日日躁夜夜躁| 国产一区二区福利| 亚洲欧美日韩在线观看a三区| 亚洲一区国产| 国产精品yjizz| 国产精品99久久99久久久二8| 亚洲视频免费在线| 国产精品二区在线| 亚洲欧美日韩系列| 久久国产精品一区二区| 国产一区激情| 玖玖精品视频| 亚洲黄色在线| 亚洲天堂免费观看| 国产精品综合久久久| 久久久999精品免费| 欧美国产激情| 亚洲自拍偷拍麻豆| 国产午夜精品理论片a级探花 | 国产精品久久久| 精品91久久久久| 欧美激情精品久久久久久黑人| 免费观看在线综合色| 亚洲日韩欧美一区二区在线| 欧美日韩国产综合新一区| 亚洲一区二三| 美女视频黄a大片欧美| 亚洲精品少妇网址| 欧美视频一区二区| 欧美在线视频免费| 91久久亚洲| 性欧美1819sex性高清| 揄拍成人国产精品视频| 欧美欧美全黄| 欧美一区二区三区啪啪| 亚洲盗摄视频| 香蕉乱码成人久久天堂爱免费| 国产最新精品精品你懂的| 欧美大片第1页| 亚洲欧美日韩精品久久亚洲区| 男女视频一区二区| 欧美亚洲免费电影| 日韩视频一区二区在线观看| 国产欧美日韩视频在线观看 | 牛牛影视久久网| 亚洲免费一在线| **欧美日韩vr在线| 国产精品免费一区二区三区在线观看 | 国产欧美日韩不卡免费| 欧美jizzhd精品欧美喷水| 亚洲欧美日韩视频二区| 亚洲国产欧美一区| 久久久噜噜噜久久久| 亚洲午夜激情| 亚洲日本中文字幕| 韩日精品中文字幕| 国产乱码精品| 欧美视频一区二区在线观看| 你懂的国产精品| 久久久精品国产一区二区三区| 亚洲午夜未删减在线观看| 亚洲电影免费观看高清完整版在线| 久久av一区二区三区漫画| 亚洲性图久久| 日韩视频一区二区在线观看 | 欧美一区二区三区视频| 亚洲美女网站|