青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

阿二的夢想船

 

2011年11月29日

redis如何刪除過期數(shù)據(jù)

隨著nosql風潮興起,redis作為當中一個耀眼的明星,也越來越多的被關注和使用,我在工作中也廣泛的用到了redis來充當cachekey-value DB,但當大家發(fā)現(xiàn)數(shù)據(jù)越來越多時,不禁有些擔心,redis能撐的住嗎,雖然官方已經(jīng)有漂亮的benchmark,自己也可以做做壓力測試,但是看看源碼,也是確認問題最直接的辦法之一。比如目前我們要確認的一個問題是,redis是如何刪除過期數(shù)據(jù)的?

用一個可以"find reference"IDE,沿著setex(Set the value and expiration of a key)命令一窺究竟:

void setexCommand(redisClient *c) {
    c
->argv[3= tryObjectEncoding(c->argv[3]);
    setGenericCommand(c,
0,c->argv[1],c->argv[3],c->argv[2]);
}

setGenericCommand是一個實現(xiàn)set,setnx,setex的通用函數(shù),參數(shù)設置不同而已。

void setCommand(redisClient *c) {
    c
->argv[2= tryObjectEncoding(c->argv[2]);
    setGenericCommand(c,
0,c->argv[1],c->argv[2],NULL);
}
 
void setnxCommand(redisClient *c) {
    c
->argv[2= tryObjectEncoding(c->argv[2]);
    setGenericCommand(c,
1,c->argv[1],c->argv[2],NULL);
}
 
void setexCommand(redisClient *c) {
    c
->argv[3= tryObjectEncoding(c->argv[3]);
    setGenericCommand(c,
0,c->argv[1],c->argv[3],c->argv[2]);
}

再看setGenericCommand

 1 void setGenericCommand(redisClient *c, int nx, robj *key, robj *val, robj *expire) {
 2     long seconds = 0/* initialized to avoid an harmness warning */
 3 
 4     if (expire) {
 5         if (getLongFromObjectOrReply(c, expire, &seconds, NULL) != REDIS_OK)
 6             return;
 7         if (seconds <= 0) {
 8             addReplyError(c,"invalid expire time in SETEX");
 9             return;
10         }
11     }
12 
13     if (lookupKeyWrite(c->db,key) != NULL && nx) {
14         addReply(c,shared.czero);
15         return;
16     }
17     setKey(c->db,key,val);
18     server.dirty++;
19     if (expire) setExpire(c->db,key,time(NULL)+seconds); 
20     addReply(c, nx ? shared.cone : shared.ok);
21 }
22 

13行處理"Set the value of a key, only if the key does not exist"的場景,17行插入這個key19行設置它的超時,注意時間戳已經(jīng)被設置成了到期時間。這里要看一下redisDb(c->db)的定義:

typedef struct redisDb {
    dict 
*dict;                 /* The keyspace for this DB */
    dict 
*expires;              /* Timeout of keys with a timeout set */
    dict 
*blocking_keys;        /* Keys with clients waiting for data (BLPOP) */
    dict 
*io_keys;              /* Keys with clients waiting for VM I/O */
    dict 
*watched_keys;         /* WATCHED keys for MULTI/EXEC CAS */
    
int id;
} redisDb;

僅關注dictexpires,分別來存key-value和它的超時,也就是說如果一個key-value是有超時的,那么它會存在dict里,同時也存到expires里,類似這樣的形式:dict[key]:value,expires[key]:timeout.

當然key-value沒有超時,expires里就不存在這個key剩下setKeysetExpire兩個函數(shù)無非是插數(shù)據(jù)到兩個字典里,這里不再詳述。


那么redis是如何刪除過期key的呢。

通過查看dbDelete的調用者,首先注意到這一個函數(shù),是用來刪除過期key的。

 1 int expireIfNeeded(redisDb *db, robj *key) {
 2     time_t when = getExpire(db,key);
 3 
 4     if (when < 0return 0/* No expire for this key */
 5 
 6     /* Don't expire anything while loading. It will be done later. */
 7     if (server.loading) return 0;
 8 
 9     /* If we are running in the context of a slave, return ASAP:
10      * the slave key expiration is controlled by the master that will
11      * send us synthesized DEL operations for expired keys.
12      *
13      * Still we try to return the right information to the caller, 
14      * that is, 0 if we think the key should be still valid, 1 if
15      * we think the key is expired at this time. */
16     if (server.masterhost != NULL) {
17         return time(NULL) > when;
18     }
19 
20     /* Return when this key has not expired */
21     if (time(NULL) <= when) return 0;
22 
23     /* Delete the key */
24     server.stat_expiredkeys++;
25     propagateExpire(db,key);
26     return dbDelete(db,key);
27 }
28 

ifNeed表示能刪則刪,所以4行沒有設置超時不刪,7行在"loading"時不刪,16行非主庫不刪,21行未到期不刪。25行同步從庫和文件。

再看看哪些函數(shù)調用了expireIfNeeded,有lookupKeyReadlookupKeyWritedbRandomKeyexistsCommandkeysCommand。通過這些函數(shù)命名可以看出,只要訪問了某一個key,順帶做的事情就是嘗試查看過期并刪除,這就保證了用戶不可能訪問到過期的key。但是如果有大量的key過期,并且沒有被訪問到,那么就浪費了許多內存。Redis是如何處理這個問題的呢。


dbDelete的調用者里還發(fā)現(xiàn)這樣一個函數(shù):

 1 /* Try to expire a few timed out keys. The algorithm used is adaptive and
 2  * will use few CPU cycles if there are few expiring keys, otherwise
 3  * it will get more aggressive to avoid that too much memory is used by
 4  * keys that can be removed from the keyspace. */
 5 void activeExpireCycle(void) {
 6     int j;
 7 
 8     for (j = 0; j < server.dbnum; j++) {
 9         int expired;
10         redisDb *db = server.db+j;
11 
12         /* Continue to expire if at the end of the cycle more than 25%
13          * of the keys were expired. */
14         do {
15             long num = dictSize(db->expires);
16             time_t now = time(NULL);
17 
18             expired = 0;
19             if (num > REDIS_EXPIRELOOKUPS_PER_CRON)
20                 num = REDIS_EXPIRELOOKUPS_PER_CRON;
21             while (num--) {
22                 dictEntry *de;
23                 time_t t;
24 
25                 if ((de = dictGetRandomKey(db->expires)) == NULL) break;
26                 t = (time_t) dictGetEntryVal(de);
27                 if (now > t) {
28                     sds key = dictGetEntryKey(de);
29                     robj *keyobj = createStringObject(key,sdslen(key));
30 
31                     propagateExpire(db,keyobj);
32                     dbDelete(db,keyobj);
33                     decrRefCount(keyobj);
34                     expired++;
35                     server.stat_expiredkeys++;
36                 }
37             }
38         } while (expired > REDIS_EXPIRELOOKUPS_PER_CRON/4);
39     }
40 }
41 

這個函數(shù)的意圖已經(jīng)有說明:刪一點點過期key,如果過期key較少,那也只用一點點cpu25行隨機取一個key38行刪key成功的概率較低就退出。這個函數(shù)被放在一個cron里,每毫秒被調用一次。這個算法保證每次會刪除一定比例的key,但是如果key總量很大,而這個比例控制的太大,就需要更多次的循環(huán),浪費cpu,控制的太小,過期的key就會變多,浪費內存——這就是時空權衡了。

 

最后在dbDelete的調用者里還發(fā)現(xiàn)這樣一個函數(shù):

/* This function gets called when 'maxmemory' is set on the config file to limit
 * the max memory used by the server, and we are out of memory.
 * This function will try to, in order:
 *
 * - Free objects from the free list
 * - Try to remove keys with an EXPIRE set
 *
 * It is not possible to free enough memory to reach used-memory < maxmemory
 * the server will start refusing commands that will enlarge even more the
 * memory usage.
 
*/
void freeMemoryIfNeeded(void)

這個函數(shù)太長就不再詳述了,注釋部分說明只有在配置文件中設置了最大內存時候才會調用這個函數(shù),而設置這個參數(shù)的意義是,你把redis當做一個內存cache而不是key-value數(shù)據(jù)庫。


以上3種刪除過期key的途徑,第二種定期刪除一定比例的key是主要的刪除途徑,第一種“讀時刪除”保證過期key不會被訪問到,第三種是一個當內存超出設定時的暴力手段。由此也能看出redis設計的巧妙之處,

posted @ 2011-11-29 19:57 阿二 閱讀(14899) | 評論 (1)編輯 收藏

2010年9月10日

Poco::TCPServer框架解析

     摘要: POCO C++ Libraries提供一套 C++ 的類庫用以開發(fā)基于網(wǎng)絡的可移植的應用程序,功能涉及線程、文件、流,網(wǎng)絡協(xié)議包括:HTTP、FTP、SMTP 等,還提供 XML 的解析和 SQL 數(shù)據(jù)庫的訪問接口。不僅給我的工作帶來極大的便利,而且設計巧妙,代碼易讀,注釋豐富,也是非常好的學習材料。  閱讀全文

posted @ 2010-09-10 01:05 阿二 閱讀(18913) | 評論 (13)編輯 收藏

2008年9月9日

從海量數(shù)據(jù)中找出中位數(shù)

題目和基本思路都來源網(wǎng)上,本人加以整理。

題目:在一個文件中有 10G 個整數(shù),亂序排列,要求找出中位數(shù)。內存限制為 2G。只寫出思路即可(內存限制為 2G的意思就是,可以使用2G的空間來運行程序,而不考慮這臺機器上的其他軟件的占用內存)。

關于中位數(shù):數(shù)據(jù)排序后,位置在最中間的數(shù)值。即將數(shù)據(jù)分成兩部分,一部分大于該數(shù)值,一部分小于該數(shù)值。中位數(shù)的位置:當樣本數(shù)為奇數(shù)時,中位數(shù)=(N+1)/2 ; 當樣本數(shù)為偶數(shù)時,中位數(shù)為N/2與1+N/2的均值(那么10G個數(shù)的中位數(shù),就第5G大的數(shù)與第5G+1大的數(shù)的均值了)。

分析:明顯是一道工程性很強的題目,和一般的查找中位數(shù)的題目有幾點不同。
1. 原數(shù)據(jù)不能讀進內存,不然可以用快速選擇,如果數(shù)的范圍合適的話還可以考慮桶排序或者計數(shù)排序,但這里假設是32位整數(shù),仍有4G種取值,需要一個16G大小的數(shù)組來計數(shù)。

2. 若看成從N個數(shù)中找出第K大的數(shù),如果K個數(shù)可以讀進內存,可以利用最小或最大堆,但這里K=N/2,有5G個數(shù),仍然不能讀進內存。

3. 接上,對于N個數(shù)和K個數(shù)都不能一次讀進內存的情況,《編程之美》里給出一個方案:設k<K,且k個數(shù)可以完全讀進內存,那么先構建k個數(shù)的堆,先找出第0到k大的數(shù),再掃描一遍數(shù)組找出第k+1到2k的數(shù),再掃描直到找出第K個數(shù)。雖然每次時間大約是nlog(k),但需要掃描ceil(K/k)次,這里要掃描5次。

解法:首先假設是32位無符號整數(shù)。
1. 讀一遍10G個整數(shù),把整數(shù)映射到256M個區(qū)段中,用一個64位無符號整數(shù)給每個相應區(qū)段記數(shù)。
說明:整數(shù)范圍是0 - 2^32 - 1,一共有4G種取值,映射到256M個區(qū)段,則每個區(qū)段有16(4G/256M = 16)種值,每16個值算一段, 0~15是第1段,16~31是第2段,……2^32-16 ~2^32-1是第256M段。一個64位無符號整數(shù)最大值是0~8G-1,這里先不考慮溢出的情況。總共占用內存256M×8B=2GB。

2. 從前到后對每一段的計數(shù)累加,當累加的和超過5G時停止,找出這個區(qū)段(即累加停止時達到的區(qū)段,也是中位數(shù)所在的區(qū)段)的數(shù)值范圍,設為[a,a+15],同時記錄累加到前一個區(qū)段的總數(shù),設為m。然后,釋放除這個區(qū)段占用的內存。

3. 再讀一遍10G個整數(shù),把在[a,a+15]內的每個值計數(shù),即有16個計數(shù)。

4. 對新的計數(shù)依次累加,每次的和設為n,當m+n的值超過5G時停止,此時的這個計數(shù)所對應的數(shù)就是中位數(shù)。

總結:
1.以上方法只要讀兩遍整數(shù),對每個整數(shù)也只是常數(shù)時間的操作,總體來說是線性時間。

2. 考慮其他情況。
若是有符號的整數(shù),只需改變映射即可。若是64為整數(shù),則增加每個區(qū)段的范圍,那么在第二次讀數(shù)時,要考慮更多的計數(shù)。若過某個計數(shù)溢出,那么可認定所在的區(qū)段或代表整數(shù)為所求,這里只需做好相應的處理。噢,忘了還要找第5G+1大的數(shù)了,相信有了以上的成果,找到這個數(shù)也不難了吧。

3. 時空權衡。
花費256個區(qū)段也許只是恰好配合2GB的內存(其實也不是,呵呵)。可以增大區(qū)段范圍,減少區(qū)段數(shù)目,節(jié)省一些內存,雖然增加第二部分的對單個數(shù)值的計數(shù),但第一部分對每個區(qū)段的計數(shù)加快了(總體改變??待測)。

4. 映射時盡量用位操作,由于每個區(qū)段的起點都是2的整數(shù)冪,映射起來也很方便。

posted @ 2008-09-09 22:49 阿二 閱讀(6166) | 評論 (2)編輯 收藏

基于boost::multi_array的矩陣相乘

博客第一篇,還望大家多多指點。

看了半天的boost::multi_array文檔,才發(fā)現(xiàn)可以用shape()[]這個的東西,來取某一維的長度

而關于視圖部分,小弟看的一知半解,
比如,怎么樣把一個4×4的矩陣分成4個2×2的矩陣呢
雖然可以用別的途徑解決,但還是想看下multi_array的視圖操作

本來要實現(xiàn)下Strassen算法的,
下面是普通的矩陣乘法。

#include <iostream>
#include 
"boost/multi_array.hpp"
using namespace std;

typedef boost::multi_array
<int2> matrix; 

matrix matrix_multiply(matrix
& a,matrix& b)
{
    matrix::index row
=a.shape()[0];
    matrix::index col
=b.shape()[1];
    matrix c(boost::extents[row][col]);

    
for (matrix::index i=0; i!=a.shape()[0]; ++i)
        
for (matrix::index j=0; j!=b.shape()[1]; ++j)
            
for (matrix::index k=0; k!=a.shape()[1]; ++k)
                c[i][j]
+=a[i][k]*b[k][j];

    
return c;
}


void print(const matrix& m)
{
    
for (matrix::index i=0; i!=m.shape()[0]; cout<<endl,++i)
        
for (matrix::index j=0; j!=m.shape()[1]; ++j)
                cout
<<m[i][j]<<" ";    
}


int main() {   

    
int values[] = {   
        
012,   
        
345    
    }
;   
    
const int values_size = 6;   
    matrix A(boost::extents[
2][3]);  
    matrix B(boost::extents[
3][2]); 
    A.assign(values,values 
+ values_size);
    B.assign(values,values 
+ values_size);

        cout
<<"matrix A"<<endl;
        print(A);   
    cout
<<endl;cout<<"*"<<endl;cout<<"matrix B"<<endl;
        print(B);   
    cout
<<endl;cout<<"="<<endl;cout<<"matrix C"<<endl;
    print(matrix_multiply(A,B));
    cout
<<endl;  

    
return 0;
}
 

posted @ 2008-09-09 20:21 阿二 閱讀(1641) | 評論 (1)編輯 收藏

僅列出標題  

導航

統(tǒng)計

常用鏈接

留言簿

隨筆分類

隨筆檔案

搜索

最新評論

閱讀排行榜

評論排行榜

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            一区二区三区**美女毛片| 欧美精品久久久久久久免费观看| 久久免费视频在线观看| 欧美一二三区精品| 午夜亚洲福利在线老司机| 亚洲欧美日韩国产一区二区三区| 午夜久久黄色| 开元免费观看欧美电视剧网站| 另类图片国产| 亚洲国产成人不卡| 亚洲国产综合在线看不卡| 亚洲精品欧洲| 亚洲影院色无极综合| 国产在线视频欧美一区二区三区| 欧美一区二区私人影院日本 | 午夜精品成人在线| 欧美在线地址| 欧美大片91| 在线视频中文亚洲| 久久精品人人做人人综合| 欧美激情精品久久久久久变态| 欧美视频网站| 在线观看91精品国产麻豆| 一区二区免费在线播放| 久久久久成人网| 亚洲精品欧美日韩专区| 久久国产精品久久久| 欧美日韩精品免费观看视频| 国产欧美欧美| 亚洲肉体裸体xxxx137| 欧美一区二区三区在线看| 亚洲激情网址| 久久人人九九| 国产视频不卡| 亚洲欧美另类国产| 亚洲美女中文字幕| 美日韩在线观看| 国产一区二区三区免费不卡 | 久久久久久久综合日本| 国产精品女主播一区二区三区| 亚洲蜜桃精久久久久久久 | 亚洲一区二区日本| 欧美精品二区| 亚洲黄网站在线观看| 久久人人九九| 亚洲欧美日韩一区二区在线 | 日韩午夜激情av| 狂野欧美激情性xxxx| 亚洲香蕉成视频在线观看| 美女脱光内衣内裤视频久久影院 | 欧美理论电影在线观看| 黄色成人在线观看| 亚洲欧美日韩视频一区| 亚洲国产欧美不卡在线观看| 午夜国产一区| 国产精品久久久久久久久果冻传媒 | 国产精品久久久久久久久久妞妞 | 亚洲欧美日韩在线观看a三区| 一区二区福利| 欧美色精品天天在线观看视频| 91久久极品少妇xxxxⅹ软件| 美脚丝袜一区二区三区在线观看| 久久乐国产精品| 久久久欧美精品sm网站| 亚洲韩日在线| 午夜精彩国产免费不卡不顿大片| 国内精品久久久久影院优| 亚洲精品视频免费观看| 中文久久精品| 亚洲黄色av一区| 亚久久调教视频| 亚洲最新在线视频| 久久久噜噜噜久久狠狠50岁| 亚洲综合丁香| 欧美精选一区| 亚洲成人自拍视频| 狠久久av成人天堂| 亚洲在线免费| 午夜欧美理论片| 免费永久网站黄欧美| 久久久久国产精品麻豆ai换脸| 欧美日韩午夜视频在线观看| 亚洲国产日本| 欧美福利在线| 亚洲级视频在线观看免费1级| 狠狠狠色丁香婷婷综合激情| 久久国产加勒比精品无码| 久久尤物视频| 国产日韩亚洲欧美综合| 欧美在线视频一区二区三区| 欧美中文日韩| 性久久久久久久久久久久| 国产日产高清欧美一区二区三区| 亚洲性视频h| 亚洲欧美另类国产| 狠狠色狠狠色综合系列| 亚洲天堂网站在线观看视频| 欧美呦呦网站| 亚洲人成77777在线观看网| 欧美日本二区| 性欧美暴力猛交另类hd| 小处雏高清一区二区三区| 在线观看欧美成人| 欧美成人午夜剧场免费观看| 亚洲伊人久久综合| 亚洲国内欧美| 欧美午夜欧美| 美女成人午夜| 篠田优中文在线播放第一区| 蜜桃精品一区二区三区| 亚洲欧美在线另类| 精久久久久久| 国产日韩亚洲欧美精品| 国产精品人人做人人爽| 欧美精品一区二区三区四区| 久久视频在线免费观看| 欧美一区二区三区在线观看| 亚洲精品免费网站| 亚洲国产三级| 亚洲精品乱码久久久久久| 欧美激情一区二区久久久| 久久亚洲精品中文字幕冲田杏梨| 亚洲网在线观看| 亚洲理伦电影| 亚洲一区精品在线| 亚洲欧美日韩精品久久奇米色影视 | 一本色道久久综合亚洲精品婷婷 | 国产在线拍揄自揄视频不卡99| 亚洲视频在线观看视频| 亚洲精品永久免费| 亚洲视频电影在线| 欧美一区二区三区四区高清| 久久xxxx| 欧美日韩久久精品| 国产精品国产三级国产专区53| 欧美日韩亚洲免费| 欧美人与禽猛交乱配| 国产日韩欧美91| 亚洲国产精品电影| 亚洲欧美日韩国产综合在线| 久久亚洲精选| 夜夜嗨av一区二区三区免费区| 午夜一区在线| 欧美激情精品久久久久久黑人 | 亚洲激情另类| 中国成人亚色综合网站| 久久精品五月| 亚洲一区二区三区精品在线观看| 亚洲人妖在线| 久久免费视频在线| 国产精品日韩欧美综合| 中日韩高清电影网| 亚洲国产视频一区二区| 久久精品噜噜噜成人av农村| 欧美日韩性生活视频| 亚洲巨乳在线| 影音先锋亚洲一区| 亚洲一区二区三区四区五区午夜| 欧美成人午夜免费视在线看片| 亚洲欧美清纯在线制服| 欧美日韩视频在线一区二区 | 欧美高清日韩| 久久久亚洲欧洲日产国码αv | 午夜精品久久久久久久蜜桃app| 欧美freesex8一10精品| 亚洲女女女同性video| 国产精品卡一卡二卡三| 午夜精品理论片| 亚洲一区亚洲| 亚洲第一中文字幕在线观看| 欧美日韩999| 欧美88av| 黄色成人在线免费| 中日韩美女免费视频网站在线观看| 国产日产高清欧美一区二区三区| 亚洲激情av在线| 狠狠色综合网| 欧美在线视频一区二区| 午夜精品福利一区二区蜜股av| 欧美成人精品h版在线观看| 久久综合九色综合欧美就去吻| 国产精品高清网站| 日韩视频欧美视频| 亚洲一区久久久| 国产精品国产三级国产aⅴ浪潮 | 亚洲午夜一区二区| 一区二区三区四区五区视频| 欧美激情91| 夜夜嗨av色综合久久久综合网| 亚洲人成在线观看一区二区| 欧美成人一区在线| 亚洲伦理在线免费看| 欧美日韩视频专区在线播放 | 亚洲黄色三级| 一区二区三区色| 国产亚洲欧美一区在线观看| 久久精品一二三| 日韩午夜中文字幕| 久久精品日韩欧美| 亚洲精品久久久久久久久久久久|