青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

woaidongmao

文章均收錄自他人博客,但不喜標題前加-[轉貼],因其丑陋,見諒!~
隨筆 - 1469, 文章 - 0, 評論 - 661, 引用 - 0
數據加載中……

支持gzip的爬蟲 gzip zlib deflate 相關介紹

最近給Httpdownload 封裝了支持gzip傳輸

 

HTTP的角度

1 客戶端 http Request  Header上帶上 Accept-Encoding:gzip,deflate

2服務器若是支持gzip壓縮則在http reponse eader

部分返回Content-Encoding: gzip 或者Content-Type: application/x-gzip

3body部分用gzip解壓縮 則得到網頁內容.

傳說中iebug 在處理js css壓縮的時候有bug,我不理解 挺簡單的怎么會有bug.

gzip的角度

gzip是一種數據格式 默認且目前僅使用deflate算法壓縮data部分

zlib也是一種數據格式,使用defalte算法壓縮數據部分.

deflate是一種壓縮算法,huffman編碼的一種加強

 

zlib是一個開源庫, 提供deflate壓縮和對應的infalte解壓縮.

不過zlib默認的deflate infalte默認是處理zlib格式數據.必須使用

deflateInit2(&strm, DEFAULT_COMPRESSION,Z_DEFLATED, DEFAULT_WINDOWSIZE,DEFAULT_MEMLEVEL, Z_DEFAULT_STRATEGY);

初始化才是處理raw deflate data.(這一點在zlib manul沒有提,faq中提到,困擾了我好久,還是同事L幫我調試發現)

至于gzip格式解析 對著RFC寫就可以了.

參見RFC 1950 關于zlib http://www.faqs.org/rfcs/rfc1950.html

      RFC 1951 關于deflate http://www.faqs.org/rfcs/rfc1951.html

      RFC 1952 關于gzip http://www.faqs.org/rfcs/rfc1952.html 


nt  CGzip::Ungzip(const std::string & inStr , std::string &outStr){
    static int nFileCount=0;
        nFileCount++;
    string strZipFileName="test";
//    CConvert::StrToFile(inStr,strZipFileName+CConvert::toString<int>(nFileCount)+"H.gzip"clip_image001;
    if(inStr.length()<11){
        return -1;   
    }
    //process gzip header
    unsigned int skipCt = 10;
    unsigned int skipZeroCt = 0;
    unsigned char ID1 = inStr[0];
    unsigned char ID2 = inStr[1];
    unsigned char XFL=inStr[8];
    bool bFEXTRA = false ;
    bool bFNAME = false ;
    bool bFCOMMENT = false ;
    bool bFHCRC = false ;
    unsigned int XLEN = 0;
   
    if( (ID1!=31) && (ID2!=139)){
        return -1;  //
gzip頭部
        }
    unsigned char CM = inStr[2];
    if(CM!=clip_image002{
        return -1; //
現在都只處理 deflate壓縮的
    }
    unsigned char FLG = inStr[3];
    if( (FLG & GZIP_HEAD_FEXTRA) != 0){
        bFEXTRA = true ;
        skipCt += 2;
        XLEN = inStr[10]+ inStr[11]*256 ;//
按照小端字節序列處理
        skipCt += XLEN;
    }
    if( (FLG & GZIP_HEAD_FNAME) != 0){
        bFNAME = true;
        skipZeroCt++;
    }
    if( (FLG & GZIP_HEAD_FCOMMENT) != 0){
        bFCOMMENT = true;
        skipZeroCt++;   
    }
   
    size_t passedZeroCt = 0;
   
    size_t iStep = skipCt ;
    for( size_t iStep =  skipCt ; iStep<inStr.length(); iStep++){
            if(passedZeroCt>=skipZeroCt){
                break;   
            }
            if(inStr[iStep]==''clip_image001{
                passedZeroCt++;   
            }
       
    }
    skipCt = iStep ;
    if( (FLG & GZIP_HEAD_FHCRC) != 0){
        bFHCRC = true;
        skipCt+=2 ;
    }
        string coreStr = inStr.substr(skipCt,inStr.length()-8-skipCt);
           return CGzip::Inflate(coreStr,outStr);
   
   
   
}

 

int  CGzip:clip_image003ogzip(const std::string & inStr , std::string &outStr){
    char pAddHead[10];
    unsigned long crc = 0;
    // gzip header
    static const char deflate_magic[2] = {'37', '\213'};
    snprintf(pAddHead, 10,
            "%c%c%c%c%c%c%c%c%c%c", deflate_magic[0],
            deflate_magic[1], Z_DEFLATED, 0 /* flags */,
            0, 0, 0, 0 /* 4 chars for mtime */,
            0 /* xflags */, 0xff);
    string addHead(pAddHead,10);
    //gzip's raw deflate body
    if(CGzip:clip_image003eflate(inStr,outStr)<0){
        return - 1;   
    }
    //gzip trailer
    crc = crc32(crc, (const Bytef*)inStr.data(), inStr.length());
    char  tailBuf[8];
    memcpy(tailBuf, &crc, 4);
    int isize=inStr.size();
    memcpy(tailBuf,&isize,4);
    string tailStr(tailBuf , 8 );
    outStr = addHead + outStr+tailStr;     //
    return outStr.length(); //

posted on 2009-09-07 21:58 肥仔 閱讀(2729) 評論(0)  編輯 收藏 引用 所屬分類: 庫 & 代碼段HTTP & URL

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            欧美国产欧美亚洲国产日韩mv天天看完整 | 久久精品91久久香蕉加勒比| 激情综合自拍| 亚洲第一中文字幕| 亚洲网在线观看| 亚洲精品欧洲| 91久久精品国产91久久性色tv| 在线看片成人| 亚洲免费观看| 欧美一区二区三区视频在线观看| 性欧美videos另类喷潮| 久久久91精品国产| 亚洲第一福利在线观看| 亚洲韩国青草视频| 亚洲自拍都市欧美小说| 久久男女视频| 国产精品wwwwww| 韩国精品在线观看| 一区二区三区.www| 麻豆av一区二区三区久久| 亚洲青色在线| 欧美一区二区三区喷汁尤物| 麻豆免费精品视频| 国产美女精品人人做人人爽| 亚洲韩国青草视频| 亚洲欧美三级在线| 亚洲电影免费观看高清完整版在线| 亚洲娇小video精品| 亚洲精品一区二区三区四区高清 | 欧美激情综合色| 国产亚洲aⅴaaaaaa毛片| 亚洲精品五月天| 久久综合色一综合色88| 中文在线一区| 欧美精品国产一区二区| 狠狠色狠狠色综合系列| 亚洲欧美另类中文字幕| 亚洲人成网站在线播| 久久久亚洲成人| 国产日韩欧美不卡在线| 一本色道久久加勒比精品| 久久综合999| 亚洲网站啪啪| 欧美日韩在线亚洲一区蜜芽| 亚洲成人在线| 久久久久国产成人精品亚洲午夜| 99视频精品在线| 欧美国产成人在线| 亚洲国产精品v| 亚洲日本久久| 国产欧美日韩一区二区三区在线观看 | 欧美激情一区二区三区| 欧美一区永久视频免费观看| 国产精品国产三级国产普通话蜜臀 | 国产视频不卡| 国产精品久久久久永久免费观看 | 影音先锋亚洲电影| 久久九九电影| 欧美一进一出视频| 国产日韩欧美日韩大片| 亚洲欧美日本日韩| 中文亚洲视频在线| 国产精品永久入口久久久| 亚洲一二三区精品| 一区二区三区成人精品| 国产精品九九| 久久爱另类一区二区小说| 亚洲欧美国产日韩天堂区| 国产精品亚洲综合| 欧美在线免费看| 久久精品国产一区二区三区免费看| 国产欧美日韩综合| 久久蜜臀精品av| 久久夜色精品亚洲噜噜国产mv| 尤物99国产成人精品视频| 欧美激情精品久久久久久久变态| 噜噜噜久久亚洲精品国产品小说| 在线观看欧美一区| 亚洲国产欧美一区| 国产精品v欧美精品v日本精品动漫 | 韩日午夜在线资源一区二区| 久久久久久9999| 麻豆精品一区二区av白丝在线| 亚洲精品影院| 亚洲一区在线免费| 在线成人av.com| 亚洲国产日韩精品| 国产精品家教| 蘑菇福利视频一区播放| 欧美日产国产成人免费图片| 亚洲综合色激情五月| 久久成人免费视频| 一本大道久久a久久精二百| 9色精品在线| 国内伊人久久久久久网站视频| 欧美黄在线观看| 国产精品一区毛片| 亚洲国产精品久久久久婷婷老年| 国产精品精品视频| 亚洲第一精品福利| 国产色视频一区| 亚洲精品一区二| 亚洲国产mv| 性欧美video另类hd性玩具| 亚洲精品中文字幕有码专区| 亚洲欧美日韩天堂一区二区| 亚洲精品国偷自产在线99热| 亚洲午夜高清视频| 亚洲美女色禁图| 久久久国产精彩视频美女艺术照福利| 99re国产精品| 欧美高清视频一区二区| 欧美一区二区在线观看| 亚洲精品在线电影| 久久国产综合精品| 亚洲欧美视频在线| 欧美阿v一级看视频| 欧美一区二区三区久久精品茉莉花| 裸体一区二区三区| 久久天天躁狠狠躁夜夜av| 国产精品久久久久久av福利软件| 欧美高清在线视频观看不卡| 国产亚洲综合性久久久影院| av成人老司机| 日韩一级精品视频在线观看| 久久日韩精品| 老色批av在线精品| 国产综合色精品一区二区三区| 国产精品99久久不卡二区| 一级成人国产| 欧美区国产区| 亚洲国产成人tv| 亚洲二区在线视频| 久久一区二区三区四区五区| 久久久精品动漫| 国产午夜一区二区三区| 亚洲欧美日产图| 久久成人一区二区| 国产一区在线看| 欧美在线视频播放| 久久综合色影院| 亚洲黄页一区| 欧美精品成人在线| 夜夜嗨av一区二区三区网站四季av | 久久视频在线视频| 在线播放日韩欧美| 另类尿喷潮videofree| 欧美3dxxxxhd| 日韩视频一区| 国产精品成人播放| 亚洲欧美三级在线| 久久婷婷丁香| 亚洲狼人精品一区二区三区| 欧美日韩国产a| 亚洲一二三区视频在线观看| 欧美一区三区二区在线观看| 国产亚洲欧美一区在线观看| 久久精品亚洲热| 亚洲国产一区二区三区青草影视 | 欧美国产精品| 一区二区三区国产精品| 久久国内精品视频| 亚洲电影下载| 欧美日韩一区二区在线视频 | 欧美成人综合在线| 亚洲午夜精品网| 久久aⅴ国产欧美74aaa| 亚洲福利视频在线| 国产精品jizz在线观看美国 | 欧美一级一区| 亚洲丶国产丶欧美一区二区三区| 在线视频观看日韩| 久久大逼视频| 亚洲美女av在线播放| 欧美一级播放| 亚洲精品中文字幕在线观看| 国产精品日韩电影| 欧美韩国日本综合| 欧美一区二区三区的| 亚洲日韩第九十九页| 久久久久久一区二区| 中文国产一区| 亚洲福利视频一区| 国产一区高清视频| 国产精品v欧美精品v日韩精品| 久久一区国产| 欧美一站二站| 亚洲午夜视频在线| 亚洲电影在线免费观看| 久久激情视频| 亚洲欧美亚洲| 中文av一区二区| 亚洲另类视频| 亚洲成色精品| 国内久久精品视频| 国产精品三级久久久久久电影| 欧美黑人一区二区三区| 久久午夜色播影院免费高清| 亚洲欧美日本视频在线观看| 亚洲美女免费精品视频在线观看|