• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            woaidongmao

            文章均收錄自他人博客,但不喜標題前加-[轉貼],因其丑陋,見諒!~
            隨筆 - 1469, 文章 - 0, 評論 - 661, 引用 - 0
            數據加載中……

            Larbin 一種高效的搜索引擎爬蟲工具

            我就在這里對larbin做一個簡單的介紹。因為相對于復雜的系統來講,larbin具有高度的可配置性,和良好的工作效率。1]larbin的簡介
            larbin
            是一種開源的網絡爬蟲/網絡蜘蛛,由法國的年輕人 Sébastien Ailleret獨立開發。larbin目的是能夠跟蹤頁面的url進行擴展的抓取,最后為搜索引擎提供廣泛的數據來源。

            Larbin只是一個爬蟲,也就是說larbin只抓取網頁,至于如何parse的事情則由用戶自己完成。另外,如何存儲到數據庫以及建立索引的事情 larbin也不提供。

            latbin最初的設計也是依據設計簡單但是高度可配置性的原則,因此我們可以看到,一個簡單的larbin的爬蟲可以每天獲取500萬的網頁,實在是非常高效。

            2] Larbin的性能特征
            高效是我對 larbin 的評價。
            今年四月份的時候我對larbin的性能做過一個測試,luliang.dhs.org是我自己常用的服務器,CPU 1G,內存512,其它的性能一般,因為是三年前購置的。

            我將我自己的網頁 六翼作為入口,運行larbin進行5層內的url的抓取。

            當時紀錄的一些數據:
            Internet IO: 500-700k/per second
            (我想大約我的網絡下載的瓶頸了吧)
            CPU top: 5%-15%
            disk consume: 1M/s
            ,基本上一個小時爬 3G 的網頁。差不多20萬的頁面
            url
            解析: 200萬-300萬每小時

            3] larbin 的作用
            很多人初見 larbin 不知道從哪里下手,那么我來簡單介紹一下 larbin 的功能和實際應用。
            1. larbin
            獲取單個、確定網站的所有聯結,甚至可以鏡像一個網站。
            2. larbin
            建立 url 列表群,例如針對所有的網頁進行 url retrive后,進行xml的聯結的獲取。或者是 mp3
            3. larbin
            定制后可以作為搜索引擎的信息的來源(例如可以將抓取下來的網頁每2000一組存放在一系列的目錄結構里面)。

            總歸,larbin應當是一個被廣大搜索引擎愛好者應當引起注意的一個產品,雖然其功能逐漸被 Nutch 所接受和替代,但是其在爬蟲上的優美設計的確值得稱道。

             

            posted on 2009-01-04 14:12 肥仔 閱讀(4529) 評論(2)  編輯 收藏 引用 所屬分類: Web-后臺

            評論

            # re: Larbin 一種高效的搜索引擎爬蟲工具  回復  更多評論   

            你這樣描述,雖然對這個larbin有了進一步的了解,但是對于像我這樣的linux初學者,對這個larbin還是一籌莫展,要是可以制作個使用教程該多好呀,呵呵。
            另外問下這個larbin是不是增量式的爬蟲呢?謝謝~
            2010-03-07 16:58 | 一段匯編

            # re: Larbin 一種高效的搜索引擎爬蟲工具  回復  更多評論   

            文章均收錄自他人博客,但不喜標題前加-[轉貼],因其丑陋,見諒!~
            汗,那起碼也要加上原文出處呀~ 譬如此文呢?
            2010-03-07 17:01 | 一段匯編
            久久国产色AV免费观看| 噜噜噜色噜噜噜久久| 99久久精品费精品国产一区二区 | 成人综合伊人五月婷久久| 精品久久久久久成人AV| 久久国产成人亚洲精品影院| 亚洲人成精品久久久久| 91精品国产高清久久久久久国产嫩草 | 亚洲婷婷国产精品电影人久久| 亚洲精品无码久久千人斩| 亚洲国产精久久久久久久| 亚洲午夜久久久久妓女影院| 国产巨作麻豆欧美亚洲综合久久| 国产精品一区二区久久精品涩爱| 狠狠色丁香婷婷久久综合不卡| 久久久精品人妻一区二区三区蜜桃 | 无码任你躁久久久久久老妇App| 一本久久免费视频| 成人国内精品久久久久影院VR| 久久精品人成免费| 日本WV一本一道久久香蕉| 三级韩国一区久久二区综合| 成人国内精品久久久久影院VR| 久久精品国产亚洲网站| 久久99国产精品久久99| 国产精品岛国久久久久| 精品久久久久久亚洲精品| 伊人久久大香线蕉av不卡| 久久精品国产清自在天天线| 热久久视久久精品18| 久久精品国产99国产精品导航 | 精品久久久中文字幕人妻| 无码人妻久久一区二区三区蜜桃| 一本色综合久久| 久久精品国产亚洲av麻豆蜜芽 | 亚洲国产成人久久综合一| 久久久久免费精品国产| A级毛片无码久久精品免费| 久久99精品久久久久久噜噜| 久久精品中文字幕一区| 香蕉99久久国产综合精品宅男自|