• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>

            大龍的博客

            常用鏈接

            統計

            最新評論

            Storm及Hadoop比較 && Strom優點

            一、 比較 
            Storm: 分布式實時計算,強調實時性,常用于實時性要求較高的地方
            Hadoop:分布式批處理計算,強調批處理,常用于數據挖掘、分析
            二、 優點
            1. 簡單編程

            在大數據處理方面相信大家對hadoop已經耳熟能詳,基于Google Map/Reduce來實現的Hadoop為開發者提供了map、reduce原語,使并行批處理程序變得非常地簡單和優美。同樣,Storm也為大數據的實時計算提供了一些簡單優美的原語,這大大降低了開發并行實時處理的任務的復雜性,幫助你快速、高效的開發應用。

            2. 多語言支持

            除 了用java實現spout和bolt,你還可以使用任何你熟悉的編程語言來完成這項工作,這一切得益于Storm所謂的多語言協議。多語言協議是 Storm內部的一種特殊協議,允許spout或者bolt使用標準輸入和標準輸出來進行消息傳遞,傳遞的消息為單行文本或者是json編碼的多行。

            Storm支持多語言編程主要是通過ShellBolt, ShellSpout和ShellProcess這些類來實現的,這些類都實現了IBolt 和 ISpout接口,以及讓shell通過java的ProcessBuilder類來執行腳本或者程序的協議。

            可以看到,采用這種方式,每個tuple在處理的時候都需要進行json的編解碼,因此在吞吐量上會有較大影響


            3. 支持水平擴展

            在 Storm集群中真正運行topology的主要有三個實體:工作進程、線程和任務。Storm集群中的每臺機器上都可以運行多個工作進程,每個工作進程 又可創建多個線程,每個線程可以執行多個任務,任務是真正進行數據處理的實體,我們開發的spout、bolt就是作為一個或者多個任務的方式執行的。

            因此,計算任務在多個線程、進程和服務器之間并行進行,支持靈活的水平擴展。

            4. 容錯性強

            如果在消息處理過程中出了一些異常,Storm會重新安排這個出問題的處理單元。Storm保證一個處理單元永遠運行(除非你顯式殺掉這個處理單元)。

            5. 可靠的消息保證

            Storm可以保證spout發出的每條消息都能被“完全處理”,這也是直接區別于其他實時系統的地方,如S4。

            6. 快速的消息處理
            用ZeroMQ作為底層消息隊列, 保證消息能快速被處理
            7. 本地模式,支持快速編程測試

            Storm有一種“本地模式”,也就是在進程中模擬一個Storm集群的所有功能,以本地模式運行topology跟在集群上運行topology類似,這對于我們開發和測試來說非常有用。


            注:參考轉載于
            http://blog.linezing.com/2012/12/storm%E5%85%A5%E9%97%A8%E6%95%99%E7%A8%8B-%E7%AC%AC%E4%B8%80%E7%AB%A0-%E5%89%8D%E8%A8%80

            posted on 2013-10-14 17:25 大龍 閱讀(5090) 評論(0)  編輯 收藏 引用

            久久精品九九亚洲精品| 国产精品免费久久| 99久久国产热无码精品免费| 国内精品伊人久久久久AV影院| 狠色狠色狠狠色综合久久| 久久精品亚洲男人的天堂| 色综合久久久久久久久五月| 99久久精品国产一区二区蜜芽| 婷婷久久综合| 国产成人精品久久| 久久影院综合精品| 久久国语露脸国产精品电影| 日韩精品久久久久久| 久久亚洲私人国产精品vA| 久久99精品久久久久久水蜜桃| 亚洲∧v久久久无码精品| 久久精品国产一区二区电影| 国产午夜精品久久久久免费视| 久久亚洲sm情趣捆绑调教 | 久久亚洲中文字幕精品有坂深雪| 精品久久久久久99人妻| 99久久婷婷免费国产综合精品| 久久精品日日躁夜夜躁欧美| 欧美午夜A∨大片久久 | 女人高潮久久久叫人喷水| 亚洲国产精品人久久| 久久精品国产91久久综合麻豆自制 | 少妇内射兰兰久久| 国产99久久久国产精品小说| 女同久久| 欧美伊人久久大香线蕉综合| 欧美精品一区二区久久| 一本一道久久a久久精品综合| 精品无码久久久久久国产| 精品久久人人做人人爽综合| 精品国产婷婷久久久| 久久人人爽人人精品视频| 久久久艹| 奇米影视7777久久精品人人爽| 99精品久久精品一区二区| 久久国产乱子伦免费精品|