Hadoop,Hive,Spark之間是什麼關係

時間 2021-08-30 11:13:07

1樓:愛可生雲資料庫

spark已經取代hadoop成為最活躍的開源大資料專案,但是,在選擇大資料框架時,企業不能因此就厚此薄彼

近日,著名大資料專家bernard marr在一篇文章中分析了spark和 hadoop 的異同

hadoop和spark均是大資料框架,都提供了一些執行常見大資料任務的工具,但確切地說,它們所執行的任務並不相同,彼此也並不排斥

雖然在特定的情況下,spark據稱要比hadoop快100倍,但它本身沒有一個分散式儲存系統

而分散式儲存是如今許多大資料專案的基礎,它可以將 pb 級的資料集儲存在幾乎無限數量的普通計算機的硬碟上,並提供了良好的可擴充套件性,只需要隨著資料集的增大增加硬碟

因此,spark需要一個第三方的分散式儲存,也正是因為這個原因,許多大資料專案都將spark安裝在hadoop之上,這樣,spark的高階分析應用程式就可以使用儲存在hdfs中的資料了

與hadoop相比,spark真正的優勢在於速度,spark的大部分操作都是在記憶體中,而hadoop的mapreduce系統會在每次操作之後將所有資料寫回到物理儲存介質上,這是為了確保在出現問題時能夠完全恢復,但spark的彈性分散式資料儲存也能實現這一點

另外,在高階資料處理(如實時流處理、機器學習)方面,spark的功能要勝過hadoop

在bernard看來,這一點連同其速度優勢是spark越來越受歡迎的真正原因

實時處理意味著可以在資料捕獲的瞬間將其提交給分析型應用程式,並立即獲得反饋

在各種各樣的大資料應用程式中,這種處理的用途越來越多,比如,零售商使用的推薦引擎、製造業中的工業機械效能監控

spark平臺的速度和流資料處理能力也非常適合機器學習演算法,這類演算法可以自我學習和改進,直到找到問題的理想解決方案

這種技術是最先進製造系統(如**零件何時損壞)和無人駕駛汽車的核心

spark有自己的機器學習庫mlib,而hadoop系統則需要藉助第三方機器學習庫,如apache mahout

實際上,雖然spark和hadoop存在一些功能上的重疊,但它們都不是商業產品,並不存在真正的競爭關係,而通過為這類免費系統提供技術支援贏利的公司往往同時提供兩種服務

例如,cloudera 就既提供 spark 服務也提供 hadoop服務,並會根據客戶的需要提供最合適的建議

bernard認為,雖然spark發展迅速,但它尚處於起步階段,安全和技術支援基礎設施方還不發達,在他看來,spark在開源社群活躍度的上升,表明企業使用者正在尋找已儲存資料的創新用法

美國各州之間是什麼樣的關係,美國州之間的關係

ak47愛國 美國的州擁有更多自由 為什麼美國很多州與州之間的分界線都是直線? 阿斯匹斯 分界copy線的劃分是有很多因素的 就好比中國的省與省之間的分界線 有山地,經緯度等 而美國州與州之間的分界線正是以經緯度劃分的 所以會那麼直中國大多數是以山地,河流,高原 劃分的 外加古代都劃分好的 也有經緯...

人類的生存和大地的保護之間是什麼的密切關係

一句話解決,保護大地就是保護我們賴以生存的家園 人類的生存與大地的保護之間的關係是 的密切關係 蕞噯伱 媞莪丶 某學生翻牆被校長捉住,校長問 你為什麼翻牆?學生指著上衣說 美特斯邦威,不走尋常路!校長又問 這麼高的牆你怎麼翻過去的?學生指著褲子說 李寧,一切皆有可能!校長生氣說 翻牆的滋味怎樣?學生...

萬科與保利地產,萬科和保利地產之間是什麼關係

確實,萬科和保利地產同屬於房地產行業.他們之間進行比較是很能夠說明行業與公司各發生了什麼問題.下面讓我們從兩 票的股價走勢與基本面上之間的關係來進行比較.600048保利地產 現股價12元 靜態市盈率小於10倍 動態市盈率估計出入不大或者大於10倍 市淨率小於2.5倍.從7月到現在9月18日股價跌幅...