hadoop是什么語言
Hadoop是什么？Hadoop是一個開發(fā)和運(yùn)行處理大規(guī)模數(shù)據(jù)的軟件平臺,是Appach的一個用java語言實現(xiàn)開源軟件框架，實現(xiàn)在大量計算機(jī)組成的集群中對海量數(shù)據(jù)進(jìn)行分布式計算.
Hadoop框架中最核心設(shè)計就是：HDFS和MapReduce.HDFS提供了海量數(shù)據(jù)的存儲,MapReduce提供了對數(shù)據(jù)的計算.
數(shù)據(jù)在Hadoop中處理的流程可以簡單的按照下圖來理解:數(shù)據(jù)通過Haddop的集群處理后得到結(jié)果.
HDFS:Hadoop Distributed File System,Hadoop的分布式文件系統(tǒng).
大文件被分成默認(rèn)64M一塊的數(shù)據(jù)塊分布存儲在集群機(jī)器中.
如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機(jī)器中.
MapReduce:Hadoop為每一個input split創(chuàng)建一個task調(diào)用Map計算，在此task中依次處理此split中的一個個記錄(record),map會將結(jié)果以key--value的形式輸出,hadoop負(fù)責(zé)按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上.
Hadoop的集群主要由 NameNode,DataNode,Secondary NameNode,JobTracker,TaskTracker組成.
如下圖所示:
NameNode中記錄了文件是如何被拆分成block以及這些block都存儲到了那些DateNode節(jié)點.
NameNode同時保存了文件系統(tǒng)運(yùn)行的狀態(tài)信息.
DataNode中存儲的是被拆分的blocks.
Secondary NameNode幫助NameNode收集文件系統(tǒng)運(yùn)行的狀態(tài)信息.
JobTracker當(dāng)有任務(wù)提交到Hadoop集群的時候負(fù)責(zé)Job的運(yùn)行,負(fù)責(zé)調(diào)度多個TaskTracker.
TaskTracker負(fù)責(zé)某一個map或者reduce任務(wù).
總結(jié)
以上所述是小編給大家介紹的hadoop是什么語言，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復(fù)大家的。在此也非常感謝大家對腳本之家網(wǎng)站的支持！
相關(guān)文章
這篇文章主要介紹了java中的各種修飾符作用及范圍，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2021-11-11
基于Spring p標(biāo)簽和c標(biāo)簽注入方式
這篇文章主要介紹了Spring p標(biāo)簽和c標(biāo)簽注入方式，具有很好的參考價值，希望對大家有所幫助。如有錯誤或未考慮完全的地方，望不吝賜教2021-09-09
springboot中如何通過cors協(xié)議解決跨域問題
這篇文章主要介紹了springboot中通過cors協(xié)議解決跨域問題,cors是一個w3c標(biāo)準(zhǔn)，它允許瀏覽器（目前ie8以下還不能被支持）像我們不同源的服務(wù)器發(fā)出xmlHttpRequest請求，我們可以繼續(xù)使用ajax進(jìn)行請求訪問。具體內(nèi)容詳情大家跟隨腳本之家小編一起學(xué)習(xí)吧2018-05-05
解決在IDEA中創(chuàng)建多級package的問題
這篇文章主要介紹了解決在IDEA中創(chuàng)建多級package的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2021-02-02
Mybatis基于TypeHandler實現(xiàn)敏感數(shù)據(jù)加密
業(yè)務(wù)場景中經(jīng)常會遇到諸如用戶手機(jī)號,身份證號,銀行卡號,郵箱,地址,密碼等等信息,屬于敏感信息,本文就來介紹一下Mybatis基于TypeHandler實現(xiàn)敏感數(shù)據(jù)加密,感興趣的可以了解一下2023-10-10
這篇文章主要介紹了MyBatis如何使用(三)的相關(guān)資料,非常不錯，具有參考借鑒價值，需要的朋友可以參考下2016-07-07
redis實現(xiàn)多進(jìn)程數(shù)據(jù)同步工具代碼分享
這篇文章主要介紹了使用redis實現(xiàn)多進(jìn)程數(shù)據(jù)同步工具的代碼，大家參考使用吧2014-01-01
這篇文章主要為大家詳細(xì)介紹了java隨機(jī)生成10位數(shù)字符串ID的方法，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-08-08
這篇文章主要給大家介紹了關(guān)于java正則表達(dá)式用法大全的相關(guān)資料,正則表達(dá)式在處理字符串時非常有用,文中通過實例代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-10-10
解決java idea新建子目錄時命名不是樹形結(jié)構(gòu)的問題
這篇文章主要介紹了解決java idea新建子目錄時命名不是樹形結(jié)構(gòu)的問題，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-08-08