- 掛牌上市企業
- 60秒人工響應
- 99.99%連通率
- 7*24h人工
- 故障100倍補償
分布式計算Hadoop簡介 |
| 發布時間: 2012/9/20 21:01:54 |
|
Hadoop是什么：Hadoop是一個開發和運行處理大規模數據的軟件平臺，是Appach的一個用java語言實現開源軟件框架，實現在大量計算機組成的集群中對海量數據進行分布式計算。 Hadoop框架中最核心設計就是：HDFS和MapReduce。HDFS提供了海量數據的存儲,MapReduce提供了對數據的計算。 數據在Hadoop中處理的流程可以簡單的按照下圖來理解：數據通過Haddop的集群處理后得到結果。
HDFS：Hadoop Distributed File System,Hadoop的分布式文件系統。 大文件被分成默認64M一塊的數據塊分布存儲在集群機器中。 如下圖中的文件 data1被分成3塊,這3塊以冗余鏡像的方式分布在不同的機器中。
MapReduce：Hadoop為每一個input split創建一個task調用Map計算，在此task中依次處理此split中的一個個記錄(record),map會將結果以key--value的形式輸出,hadoop負責按key值將map的輸出整理后作為Reduce的輸入,Reduce Task的輸出為整個job的輸出，保存在HDFS上。 本文出自：億恩科技【www.czbl888.cn】 |
0371-60135900
京公網安備41019702002023號
香港服務器租用
美國服務器租用
電信骨干機房
聯通骨干機房
