1）是什么
① Hadoop是由Apache基金会所开发的分布式系统基础架构，封装了复杂的分布式底层细节，使开发人员低门槛地开发分布式程序，充分利用集群的威力进行高速运算和存储。
② Hadoop是一个针对于大数据的存取、计算、加工、分析，由多个工具构成的解决方案
③ 提供高吞吐量（high throughput）来访问应用程序的数据，适合那些有着超大数据集（large data set）的应用程序，但是延迟大，响应缓慢，运维复杂
2）为解决什么问题
随着互联网数据量增多，数据产生速度增快，数据类型多样性提高，之前的集中式的数据处理系统显露出了很多问题。
① 原有系统存储容量有限，无法承载每日TB甚至PB级的数据量。
② 原有系统适合处理简单数据，对于音视频、图片等多种类型的文件支持一般。
③ 原有系统应对故障的能力弱。
④ 原有系统对机器要求高，构建成本高。
Hadoop构建了可以运行在多个廉价小型机的分布式系统架构，以低成本的方案解决了上述问题，从而得到了行业中大量的应用。
3）工作原理
① 示意图
Hadoop中的核心设计包括两点：HDFS和MapReduce。图中白色块属于HDFS，黑色块属于MapReduce
4）优点
① 大数据文件，非常适合上T级别的大文件或者一堆大数据文件的存储，如果文件只有几个G甚至更小就没啥意思了。
② 文件分块存储，HDFS会将一个完整的大文件平均分块存储到不同计算器上，它的意义在于读取文件时可以同时从多个主机取不同区块的文件，多主机读取比单主机读取效率要高得多。
③ 流式数据访问，一次写入多次读写，这种模式跟传统文件不同，它不支持动态改变文件内容，而是要求让文件一次写入就不做变化，要变化也只能在文件末添加内容。
④ 廉价硬件，HDFS可以应用在普通PC机上，这种机制能够让给一些公司用几十台廉价的计算机，就可以撑起一个大数据集群。
⑤ 硬件故障，HDFS认为所有计算机都可能会出问题，为了防止某个主机失效读取不到该主机的块文件，它将同一个文件块副本分配到其它某几个主机上，如果其中一台主机失效，可以迅速找另一块副本取文件。
5）缺点
HDFS不适合用在：要求低时间延迟数据访问的应用，存储大量的小文件，多用户写入，任意修改文件
6）适用场景
搜索、日志处理、推荐系统、数据分析、视频图像分析、数据保存等
网友评论