主页 > 互联网  > 

Hadoop初体验

Hadoop初体验
一、HDFS初体验 1. shell命令操作

  hadoop fs -mkdir /itcast     

  hadoop fs -put zookeeper.out /itcast     

  hadoop fs -ls /

2. Web UI页面操作

结论:

HDFS本质就是一个文件系统有目录树结构 和Linux类似,分文件、文件夹为什么上传一个小文件也这么慢? 二、MapReduce +YARN初体验 执行Hadoop官方自带的MapReduce案例     

评估圆周率π的值     

cd /export/server/hadoop-3.1.4/share/hadoop/mapreduce/

hadoop jar hadoop-mapreduce-examples-3.1.4.jar pi 2 4

思考:

MapReduce本质是程序?执行MapReduce的时候,为什么首先请求YARN?MapReduce看上去好像是两个阶段?先Map,再Reduce?处理小数据的时候,MapReduce速度快吗?

标签:

Hadoop初体验由讯客互联互联网栏目发布,感谢您对讯客互联的认可,以及对我们原创作品以及文章的青睐,非常欢迎各位朋友分享到个人网站或者朋友圈,但转载请说明文章出处“Hadoop初体验