您好,登录后才能下订单哦!
这篇文章主要讲解了“hadoop2.6.0-cdh5.7.0编译方法是什么”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“hadoop2.6.0-cdh5.7.0编译方法是什么”吧!
一、软件包:snappy-1.1.3.tar.gz
二、安装依赖包:
yum -y install snappy libsnappy-dev
yum -y install bzip2 libbz2-dev
yum -y install libjansson-dev
三、bzip2压缩支持:
yum install -y bzip2-devel
rpm -qa bzip2-devel
注:bizip2的的本地压缩支持无效,整个编译过程,并没有出现任何错误,或异常,而且去cenots下的lib64位目录下,查看libbz2的so文件,发现也正常。安装bzip2-devel库支持,然后重新编译我们的hadoop即可。
四、安装snappy:
# tar xf snappy-1.1.3.tar.gz
# cd snappy-1.1.3
# ./configure
# make && make install
查看snappy是否安装完成:
# ll /usr/local/lib/ | grep snappy
五、编译hadoop:mvn clean package -DskipTests -Pdist,native -Dtar -Dsnappy.lib=/usr/local/lib -Dbundle.snappy
或
mvn clean package -DskipTests -Pdist,native -Dtar
注:必须在编译时加入native
六、配置hadoop的core-site.xml、mapred-site.xmlvi core-site.xml
io.compression.codecs
org.apache.hadoop.io.compress.GzipCodec,
org.apache.hadoop.io.compress.DefaultCodec,
org.apache.hadoop.io.compress.BZip2Codec,
org.apache.hadoop.io.compress.SnappyCodec
vi mapred-site.xml
mapreduce.map.output.compress.codec
org.apache.hadoop.io.compress.SnappyCodec
编译完成后,将生成hadoop中的native目录下文件拷贝到对应hadoop安装目录下的native目录中,并重启hadoop。执行hadoop checknative验证
感谢各位的阅读,以上就是“hadoop2.6.0-cdh5.7.0编译方法是什么”的内容了,经过本文的学习后,相信大家对hadoop2.6.0-cdh5.7.0编译方法是什么这一问题有了更深刻的体会,具体使用情况还需要大家实践验证。这里是亿速云,小编将为大家推送更多相关知识点的文章,欢迎关注!
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。