您好，登录后才能下订单哦！
密码登录
登录注册
点击 登录注册 即表示同意《亿速云用户服务条款》
本篇文章给大家分享的是有关怎么在Windows环境中使用IDEA配置一个Hadoop开发环境，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。
1.Hadoop在windows当中的安装
首先在Windows系统里打开浏览器，下载hadoop的安装包（二进制文件）: http://hadoop.apache.org/releases.html
打开网址，我们会发现这样的界面：
由于hadoop在开发当中我们常常使用了2.x版本的，因此这里我们这里下载2.10.1版本的。如果你想使用其他版本的进行下载，那么在下载之前需要检查以下maven仓库里是否有相应版本所对应的版本，不然在使用IDEA进行开发的时候，则无法运行。我们打开网址：https://mvnrepository.com/
在其中搜索hadoop.则会出现以下的界面：
鼠标往下滑动,发现果然！2.10.1的版本出现了！因此我们可以使用找个版本的hadoop，因为在maven仓库里是可以找到的，这样就不会出现无法编程调用hadoop的问题：
我们下载之后的文件二进制文件后缀名为tar.gz，你可以来到你下载的地方，使用windows下的压缩包软件直接进行解压，我使用的是2345压缩软件进行的解压。有些教程让我们必须在windows下模拟的linux环境下（MinGW）才能够解压，其实完全不用，就把tar.gz当作普通的压缩文件就好了，解压之后将文件夹更名为hadoop。
3.设置环境变量 一方面是要设置好Java的环境变量 另一方面是要设置好刚刚下载的Hadoop的环境变量
我们在环境变量处分别设置JAVA_HOME和HADOOP_HOME（目的是为了hadoop在运行的时候能够找到自己和java的地方在哪儿）:
然后在Path里添加JAVA和hadoop的二进制文件夹，bin文件夹，目的是我们这样就可以使用cmd对java和haodoop进行操作：
打开你的cmd，输入以下命令，出现我这样的输出说明配置环境变量成功：
C:\Users\lenovo>hadoop -version java version "1.8.0_162" Java(TM) SE Runtime Environment (build 1.8.0_162-b12) Java HotSpot(TM) 64-Bit Server VM (build 25.162-b12, mixed mode)
接下来就是配置HDFS的文件，进行伪分布式集群以适应你的计算机。（备注：伪分布式集群也是分布式集群，可以起动分布式计算的效果）
我们来到之前解压的hadoop文件夹下，打开etc/hadoop文件夹，发现里面有很多文件：
现在我们的任务就是修改这些文件当中的代码，务必修改，不然根本无法运行hadoop！！
打开这个文件，在找个文件当中的末尾添加上：
set HADOOP_PREFIX=%HADOOP_HOME% set HADOOP_CONF_DIR=%HADOOP_PREFIX%\etc\hadoop set YARN_CONF_DIR=%HADOOP_CONF_DIR% set PATH=%PATH%;%HADOOP_PREFIX%\bin
将configuration处更改为：
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://0.0.0.0:9000</value> </property> </configuration>
将configuration处更改为如下所示，其中
file:///F:/DataAnalytics/dfs/namespace_logs file:///F:/DataAnalytics/dfs/data
这两个文件夹一定需要是已经存在的文件夹，你可以在你的hadoop文件夹下随意创建两个文件夹，然后将下面的这两个文件夹的绝对路径替换成你的文件夹，这里我也是创建了两个新的文件夹，hadoop的下载文件夹里本身是没有的。
<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> <property> <name>dfs.name.dir</name> <value>file:///F:/DataAnalytics/dfs/namespace_logs</value> </property> <property> <name>dfs.data.dir</name> <value>file:///F:/DataAnalytics/dfs/data</value> </property> </configuration>
将下方的%USERNAME%替换成你windows的用户名！！！这个十分重要，不要直接复制！！！
<configuration> <property> <name>mapreduce.job.user.name</name> <value>%USERNAME%</value> </property> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> <property> <name>yarn.apps.stagingDir</name> <value>/user/%USERNAME%/staging</value> </property> <property> <name>mapreduce.jobtracker.address</name> <value>local</value> </property> </configuration>
修改为如下所示：
<configuration> <property> <name>yarn.server.resourcemanager.address</name> <value>0.0.0.0:8020</value> </property> <property> <name>yarn.server.resourcemanager.application.expiry.interval</name> <value>60000</value> </property> <property> <name>yarn.server.nodemanager.address</name> <value>0.0.0.0:45454</value> </property> <property> <name>yarn.nodemanager.aux-services</name> <value>mapreduce_shuffle</value> </property> <property> <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name> <value>org.apache.hadoop.mapred.ShuffleHandler</value> </property> <property> <name>yarn.server.nodemanager.remote-app-log-dir</name> <value>/app-logs</value> </property> <property> <name>yarn.nodemanager.log-dirs</name> <value>/dep/logs/userlogs</value> </property> <property> <name>yarn.server.mapreduce-appmanager.attempt-listener.bindAddress</name> <value>0.0.0.0</value> </property> <property> <name>yarn.server.mapreduce-appmanager.client-service.bindAddress</name> <value>0.0.0.0</value> </property> <property> <name>yarn.log-aggregation-enable</name> <value>true</value> </property> <property> <name>yarn.log-aggregation.retain-seconds</name> <value>-1</value> </property> <property> <name>yarn.application.classpath</name> <value>%HADOOP_CONF_DIR%,%HADOOP_COMMON_HOME%/share/hadoop/common/*,%HADOOP_COMMON_HOME%/share/hadoop/common/lib/*,%HADOOP_HDFS_HOME%/share/hadoop/hdfs/*,%HADOOP_HDFS_HOME%/share/hadoop/hdfs/lib/*,%HADOOP_MAPRED_HOME%/share/hadoop/mapreduce/*,%HADOOP_MAPRED_HOME%/share/hadoop/mapreduce/lib/*,%HADOOP_YARN_HOME%/share/hadoop/yarn/*,%HADOOP_YARN_HOME%/share/hadoop/yarn/lib/*</value> </property> </configuration>
在windows下的cmd，输入cmd的命令，用于初始化环境变量。hadoop-env.cmd后缀为cmd，说明是cmd下可执行的文件：
%HADOOP_HOME%\etc\hadoop\hadoop-env.cmd
12.格式化文件系统（File System）
这个命令在整个hadoop的配置环境和之后的使用当中务必仅使用一次！！！！不然的话后续会导致hadoop日志损坏，NameNode无法开启，整个hadoop就挂了！
将如下的命令输入到cmd当中进行格式化：
hadoop namenode -format
输出：
2018-02-18 21:29:41,501 INFO namenode.FSImage: Allocated new BlockPoolId: BP-353327356-172.24.144.1-1518949781495
2018-02-18 21:29:41,817 INFO common.Storage: Storage directory F:\DataAnalytics\dfs\namespace_logs has been successfully formatted.
2018-02-18 21:29:41,826 INFO namenode.FSImageFormatProtobuf: Saving image file F:\DataAnalytics\dfs\namespace_logs\current\fsimage.ckpt_0000000000000000000 using no compression
2018-02-18 21:29:41,934 INFO namenode.FSImageFormatProtobuf: Image file F:\DataAnalytics\dfs\namespace_logs\current\fsimage.ckpt_0000000000000000000 of size 390 bytes saved in 0 seconds.
2018-02-18 21:29:41,969 INFO namenode.NNStorageRetentionManager: Going to retain 1 images with txid >= 0
由于windows下想要开启集群，会有一定的bug，因此我们去网站：https://github.com/steveloughran/winutils
下载对应版本的 winutils.exe 文件。打开这个Github仓库后如下所示：
我们打开hadoop2.8.3/bin，选择其中的 winutils.exe 文件进行下载，然后将下载的这个文件放入到本地的hadoop/bin文件当中。不然的话，你打开一会儿你的伪分布式集群，马上hadoop就会自动关闭，缺少这两个文件的话。
我本地的bin文件最终如下所示：
下面就是最激动人心的开启hadoop集群了！！！！我们在cmd当中输入：
C:\Users\lenovo>%HADOOP_HOME%/sbin/start-all.cmd This script is Deprecated. Instead use start-dfs.cmd and start-yarn.cmd starting yarn daemons
这样就会跳出来很多黑色的窗口，如下所示：
然后可以使用JPS工具查看目前开启的node有哪些，如果出现namenode，datanode的话说明集群基本上就成功了。如下所示：
我们在浏览器输入localhost:50070,如果能够打开这样的网页，说明hadoop已经成功开启：
接下来就可以开始IDEA的配置了
打开IDEA之后，里面的参数和项目工程名称随便写，等待工程创建完毕即可。然后我们编辑pom.xml文件，如下所示：
<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <groupId>com.atguigu</groupId> <artifactId>hdfs1205</artifactId> <version>1.0-SNAPSHOT</version> <properties> <maven.compiler.source>8</maven.compiler.source> <maven.compiler.target>8</maven.compiler.target> </properties> <dependencies> <dependency> <groupId>junit</groupId> <artifactId>junit</artifactId> <version>RELEASE</version> </dependency> <dependency> <groupId>org.apache.logging.log4j</groupId> <artifactId>log4j-core</artifactId> <version>2.8.2</version> </dependency> <dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-common</artifactId> <version>2.10.1</version> </dependency> <dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-client</artifactId> <version>2.10.1</version> </dependency> <dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-hdfs</artifactId> <version>2.10.1</version> </dependency> </dependencies> </project>
因为我使用了2.10.1版本，因此导入的包均为2.10.1，除了log4j，这个是固定的2.8.2版本的。
然后点击我箭头指向的同步maven仓库，如下所示：
同步完成之后，IDEA左边的external libararies处就会显示大量的有关hadoop的jar包，如下所示：
这样就说明我们导入maven仓库成功了。
现在我们开始编写代码，在开启hadoop伪分布式集群之后，代码才可以运行哦！
代码如下所示：
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileStatus;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import java.net.URI;
public class Test {
public static void main(String[] args) throws Exception {
FileSystem fs = FileSystem.get(new URI("hdfs://127.0.0.1:9000"), new Configuration());
FileStatus[] files = fs.listStatus(new Path("/"));
for (FileStatus f : files) {
System.out.println(f);
}
System.out.println("Compile Over");
}
}这段代码的含义是遍历hadoop文件系统(HDFS)下的root下所有文件的状态，并输出，由于我目前并没有在HDFS下put了任何文件，因此不会有输出，出现这样的输出，说明代码代码运行成功：
以上就是怎么在Windows环境中使用IDEA配置一个Hadoop开发环境，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注亿速云行业资讯频道。
免责声明：本站发布的内容（图片、视频和文字）以原创、转载和分享为主，文章观点不代表本网站立场，如果涉及侵权请联系站长邮箱：is@yisu.com进行举报，并提供相关证据，一经查实，将立刻删除涉嫌侵权内容。