flink hdfs

flink怎么读取hdfs文件

小亿
341
2024-04-15 10:30:08
栏目: 大数据
开发者专用服务器限时活动,0元免费领! 查看>>

在Flink中读取HDFS文件通常使用TextInputFormat类。下面是一个简单的示例代码,演示如何使用Flink读取HDFS文件:

import org.apache.flink.api.java.ExecutionEnvironment;
import org.apache.flink.core.fs.Path;

public class ReadFromHDFS {
    public static void main(String[] args) throws Exception {
        final ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

        String hdfsPath = "hdfs://localhost:9000/path/to/your/file.txt";
        
        env.readTextFile(hdfsPath).print();
    }
}

在上面的代码中,我们首先创建了一个ExecutionEnvironment对象,然后指定了要读取的HDFS文件的路径,并使用readTextFile方法读取文件内容并打印出来。

请确保在编译和运行代码时,classpath中包含必要的Flink库和Hadoop库。

亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>

相关推荐:scala怎么读取hdfs文件

0
看了该问题的人还看了