flink hdfs

flink怎么读取hdfs文件

小亿
317
2024-04-15 10:30:08
栏目: 大数据

在Flink中读取HDFS文件通常使用TextInputFormat类。下面是一个简单的示例代码,演示如何使用Flink读取HDFS文件:

import org.apache.flink.api.java.ExecutionEnvironment;
import org.apache.flink.core.fs.Path;

public class ReadFromHDFS {
    public static void main(String[] args) throws Exception {
        final ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();

        String hdfsPath = "hdfs://localhost:9000/path/to/your/file.txt";
        
        env.readTextFile(hdfsPath).print();
    }
}

在上面的代码中,我们首先创建了一个ExecutionEnvironment对象,然后指定了要读取的HDFS文件的路径,并使用readTextFile方法读取文件内容并打印出来。

请确保在编译和运行代码时,classpath中包含必要的Flink库和Hadoop库。

0
看了该问题的人还看了