flink原理和基本功能是什么

发布时间:2021-11-23 14:05:46 作者:柒染
来源:亿速云 阅读:234

flink原理和基本功能是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

有界与无界

有界数据集

无界数据集

flink接口结构

FLink SQL

Flink Table

DataStream

Stateful Stream Processing API

程序结构 DataStream API

  1. 设定运行环境,支持动态(本地和线上)启动、本地启动、远程线上启动三种。

StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();
//指定处理方式批处理、流处理、自适应
env.setRuntimeMode(RuntimeExecutionMode.AUTOMATIC);
  1. 指定数据源

DataSet<String> text = env.readTextFile("/path/to/file");
  1. 操作数据集

DataSet<Tuple2<String, Integer>> counts =
        text.flatMap(_.toLowerCase.split(" ")) //实行map转换
        .filter(_.nonEmpty)  //过滤控制
        .map((_,1)) //执行map转换,转换为key-value 
        .keyBy(0)  //按照指定第一个字段key进行分区,
        .sum(1); //分区后按第二个字段求和
  1. 指定结果输出

counts.writeAsCsv(outputPath, "\n", " ");
  1. 指定名称并触发

 env.execute("Streaming Count");

数据类型

原生数据类型

java Tuples

scala Case class

POJOs类型

Flink Value类型

特殊数据类型

Flink作为新一代计算引擎,在实时计算领域有着及其重要的地位,同时也有这复杂的概念,时间窗口、水位线等,学习并理解成本不低。

看完上述内容,你们掌握flink原理和基本功能是什么的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注亿速云行业资讯频道,感谢各位的阅读!

推荐阅读:
  1. 三、flink--DataStreamAPI原理以及用法
  2. 一、flink--架构、运行、调度原理

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

flink

上一篇:jquery如何停止某个函数执行

下一篇:c语言怎么实现含递归清场版扫雷游戏

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》