spark编程怎么应用

发布时间:2022-01-14 16:50:40 作者:iii
来源:亿速云 阅读:131

今天小编给大家分享一下spark编程怎么应用的相关知识点,内容详细,逻辑清晰,相信大部分人都还太了解这方面的知识,所以分享这篇文章给大家参考一下,希望大家阅读完这篇文章后有所收获,下面我们一起来了解一下吧。

启动spark-shell:

spark编程怎么应用

spark编程怎么应用

上述代码中使用的sc,这是Spark-Shell帮助我们自动生成的SparkContext的实例:

spark编程怎么应用

上述的操作都是transformations我们需要触发一个action才能执行:

spark编程怎么应用

我们可以看到预期结果,但我们可以看到collect操作返回的是一个Array,所以数据不要太多,否则会出现OOM

下面执行下filter操作:

spark编程怎么应用

spark编程怎么应用

以上就是“spark编程怎么应用”这篇文章的所有内容,感谢各位的阅读!相信大家阅读完这篇文章都有很大的收获,小编每天都会为大家更新不同的知识,如果还想学习更多的知识,请关注亿速云行业资讯频道。

推荐阅读:
  1. Spark的安装和基础编程
  2. Spark-SQL的具体编程场景

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

spark

上一篇:如何解决Mysql导入大容量SQL文件数据问题

下一篇:springboot整合quartz定时任务框架的方法是什么

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》