您好,登录后才能下订单哦!
如何进行spark-shell的学习,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。
今天我就给大家介绍一下spark-shell的的应用
spark-shell是spark的一种运行脚本。它已经初始化了sparkContext(sc)和SparkSesssion(Spark)
大家可以到spark的安装路径下
bin/spark-shell
出现上图就说明正确。下面就可以操作spark了
注意spark用的是scala语言
val text = sc.textFile("/usr/wordcount.txt")
text.count()
运行结果如果所示。注意这里我们是加载的本地文件,不是hdfs文件
下面我们对hdfs文件进行操作。写出wordcount程序
首先,先上传文件到hdfs
./hdfs dfs -put /usr/a.txt /user/spark
然后对数据进行操作
val text = sc.textFile("hdfs://192.168.153.11:9000/user/spark/a.txt")
val counts = text.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)
counts.saveAsTextFile("hdfs://192.168.153.11:9000/user/spark/wordcount")
下面一个也是计算PI的demo
关于如何进行spark-shell的学习问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注亿速云行业资讯频道了解更多相关知识。
免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。