idea中如何远程调试spark

发布时间:2021-06-11 15:30:11 作者:Leah
来源:亿速云 阅读:701

idea中如何远程调试spark,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。

spark 远端调试

本地调试远端集群运行的spark项目,当spark项目在集群上报错,但是本地又查不出问题时,最好的方式就是调试一步一步跟踪代码。但是在集群上的代码又不能像本地一样的调试。那么就试试这个调试方法吧。

远程调试spark其实就四步:

首先

首先了解jvm一些参数属性

-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888

这里对上面的几个参数进行说明:

第一步 将jar包拷贝到集群

将spark 项目打jar包, 将jar包放到集群master节点上;

第二步 配置idea

编辑idea配置:

点击小三角,选择:edit Configurations 如图

idea中如何远程调试spark

添加一个remote 配置

idea中如何远程调试spark

配置远端地址和端口 (此处配置的是 远端master 节点的地址)

idea中如何远程调试spark

第三步 远端启动spark项目

在集群启动要调试的spark项目。命令如下:

/tmp/mySpark.jar 为你sprak 项目在集群master上的位置

spark-submit --class WordCount --master spark://192.168.100.xx:7077 --driver-java-options "-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888" /tmp/mySpark.jar

也可在conf/spark-env.sh这个文件最后加入(不过没有进行实际测试)

export SPARK_JAVA_OPTS+="-Xdebug -Xrunjdwp:transport=dt_socket,server=y,suspend=y,address=8888"

如图进入监听:

idea中如何远程调试spark

第四步 启动idea

启动idea 的debug 模式就会进入断点。

idea中如何远程调试spark

看完上述内容是否对您有帮助呢?如果还想对相关知识有进一步的了解或阅读更多相关文章,请关注亿速云行业资讯频道,感谢您对亿速云的支持。

推荐阅读:
  1. 在IDEA中编写spark程序
  2. 基于IDEA使用Spark API开发Spark程序

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

idea spark

上一篇:java中多态机制原理的示例分析

下一篇:TensorFlow显存使用机制的示例分析

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》