关闭Spark的自动广播参数可以通过设置spark.sql.autoBroadcastJoinThreshold
参数为一个较大的值或者设置为-1来禁用自动广播。具体的操作步骤如下:
--conf
选项来设置spark.sql.autoBroadcastJoinThreshold
参数的值。例如:./bin/spark-submit --conf spark.sql.autoBroadcastJoinThreshold=-1 --class your_main_class your_spark_application.jar
spark.sql.autoBroadcastJoinThreshold
参数的值。例如:val spark = SparkSession.builder()
.appName("YourAppName")
.config("spark.sql.autoBroadcastJoinThreshold", -1)
.getOrCreate()
通过以上两种方式设置spark.sql.autoBroadcastJoinThreshold
参数的值为-1,即可关闭Spark的自动广播参数。