向spark集群提交消费kafka应用时kafka鉴权配置问题

发布时间:2020-05-30 14:55:12 作者:zbzbzb022
来源:网络 阅读:2117

提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。

需要初始化kafka时增加properties属性。


kafkaParams.put("sasl.jaas.config", "xxxx required\n"+
                " accessKey=\"xxxx\"\n"+
                " securityKey=\"xxxxx\";");

换行,冒号,引号都不能少


注意kafka的依赖为:

    <dependency>
      <groupId>org.apache.kafka</groupId>
      <artifactId>kafka-clients</artifactId>
      <version>1.0.0</version>
     </dependency>


    同时要去掉spark-streaming-kafka中的kafka依赖


    <!-- 去掉kafka 0.10.0.1 的依赖-->
      <dependency>
          <groupId>org.apache.spark</groupId>
          <artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
          <version>2.3.1</version>
          <exclusions>
          <exclusion>
           <groupId>org.apache.kafka</groupId>
           <artifactId>kafka-clients</artifactId>
          </exclusion>
          </exclusions>
      </dependency>

推荐阅读:
  1. 如何在项目中使用spring-kafka操作消费kafka?
  2. rockermq & kafka 消费限制

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

spark kafka sasl.jaas.config

上一篇:简单粗暴理解什么叫大数据、O2O、蓝海、红海、互联网思维、众筹

下一篇:基础不牢,地动山摇-----------OSI七层模型

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》