向spark集群提交消费kafka应用时kafka鉴权配置问题

提交消费kafka应用里面包含sasl.jaas.config,通常需要配置文件。但是打成jar包后的应用,通过classload读不到jar包中配置文件。

需要初始化kafka时增加properties属性。

kafkaParams.put("sasl.jaas.config", "xxxx required/n"+
                " accessKey=/"xxxx/"/n"+
                " securityKey=/"xxxxx/";");

换行,冒号,引号都不能少

注意kafka的依赖为:

    <dependency>
      <groupId>org.apache.kafka</groupId>
      <artifactId>kafka-clients</artifactId>
      <version>1.0.0</version>
     </dependency>

    同时要去掉spark-streaming-kafka中的kafka依赖

    <!– 去掉kafka 0.10.0.1 的依赖–>
      <dependency>
          <groupId>org.apache.spark</groupId>
          <artifactId>spark-streaming-kafka-0-10_2.11</artifactId>
          <version>2.3.1</version>
          <exclusions>
          <exclusion>
           <groupId>org.apache.kafka</groupId>
           <artifactId>kafka-clients</artifactId>
          </exclusion>
          </exclusions>
      </dependency>

原创文章,作者:kepupublish,如若转载,请注明出处:https://blog.ytso.com/187238.html

(0)
上一篇 2021年11月5日
下一篇 2021年11月5日

相关推荐

发表回复

登录后才能评论