消息队列之kafka(整合flume)

发布时间:2020-08-03 08:30:49 作者:原生zzy
阅读:452
开发者专用服务器限时活动,0元免费领! 查看>>

补充:在flume的的lib中已经有了kafka的依赖包,所以直接使用flume的配置文件即可。
这里举出kafka+flume的典型场景:(Kafka-----sink

source :netcat
channel:memory
sink:kafka sink

netcat-kafka.conf

#别名
a1.sources=s1
a1.channels=c1
a1.sinks=k1

#source
a1.sources.s1.type=netcat
a1.sources.s1.bind=192.168.5.0
a1.sources.s1.port=6666

#channel
a1.channels.c1.type=memory

#sink
a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = kafka_test  #传入的的主题
a1.sinks.k1.kafka.bootstrap.servers = hadoop02:9092  #kafka集群入口
a1.sinks.k1.kafka.producer.acks = 1   #消息确认级别
#指定压缩的类型
a1.sinks.k1.kafka.producer.compression.type = snappy

a1.sources.s1.channels=c1
a1.sinks.k1.channel=c1

最后启动flume的配置文件即可:
bin/flume-ng agent -n a1 -c conf -f conf/myconf/netcat-kafka.conf -Dflume.root.logger=INFO,console

官网地址:http://flume.apache.org/FlumeUserGuide.html#kafka-sink

亿速云「云服务器」,即开即用、新一代英特尔至强铂金CPU、三副本存储NVMe SSD云盘,价格低至29元/月。点击查看>>

推荐阅读:
  1. Flume+Kafka整合
  2. flume 整合kafka

开发者交流群:

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

kafka整合flume 列之 kafk

上一篇:红黑树的插入及查找

下一篇:关于SystemProperies的注意事项

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》
开发者交流群×