美文网首页
heka+kafka遇到的一个小问题~

heka+kafka遇到的一个小问题~

作者: 代兰芬 | 来源:发表于2015-05-19 18:04 被阅读0次

最近一段时间,在尝试使用heka读取本机的日志文件,向kafka集群发送日志消息

具体的方式是,kafka使用单broker用来功能验证,heka使用自带的kafka插件,hekad的配置如下

[LogstreamerInput]

log_directory = "/data1/www/logs"

file_match = 'recom\.i\.weibo\.com-access_log'

[PayloadEncoder]

append_newlines = false

[FxaKafkaOutput]

type = "KafkaOutput"

message_matcher = "TRUE"

topic = "recom_i"

addrs = ["10.75.5.27:9092"]

encoder = "PayloadEncoder"

启动hekad,hekad -config="/etc/hekad.toml"

会报错,说连不上broker,而broker这个时候明明是好的,看了一下heka的kafka这个plugin的code,其实配置里addrs这个数组是直接传给了kafka的golang客户端sarama,因此转而看了看sarama的客户端,恍然大悟,原来在heka和broker开始建立通信的时候使用ip是没有问题的,但是sarama里面是通过broker去访问kafka依赖的zookeeper,进而从zookeeper里的metadata里面获取到了10.75.5.27这个机器的host是talus27,在接下来的向kafka的broker发布消息的通信中,由于无法解析talus27这个hostname而报发送失败

解决的办法很简单,在heka的机器的/etc/hosts文件中添加一行

10.75.5.27   talus27

就搞定了~

相关文章

  • heka+kafka遇到的一个小问题~

    最近一段时间,在尝试使用heka读取本机的日志文件,向kafka集群发送日志消息 具体的方式是,kafka使用单b...

  • 92/100 第二个小问题

    第一个小问题,是遇到一个不听话的下属, 第二个小问题,是旅游遇到的一些小问题。

  • 遇到的小问题

    起初做这个项目时,IDEA 无法下载jar包,这个maven本地仓库使用已经很久了,从没出现过这样的情况。我首先...

  • 遇到的小问题

    collectionView没有反弹效果,设置_collectionView.alwaysBounceVertic...

  • 遇到的小问题

    Several ports (8005, 8080, 8009) required by Tomcat v8.5 ...

  • admin后台管理界面——simpleui

    遇到点小问题:

  • hover做下拉菜单练习

    一个小小的下拉菜单练习。做的时候遇到很多小问题,发现都是由于基础知识没完全掌握好才会一个小问题纠结很久。说下我遇到...

  • redux遇到的一个小问题

    今天正好遇到一个问题,使用redux, 传递数据,提示出错了 ,显示stack size exceed,最终发现原...

  • 报错'$' is not defined no

    我们来解决一个小问题吧。在React怎样引入jQuery。不断会有人遇到一些小问题,卡在上面N久,所以小问题也写下...

  • gitlab遇到的小问题

    写在前面 最近由于将项目从svn转到gitlab遇到的小问题困扰了我一天。始终无法集成进去,我将我遇到的问题记录下...

网友评论

      本文标题:heka+kafka遇到的一个小问题~

      本文链接:https://www.haomeiwen.com/subject/xtulqttx.html