【总结】filebeat进程写满磁盘的情况处理

发布时间:2020-07-21 01:55:05 作者:巧克力黒
来源:网络 阅读:6528

采用filebeat收集日志,日志文件频繁rotate,造成filebeat占用文件不释放,只要filebeat保持着被删除文件Open状态,操作系统就不释放磁盘空间,导致可用磁盘空间逐渐减小。如下监控图,杀掉filebeat进程之后,磁盘占用陡然下降。

【总结】filebeat进程写满磁盘的情况处理

使用lsof命令查看filebeat保持着的文件资源,可以发现许多被filebeat占用空间的失效文件(deleted)文件。


【总结】filebeat进程写满磁盘的情况处理

deleted状态的文件没有释放,始终占据磁盘空间


解决办法:

查看filebeat配置文件位置: /etc/filebeat/filebeat.yml

【总结】filebeat进程写满磁盘的情况处理

在配置文件中添加close_timeout: 5m,保证每隔5分钟file handler被关闭,不管是否遇到EOF符号。

需要注意的是,该close_timeout参数在Filebeat没有处理到文件末尾而文件被删除的情况下,会导致数据丢失。

filebeat.prospectors:
- type: log
   paths:
    - /opt/apps/ecm/service/storm/1.0.1/package/apache-storm-1.0.1/logs/workers-artifacts/xyz*/*/worker.log
   tail_files: false
   force_close_files: true
   close_timeout: 5m
processors:
- add_cloud_metadata: ~
output.logstash:
   hosts: ["10.10.10.10:6667"]
   loadbalance: true
   worker: 1

-----------------------------------------------------------------

close_rename,close_removed,close_eof,close_inactive等配置型对于(deteled)状态处理均无效(已测试验证)

推荐阅读:
  1. filebeat nginx 日志处理配置
  2. oracle 11g archivelog写满怎么办

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

大数据 其他 bea

上一篇:安卓飞机大战(八) 添加视频文件

下一篇:FlappyBird实现(一)逻辑

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》