推荐学习书目
› Learn Python the Hard Way
Python Sites
› PyPI - Python Package Index
› http://diveintopython.org/toc/index.html
› Pocoo
值得关注的项目
› PyPy
› Celery
› Jinja2
› Read the Docs
› gevent
› pyenv
› virtualenv
› Stackless Python
› Beautiful Soup
› 结巴中文分词
› Green Unicorn
› Sentry
› Shovel
› Pyflakes
› pytest
Python 编程
› pep8 Checker
Styles
› PEP 8
› Google Python Style Guide
› Code Style from The Hitchhiker's Guide
meowoo
V2EX  ›  Python

想写一个日志分析工具,有没有好的轮子

  •  
  •   meowoo · Sep 11, 2018 · 4811 views
    This topic created in 2984 days ago, the information mentioned may be changed or developed.

    主要内容就是,分析应用重启阶段的日志,判断是否有异常之类的。

    要正则匹配关键字处理么? 看了几个都是这样简单的处理的。

    大家有什么好想法么, 或者有什么现成的轮子用。

    limbo0
    limbo0
    Sep 11, 2018 via Android
    1
    多大的日志,试试 logstash
    meowoo
    meowoo
    OP
    Sep 11, 2018
    2
    @limbo0 一般都是几 M 到几十 M 应用的重启日志,spring bot,weblogic,tomcat,等中间件的日志

    我先看下 谢谢
    billzhuang
    billzhuang
    Sep 11, 2018
    3
    ELK 或者用 EL + Grafana
    meowoo
    meowoo
    OP
    Sep 11, 2018
    4
    @billzhuang 感觉有些庞大了,现在的工具是远程执行重启命令,打印出来的内容会保存在本地,然后分析这份重启日志判断应用是否正常启动。有没有轻量级的推荐,主要想要的就是,给一个 log 文件,分析是否有报错,谢谢
    qq976739120
    qq976739120
    Sep 11, 2018
    5
    filebeat+es+kibana logstash 实在是太重了
    HFcbyqP0iVO5KM05
    HFcbyqP0iVO5KM05
    Sep 11, 2018 via Android
    6
    只是需要分析报错的话,要不试试 sentry ?
    d0m2o08
    d0m2o08
    Sep 11, 2018 via iPhone
    8
    轻量的 graylog 了解一下,elk 实在太笨重,数据量不大没必要
    baojiweicn2
    baojiweicn2
    Sep 11, 2018 via iPhone
    9
    senty,elk 都挺好的
    aimiyooo
    aimiyooo
    Sep 11, 2018
    10
    elk+1
    xpresslink
    xpresslink
    Sep 11, 2018
    11
    就这么简单的事情还要轮子。

    直接用 python 撸个脚本就可以了,直接 os.popen('grep -E "regex" filename') 或者 os.popen('zgrep -e "regex" filename.gz')

    其实这样弄比直接用 python 处理要快得多,grep/zgrep 是 C 写的还支持文件通配。

    推荐 open falcon,ELK
    meowoo
    meowoo
    OP
    Sep 12, 2018 via iPhone
    12
    @xpresslink 我自己是准备这样搞得,就想看看有没有好轮子用
    Livid
    Livid
    MOD
    PRO
    Sep 12, 2018 via iPhone
    13
    geelaw
    geelaw
    Sep 12, 2018
    14
    Get-Item '你的日志文件' | Select-String '你的正则表达式' | Out-GridView
    hearfish
    hearfish
    Sep 12, 2018
    15
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   2492 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 46ms · UTC 11:00 · PVG 19:00 · LAX 03:00 · JFK 06:00
    ♥ Do have faith in what you're doing.