SEO外包平台,我们为您提供专业的企业网站SEO整站优化外包服务 SEO设置

SEO外包平台

专注于企业网站SEO整站优化外包服务

日志分析系列(一):介绍篇

作者:jcmp      发布时间:2021-04-19      浏览量:0
本系列故事纯属虚构,如有雷同实属巧合小B

本系列故事纯属虚构,如有雷同实属巧合

小B是Q公司的安全攻城狮,最近Q公司不太平,出现了好几次的安全攻击事件。可在事后小B却找不到被攻击的真正原因,于是领导下命令给小B,必须做到对攻击事件的检测与溯源,不然就可以卷铺盖回家了。

听到此话的小B冷汗连连,找到最近几次攻击的记录文档,认真剖析未发现真相的原因,总结如下:

找到了原因,小B就知晓了要想解决这些问题,就必须实现统一日志分析平台。拥有了这个平台,那么在下一次面对攻击时就不会那么两眼一抹黑了。

一、小B说目的

建设统一日志分析平台,小B需要先向领导汇报得到领导的支持。首要就是向领导说明搭建统一日志分析平台的目的。

日志分析在企业内部是一项很基础的核心技术,不光运用在安全团队中,还运用在IT研发团队、业务团队中。不同的是目的:

日志躺在硬盘中毫无价值,通过日志分析技术能实现日志信息的价值化。日志价值体现程度越高,也能变相反映公司的技术实力。

二、日志分析的更新换代

日志分析并不是一项新颖的技术了,虽然现在有人给它换了很多新衣。但是对于只有较小安全团队的公司来说,不要追求高大上的地图炮,需要的是实际解决问题的思路或工具,哪怕是一段只有20行的命令脚本都可以。从古至今,小B将日志分析经历划分成了4个时代:

石器时代: 这个时代大家在做日志分析的时候更多依靠的是Excel、终端命令(awk、grep、sort、uniq、wc等)。在这里推荐大家阅读 Web日志安全分析技巧 与 Web日志安全分析浅谈 ,其中提到了关于使用命令来进行安全分析的案例。

铁器时代: 这个时代大家在做日志分析的时候更多依靠的是脚本工具(自写工具)、简易交互式工具(logwatch、logparser)等。

工业时代: 这个时代大家在做日志分析的时候相比前两个时代已经有了太多的进步了,各种开源、免费、付费的软件可供选择,比如:Elastic系列、Splunk、ArcSight等等。

未来时代: 这个时代大家在做日志分析的时候我不知道会用到什么,但是从目前来看, 机器学习、人工智能 应该是核心之一。

小B是这么认为的:不论我们处在哪个时代,过去的思路与工具都有着不可替代之处。因为那是一个时代经历了优胜劣汰之后留下的优秀产物,本质上新时代的产品也是经历史长河演变而来。(内心OS:有小部分的工具或系统是辣鸡的,大家慎用!)。

三、如何实现统一日志分析平台

四、统一日志分析架构

实现统一日志分析平台在不同企业中各不相同。主要表现在:平台对企业的适用性、企业自身的技术能力、技术团队对产品的优劣选择不同等。但是核心的架构基本还是如下图所示:

五、实现统一日志分析难点

小B作为一个安全工程师,理所当然的认为安全是最重要的(其实这是错误的),但是小B也会灵活变通勾兑IT研发团队、业务团队一起推动,人多力量大。虽然大家的分析目的不一致,但是统一日志分析平台架构是大家都需要的。

六、安全场景下的分析思路

如果硬要给安全场景分类的话,小B会分为:已知场景和未知场景。在已知场景中,我们常用的分析手法包括:基于正则表达式分析、基于统计聚合分析、基于关联分析;在未知场景中,我们使用的分析方法主要是数据挖掘,从数据中挖掘未知的东西。

七、基于正则表达式分析

此类的分析方法主要适用于常见带有特征的攻击场景,比如:

八、基于统计与聚合分析

此类的分析方法是:尽可能在不同维度下进行统计与聚合,根据统计聚合结果挖掘有价值的信息。最常见的就是分析场景就是:单位时间内的某个客户端对某个服务端的操作信息。

九、基于关联分析

此类的分析方法,需要有一定的基础数据,通过关联分析来举一反三,比如。

十、数据挖掘分析

日志分析的思路:思考各种场景,合理利用已有信息与可获取信息从而让信息产生价值。

十一、优化日志平台

统一日志分析平台不是简单的有一套系统,做个大屏biubiubiu就完事了的。搭建日志分析平台是一项集技术、沟通~~撕逼~~、运营的老大难项目,50%的人死在了起点、30%的人死在了中途、15%的人死在了成功的前一步,只有5%的人做好了这个平台。

日志分析坑太多,如果领导支持人力与财力,就可以考虑买一套产品再有人来维护是最好的状态!如果领导不支持人力与财力,算了吧!利用运维的东西做一做也挺好。

统一日志分析平台的工作在小B看来可以简单分为2个阶段:

对于平台优化又可以简单细分为(小B能想到的就这么多):

关键是:持续运营,能力沉淀、数据沉淀

以上就是小B给领导汇报关于统一日志分析平台立项报告中的一些关键点了。

也许是因为开篇吧,十分不好写!日志分析这个话题以小B目前的水平也很难写的深入,大家将就看一下。

下一篇:小B就要开始实现统一日志分析平台了!