安全日志记录着企业服务器、云基础设施、应用程序等的全部执行过程,对日志数据进行追溯分析,可以准确清晰地了解企业IT设施状况、排查安全隐患、检索故障源头等。
随着企业规模增长、数字化程度加深和安全设备的增加,安全日志数量呈指数级增长,而企业现行的日志处理平台在应对今天动辄PB级别的安全日志时,要么是需要支付非常高昂的授权费和专业人力成本,要么是性能瓶颈无法支撑PB级别体量的日志处理。
如何采用一套新的架构,能支撑企业在PB级别的数据里实现秒级查询,同时成本又可控?
9月20日,腾讯安全发布全新一代云原生安全数据湖,专注海量日志数据分析,助力企业构建一体化云原生数据湖平台,迈向主动安全。据悉,在同等数据规模下,该产品的硬件成本仅为同类开源软件的1/10,此外在查询性能特别是聚合查询性能方面有了成倍的提升,能实现PB级日志的秒级查询。
“目前企业的日志处理平台普通使用开源大数据ELK等组件快速搭建,以收集告警数据为主,分析数据不全,而且执行长周期数据查询需要分钟级甚至小时级等待,而网络安全是实时对抗的,任何以‘小时’为单位的数据分析产品肯定都不适用。”腾讯安全大数据实验室研究员杨浚宇表示。
两年前,腾讯安全在服务客户过程中发现,客户普遍反应遇到日志存储成本攀升、查询效率低下的问题,因此腾讯安全大数据实验室基于多年的大数据分析处理能力,前后花费两年时间自主研发了一款面向云原生的安全数据湖产品。
腾讯云原生安全数据湖是基于云原生的自研数据分析平台,利用日志数据无需修改、大量字段重复、有时间戳等特性进行了几大创新:
●架构:MPP架构,采用Rust语言开发,针对日志及安全场景进行专项优化
●降本:使用列存储实现压缩比,无索引架构避免索引开销
●一体化引擎:通过原子能力实现数据处理、查询、存储、分析一体化
●插件式扩展:通过SQL/SPL语句支持不同分析场景,支持“插件式”扩容
●易运维:面向云原生架构实现存算分离、读写分离、从而实现一键弹性扩容,故障秒级切换
依托上述技术创新,腾讯云原生安全数据湖实现了的压缩比和数据处理效率,能将企业的安全运营存储成本降低90%;在底层架构上面向云原生设计,支撑多实例、多用户,能根据企业的实际需求实现弹性扩容。
此外,腾讯云原生安全数据湖支持泛安全数据接入、加工、存储、分析、告警、可视化等服务,还具备“插件化”应用开发能力,企业用户可根据需求定制上层应用,并通过平台+APP+合作伙伴构建完整的日志应用生态体系,全面赋能各类安全场景。
目前,该数据湖已经集成在腾讯安全SOC+产品下,为企业安全运营管理提供基座。未来,腾讯安全还会对外提供独立产品,助力企业构建云原生安全数据湖平台。
面向智能化时代,安全运营与管理是企业的安全免疫中枢系统,而安全大数据的智能分析能力将成为企业迈向智能安全的基础。腾讯安全的安全运营产品矩阵始终围绕一件事情,就是如何为客户创造价值。未来,腾讯安全将持续开放技术原子能力,把腾讯的技术融合在企业现有的安全能力中,为千行百业的安全实践注入数字安全免疫力。
免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.
精彩推荐
-
采购拿回扣问题,教你一个小妙招,看看怎么做!
2017-09-18 11:09 广告 阅读
-
苦逼的老板,教你一个小妙招,怎么防采购拿回扣!
2017-09-18 11:09 广告 阅读
-
传播易上线视频制作频道
2020-11-18 14:03:07 更新 阅读
-
尖货爆料!速来【数码预爆台】领取618福利和AI新
2024-06-21 18:33:22 更新 阅读
-
喜获国际设计大奖丨十字勋章减重大师Pro商务背包
2024-06-12 14:04:28 更新 阅读
-
Baseus倍思音频品鉴会:一场产品与技术的对话
2024-05-29 11:13:32 更新 阅读
-
212携手极致军工品质,焕新出发
2024-05-22 21:16:00 更新 阅读
-
第四届全球应用算法BPAA大赛再度升级,增添三大
2024-05-17 17:55:36 更新 阅读
-
三维天地助力实验室质量管理工作无纸化、流程化
2024-05-09 15:35:04 更新 阅读