大模型时代,安全行业如何为“新质生产力”保驾护航?

时事新闻2024-03-25 21:56:44无忧百科

大模型时代,安全行业如何为“新质生产力”保驾护航?


今年全国两会期间,“新质生产力”一词频繁出现,并首次出现在政府工作报告之中,成为当下科技行业热议的话题之一。

2023年初,ChatGPT火爆出圈,生成式AI将人工智能又一次推到了时代的风口浪尖,伴随着这波AI浪潮,大模型成为了各大科技公司发展的重要抓手。大模型对于数据安全而言,是把“双刃剑”——既带来了更大的安全挑战,又能为安全行业赋能AI的力量。

双重背景之下,安全行业将面临新一轮变革。

数据安全是流通、共享的前提

当下,数据已成为企业,乃至国家的重要资产,去年10月,国家数据局正式成立,数据要素市场化已经成为国民经济发展的重要抓手。但是数据流通与共享有一个重要的前提——数据安全,对此,绿盟科技集团首席技术官叶晓虎博士表示,数据要流动、共享、交换才能产生价值,但这一切要建立在数据安全,隐私被保护的基础之上,“新的发展形势下,传统的安全产品已经不能满足发展的要求,”叶晓虎博士明确,“企业需要根据数据的分类,分级建立防护体系,形成覆盖云网边端的形成一体化的安全能力。”

数据安全、隐私保护等问题已成为当下各行业企业关注的焦点,据IBM Security 发布的《2023年数据泄露成本报告》中显示,仅数据泄露一项,2023年全球数据泄露的平均成本达到445万美元,创该报告有史以来最高记录,较过去3年均值增长了15%。

而Ponemon Institute发布的《2022年网络攻击成本报告》中也指出,网络攻击平均每年给企业造成高达2843亿美元的损失,其中包括数据泄露、财务损失、恢复系统和名誉损失等方面的成本。

与此同时,根据IEEE调研显示,2024年将会出现其他更具威胁的网络安全问题,包括勒索软件攻击(2024年为37%,高于2023年的30%)、网络钓鱼攻击(2024年为35%,高于2023年的25%)以及内部威胁(2024年为26%,高于2023年的19%)。

数据安全已经成为数据共享和流通的基础保障。在数据共享和流通的过程中,大量敏感信息如个人隐私、商业机密等存在泄露的风险。如果没有有效的数据安全保护措施,这些数据可能会遭受非法获取、滥用或泄露,对个人、企业甚至国家造成重大损失。因此,确保数据安全是数据共享和流通的前提条件,只有在此基础上,才能实现数据的有效共享和流通。

有鉴于此,已经有不少企业布局相关技术和产品。就数据安全流通、共享来看,目前比较常见的技术是隐私计算,该技术作为保障数据安全流通的有效方式,已逐渐成为促进数据要素跨域流通和应用的核心技术,广泛应用于金融、通信、互联网、政务、医疗、制造、能源等诸多领域。

中国信通院牵头编写的《隐私计算白皮书(2022年)》中指出,近几年来,隐私计算在技术、应用和行业层面上都得到了快速发展,下一步应在性能提升、安全分级、互联互通等方面重点突破。未来,隐私计算将有助于构建数据流通的基础设施,在保证安全的前提下有效持续释放数据要素价值,促进数字经济高质量发展。

从市场角度出发,目前,涉足这一市场的公司主要分成四大阵营——专注做隐私计算的公司、安全公司、云计算公司以及有数据业务的传统企业。

以绿盟科技为代表的安全公司通过隐私计算平台、数据保险箱等实现数据的安全共享交换。这一系列产品的推出将为客户构建分类分级防护、“一监一查”的技术体系。

2023年世界互联网大会发布的领先科技奖成果集《科技之魅》中,由中国科学院微生物研究所、中国科学院计算机网络信息中心、绿盟科技集团、国家科技基础条件平台中心联合申报的“生物数据隐私计算平台”,凭借前沿的技术创新与便捷高效的数据安全共享,被收录于《科技之魅》关键技术组。

新质生产力带来了更多挑战与机遇

今年全国两会期间,“新质生产力”一词多次被提及,且首次出现在政府工作报告之中。“新质生产力”是创新起主导作用,摆脱传统经济增长方式、生产力发展路径,具有高科技、高效能、高质量特征,符合新发展理念的先进生产力质态。

新质生产力的发展也推动了以大数据、云计算、人工智能为代表的数字技术的发展及广泛应用。

随着这些数字技术进一步向各行业渗透,数据安全面临着越来越严峻的考验。叶晓虎博士对钛媒体表示,与过去相比,安全产品的能力和效率等方面均面临着更大的挑战。

新质生产力的高质量发展离不开高水平网络安全,只有实现安全产业的整体升级,才能支撑新质生产力的行稳致远。大数据、人工智能等数字技术与传统产业加速融合,为网络安全打开了更广大的市场空间,而产业的升级变革一定会从需求变化开始,以技术变革为路径,攻防能力、数据安全以及AI安全的进阶,将是未来网络安全的主战场,也是锻造高水平网络安全能力的重要突破口。

叶晓虎博士指出,“企业需要利用AI等技术,有效提升自身的安全防护等级。”

以无人机行业为例,无人机虽然仍处于行业发展的初期,但是发展速度很快,叶晓虎博士对钛媒体表示,无人机在各行业应用过程中就需要考虑很多安全风险问题,“以巡检无人机为例,如果无人机被竞争对手利用,不仅无法帮助企业达到降本增效的目的,还可能导致企业机密泄露等风险。”

显然,人工智能技术的发展虽然为企业带来了更大的便利性,但也带来了更多的安全挑战,比如利用AI驱动的网络攻击工具可以进行更快、更大规模网络攻击,Commvault亚太地区副总裁马丁·克里根 (Martin Creighan)曾对钛媒体表示,随着AI技术的快速发展,不法分子利用AI技术,可以更快速、更高效的对企业的网络造成威胁,企业在AI时代,数据安全将面临更大的挑战。

以目前技术发展来看,AIGC主要从三个方面给网络安全带来更大的挑战,分别是:恶意软件/网络攻击、分布式拒绝服务攻击,以及网络监控和隐私侵犯等;另一方面,企业在AIGC还面临着数据泄露、数据篡改/伪造等数据安全方面的挑战。

虽然AI的发展为企业安全带来了更大的挑战,不过企业可以“用魔法打败魔法”——AI在为不法分子提供更高效的攻击能力的同时,亦可以为企业提供更高效的防护能力。

以AI赋能安全运营是大力新质生产力背景下,企业提高安全防护效能,推动安全行业高质量发展的重要抓手。对此,叶晓虎博士强调,在安全事件研判分析、溯源、响应、处置等环节,利用AI赋能安全运营,可以有效帮助企业提升安全防护等级,“企业需要再安全闭环的各个环节寻找更好的工具,而AI的能力显然已经成为当下企业组建安全防护体系过程中不可或缺的一项技术。”叶晓虎博士如是说。

无独有偶,IEEE标准协会新标准立项委员会副主席兼IEEE数字金融与经济标准委员会主席林道庄也曾对钛媒体表示,虽然AI时代,企业面临着更大的网络安全和数据安全的挑战,但是在这个过程中,企业也可以充分应用AI的能力进行预警、防御,“通过AI自动学习识别,预测一些潜在的风险,并将这些风险自动隔离起来,”林道庄说,“通过AI的赋能,让企业级防火墙具备更强的应变能力。”

AI大模型已成安全行业发力点

如今,提到人工智能,不得不提的就是大模型。2023年,随着ChatGPT的火爆出圈,人工智能又一次站在了科技舞台的中央,这一次人工智能带来了AI大模型。

回看2023年,大模型等相关应用主要集中在“文生文”“文生图”等偏消费侧的应用,而这些应用还仅仅是大模型价值的冰山一角。大模型真正的价值将在未来逐步显现,那就是企业侧、行业侧的应用。

当然,这其中安全行业算是大模型应用落地比较快的行业之一。AI的能力已经成为当下企业组建安全体系不可或缺的能力,在叶晓虎看来,生成式AI将重塑安全新范式,而利用生成式AI发起的新型网络攻击将成为企业面临的重大威胁之一,大模型也成为当下企业用户关注的焦点话题之一。

以金融行业为例,金融行业对于安全的要求极高,且金融也是不法分子最爱攻击的行业之一,在此背景下,如何利用AI大模型的能力对抗不法分子的攻击成为当下关注的焦点。而企业可以利用机器学习等技术,对网络攻击的数据进行分析,并对访问等行为进行识别,提高效率的同时,还可以降低安全隐患。

在大模型日新月异的发展下,安全大模型已经成为众多安全厂商关键的发力点。

2023年,绿盟科技发布了风云卫大模型(NSFGPT),这是一套安全行业垂直领域大模型,基于海量安全专业知识训练和真实攻防数据分析,构建出的覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全辅助决策系统。该模型不仅可支持用户基于“知识问答”“安全运营”“威胁情报”三大场景进行智能决策和响应,更具备了分析研判处置自动化、渗透/评估自动化、检测规则自动生成等核心能力。同时,风云卫大模型正在与安全产品深度对接和融合,从声音、图片和视频通过自然语言间相互生成和相互语义理解,更好的支撑安全真实场景中数据的模态和检测分析需求。

除此之外,已经有不少头部厂商尝试将AIGC能力整合进安全产品及解决方案中,例如,云起无垠2023年底发布了名为「SecGPT」的网络安全大模型开源项目;腾讯安全在混元大模型基础上投喂安全知识语料库二次训练出安全大模型,并基于安全大模型打造了腾讯云AI安全助手........

众多厂商的积极布局,让2024年成为大模型在安全应用落地的一年,相信在今年会有越来越多的安全大模型产品问世,而对于已经落地的安全大模型而言,如何通过训练进一步提升安全大模型的能力,降低大模型“幻觉”问题,也是厂商们需要通过不断优化完善的关键点。

相关推荐

猜你喜欢

大家正在看