当前,以人工智能、大数据、云计算、5G等为代表的新一代信息通信技术发展日新月异,深刻改变各行各业的发展方式,尤其是生成式人工智能正在引发新一轮智能化浪潮,为经济注入强劲发展动能,但与此同时,也带来了数据泄露、虚假信息、算法歧视等网络和信息安全新挑战、新问题。
人工智能安全成为备受关注的热点
4月28日,中共中央政治局会议提出,要重视通用人工智能发展,营造创新生态,重视防范风险;
【资料图】
7月24日,中共中央政治局会议再次提出“促进人工智能安全发展”;
《生成式人工智能服务管理暂行办法》将于8月15日开始实施;
日前召开的第十一届互联网安全大会(ISC 2023)将主题定为“安全即服务,开启人工智能时代数字安全新范式”。
01
新机遇带来新挑战
近年来,中国网络安全产业综合实力显著增强。数据显示,2022年中国网络安全产业规模近2200亿元,截至2022年底,中国已有21家网络安全企业上市,传统安全企业、互联网企业纷纷布局数据安全赛道。网络安全技术体系持续完备,零信任、以太坊等信息安全技术逐步成熟落地。隐私计算、图片加密等领域布局加快,网络安全与人工智能、云计算、区块链、工业互联网融合发展加速。
但随着新技术的发展,新型威胁也在不断升级,网络勒索、钓鱼攻击、数据窃取等重大安全事件频发。根据IBM日前发布的报告,数据泄露的平均成本在2023年达到历史新高,为445万美元,这比2022年的435万美元增加了2.3%。全面加强网络安全保障体系和能力建设已经成为应对新形势、新挑战的必然之举。
中国工程院院士邬江兴介绍,AI应用系统中,内生安全个性和共性问题往往是交织叠加存在的,既有漏洞、后门引起的问题,又有黑盒效应引起的问题,交织叠加使得AI应用系统的安全问题变得极其复杂,给安全使用和维护带来了前所未有的挑战。
“推动人工智能产业快速发展,必须把保障数据安全放在突出位置。”十三届全国政协经济委员会副主任苏波在ISC 2023开幕致辞中表示,要加快人工智能数据资源建设,创新人工智能技术手段,完善人工智能数据安全监管体系。
中国工程院院士邬贺铨表示,数字化将逐渐走向智能化高峰,这将开启人工智能时代,但数字安全永远是魔高一尺,道高一丈,也在不断地发展演进,传统安全防护的手段急需升级。
02
新挑战呼唤新打法
“随着安全挑战的不断升级,传统安全方案已经难以应对数字时代的新挑战。”360集团创始人周鸿祎表示,企业实现体系化安全运营存在缺平台、缺探针、缺数据、缺专家等问题。
推动人工智能产业快速发展,必须要把数据安全放在突出位置。在苏波看来,要创新人工智能技术手段,用技术进步解决安全风险难题,加强人工智能数据安全保护基础理论研究和技术研发,发展负责任、可信任、能受控的通用人工智能。
实际上,人工智能时代的安全问题,一方面是人工智能应用场景下的数据安全风险防范,另一方面是将人工智能技术应用在数据安全治理与网络攻防对抗中。“人工智能等数字技术的应用本身既是安全防御的重点、手段,也是保障的有力手段。”邬贺铨表示,数字安全已经成为数字经济发展的焦点,需要融合大数据、人工智能、互联网等技术,提升保障能力。
“创新是网络安全保障能力提升的根本动力。”工业和信息化部网络安全管理局局长隋静表示,要围绕5G、工业互联网、车联网等重点领域开展关键技术攻关,加快强化安全风险感知、监测预警、实时阻断、追踪溯源等核心能力;前瞻布局人工智能与网络安全技术融合创新,提高产业链、供应链韧性和安全水平。
对于技术创新,中国互联网协会理事长尚冰表示,互联网龙头企业要积极开展原创性、引领性、基础性安全技术攻关,延伸技术领域,拓展产品服务范围,完善产品矩阵,以创新技术和产品切入细分领域,推动产品服务和行业发展紧密结合。
维护网络安全是全社会的共同责任,需要各方共同参与,也需要多措并举。苏波表示,要加快明确人工智能数据安全法律制定,通过检测验证提升人工智能产品的安全性和成熟度,降低人工智能数据安全风险。
“要摒弃硬件式、碎片化、弱协同的传统安全防护手段,向云化、服务化的理念升级。”邬贺铨表示,数字安全企业需要建立体系化的安全运营服务框架,面向各行各业输出数字安全能力,帮助企业构建安全防御体系,保护数据安全与商业秘密。
原标题:《人工智能时代,如何确保数字安全?》
标签: