释放AI应用价值应进一步健全AI安全能力

时间:2023-09-08 18:12:19       来源:科技日报

科技日报记者 张佳星


(资料图片)

“AI深度应用不仅对数据、算法、算力提出高要求,也对安全隐私能力提出高挑战。”在日前召开的绿盟科技智慧安全大会上,中国工程院院士邬江兴强调,在确保数据安全和隐私保护、健全AI能力与安全的前提下,AI技术才能真正释放应用价值。

中国工程院院士谭建荣在会上表示,生成式人工智能、元宇宙数字空间和拟人化机器人是三大颠覆性技术,它们的交叉融合将开创信息技术理论方法和应用新局面。但生成式人工智能的应用也存在数据合规、数据质量等方面的风险。风险既来自应用层面,也来自开发层面,需要预警预防。

那么,如何预防生成式人工智能风险?在网络安全空间具有固有未知漏洞的局面下,如何有效防范?

数据安全事关多个层面的协同防护

国家信息中心副处长国强表示,争夺“数据主权”成为全球数据安全发展新态势,各国纷纷出台数据战略,立法维护国家数据主权。

“《关于构建数据基础制度更好发挥数据要素作用的意见》对原始数据提出了‘可用不可见’的要求,基于此,我们团队将数据作为资产进行梳理和管理,对数据进行分类分级,并进一步提高对资产台账敏感数据发现的准确性和效率。”绿盟科技集团首席技术官叶晓虎表示,以资产的方式管理数据需要技术创新,再通过工程化实现成熟的行业应用。

在国家相关办法和政策的指引下,各层面数据系统建设主体进行了协同创新的探索。

国强介绍,国家层面的“数盾”系统以数据安全为目标,以安全平台为支撑,统筹已有网络和数据安全能力,构建贯穿网络层、计算层(云平台)、应用层、数据层的一体协同数据安全防护体系。

叶晓虎介绍,绿盟科技“风云卫”安全大模型,基于海量安全专业知识训练,构建了一套覆盖安全运营、检测响应、攻防对抗、知识问答等多种场景的网络安全运营辅助决策系统,从“场景牵引,技术驱动,生态协同”三个维度进行建设,通过大模型解决实战态势指挥调度、红蓝对抗辅助决策以及安全运营效能提升方面的难点。

创新数据安全技术,实现安全有效应用

“数字经济发展离不开数字安全保障。加快推动数字经济可持续发展,必须维护数据安全和网络安全,构建好安全底座。”邬江兴指出,当前应进一步加快提升数字技术核心技术的研发和发展,构建数据安全和网络安全新态势,为数字经济的发展保驾护航。

保障数据安全是为了有效应用,创新技术应在安全基础上促进其有效流转实现价值。国强表示,国家信息中心将不断推动“数盾”体系建设试点验证,以安全赋能“东数西算”等算力基础设施,构建全国算力网络安全生态。

“数据安全技术创新的重点,应放在以技术支撑解决数据共享交换如何安全流转等方面。”叶晓虎表示,为保障数据和应用在存储态、运行态、传输态的机密性和完整性,更高性能实现数据“可用不可见”,绿盟科技的数据保险箱通过可信计算环境、全密态数据处理、动态权限管控等技术,实现数据可靠保护、任务可信计算和数据可控流转等功能,帮助数据共享合法合规、安全高效地实现。

会上,中国计算机学会与绿盟科技共同发布了2023年度“鲲鹏”科研基金项目。据介绍,“鲲鹏”科研基金今年将重点聚焦数据安全与隐私计算、人工智能赋能与对抗、新型网络安全攻防技术三个方向,助力国家科研成果有效转化与落地,通过产学研三方的合力提升,最大限度地激发安全产业潜力,推动国内整体安全市场适应AI广泛应用的进程。

(大会主办方供图)

关键词: