邬贺铨院士：数字安全需要探索新模式_工程院邬贺铨

通信世界网消息（CWW）8月9日，在ISC 2023第十一届互联网安全大会上，中国工程院院士邬贺铨表示，人工智能时代，传统安全防护的手段急需升级，数字安全需要探索新的模式，以适应复杂的数字化场景。

数字经济将驱动新型基础设施建设，并加速数字技术的新一轮创新，以人工智能为代表的数字技术将重塑数字内容生产方式和消费模式，通用人工智能将实现知识与数据双轮驱动，未来单个模型有望通过迁移学习支持多种业务，并且能够精准选择节点，从而有效降低功耗和成本。数字化将逐渐走向智能化高峰，开启人工智能的时代。

与此同时，AI大模型的应用，也将会越来越多的渗透到社会、生产、生活的方方面面，大模型会无形无影相随。值得注意的是，AI大模型技术发展和应用过程中存在技术安全风险和人为安全风险。

邬贺铨分析道，一是大模型数据安全。大模型训练依托海量数据，开源数据集、互联网数据容易得到，但很多数据质量无法保证，如果拿这些数据来训练，内容风险程度可想而知。此外，很多中小企业没有自己的模型，如果模型把它们的数据拿到，企业也会担心机密数据泄露。

二是大模型算法安全。AI大模型的算法推理过程存在不可控制性，轻则得到令人意想不到的回答，数据结果存在不可解释性，重则可能出现算法失控。

三是大模型被人为操纵后造成的安全风险扰乱社会秩序。

邬贺铨表示，网信办已就此起草相应的管理办法，对容易引起数据泄露安全的大模型应用，都应该采取比较谨慎的态度。

对于如何应对风险，邬贺铨建议主动迎接IPV6的主导互联网时代，通过IPV6提升数据的安全能力，支撑跨境数据流动的有效管理，护航数据安全流动。

同时，要摒弃硬件式碎片化弱协同的传统安全防护手段，向云化、服务化的理念升级。数字安全企业需要建立体系化的安全运营服务框架，面向各行各业输出数字安全能力，帮助企业构建安全防御体系，保护数据安全与商业秘密。

此外，邬贺铨提出，要完善数字安全的生态系统，要覆盖工业企业设备供应商、基础电信运营商、云服务商、工业互联网平台运营商、工业应用提供商、数字安全提供企业、第三方检测机构与用户等，实现危险威胁处置情报共享。

邬贺铨表示，数字安全已经成为数字经济发展的焦点，人工智能等数字技术的应用本身既是安全防御的重点、手段，也是保障的有力手段，需要将大数据、人工智能、互联网等这些技术融合，提升保障能力。