周鸿祎两会建言：重视通用大模型安全问题，尽快研究制定相关保障标准体系

通信世界网消息（CWW）当前，全球新一轮产业技术变革加速来临，通用大模型作为人工智能发展的核心引擎，正引发一场全新的工业革命。在人工智能飞速发展的过程中，也为行业带来了有关人工智能安全的思考。今年两会上，全国政协委员、360集团创始人周鸿祎带来了三份提案，其中的《关于全面建设安全云、推广数字安全云化服务的提案》和《关于鼓励兼具“安全和 AI”能力的企业解决通用大模型安全问题的提案》两份提案都与网络安全有关。

以“安全即服务”理念破解数字安全难题

周鸿祎表示，近年来，我国网络安全防护及应急能力不断加强，网络安全产业发展迅速。然而，数字化程度越高，由数字化网络攻击引发的安全风险就越大。因此，改变传统安全堆砌产品的模式、尽快弥补广大普通单位的数字安全能力差距已成为当务之急。

为体系化缩小数字安全能力差距，周鸿祎建议借鉴国内外 成功经验，以“安全即服务”的理念破解数字安全难题。对此，他提出了3条具体建议。

一是统筹建设数字安全公共服务基础设施，集中数字安 全能力。建议国家发改委等相关部委牵头指导，建设数据安 全、防国家级攻击、人工智能安全、数字城市安全等一系列 以提供云化安全服务为目标的“安全云”基础设施。

二是改变重建设轻效果的思路，鼓励各单位购买数字安 全云化服务，作为传统网络安全建设的升级路径。建议财政 部等相关部门明确指导“数字安全云服务”的可列支科目。 建议相关部委研究出台配套标准和指导意见。

三是鼓励网络安全企业积极转型，以安全即服务的方式 来为国家整体数字安全水平提升做出贡献，尤其是鼓励具备 核心技术的被美制裁的龙头企业发挥更大作用。建议财政部、 国资委在招标采购相关的法律法规及相关政策流程中给予 一定力度支持

尽快研究制定保障通用大模型安全的标准体系

周鸿祎认为，当下解决通用大模型安全问题极具必要性和紧迫性。

 一方面，AGI（通用人工智能）的进步速度超乎想象， OpenAI 系列模型工具发布后，AGI 加速实现，将引发更加复 杂的安全风险，主要包括技术安全、内容安全和人类安全三 个方面。

另一方面，美国国防部加速与 OpenAI 在“网络安全” 等领域展开合作，OpenAI 为此删除了“禁止用于军事用途” 条款，使得生成式 AI 军事化的趋势愈发显著。通用大模型 的发展，已不是单纯的科技之争，更是国运之争，影响深远。

“中国应尽早未雨绸缪，高度重视大模型安全，以避免在未来的国际竞争中受到限制。 ”周鸿祎具体分享了3个方面的建议。

 其一，建议国家更加重视通用大模型安全问题，给予兼具 “安全和 AI”能力的企业专项扶持政策，更好发挥其解决通 用大模型安全问题的重要作用。通用大模型深刻影响经济社 会的方方面面，安全问题至关重要，而目前国内的大模型安 全问题不容乐观。一方面，国内大模型企业不熟悉内容安全、 数据安全、科技伦理、网络安全等人工智能带来的安全挑战； 另一方面，大部分安全公司又很少真正有能力深入大模型研 究，上述两方面原因导致国内大模型安全领域成为整个产业 链的薄弱环节。为此建议国家有关部门采用揭榜挂帅等方式， 鼓励并扶持兼具“安全和 AI”能力的企业，给予专项扶持政 策，支持企业担起大模型安全重担，聚焦攻坚，为解决通用 大模型安全问题提供坚实保障。 

 其二，建议国家研究制定保障通用大模型安全的标准体系， 推动通用大模型开展安全评测、接入安全服务，降低通用大 模型安全风险。现阶段，将安全模块作为大模型外挂的做法 已不可行，安全需要贯穿通用大模型的整个构建过程，确保 安全措施在系统的整个生命周期中得到充分考虑和实施。建 议国家在内容安全、数据安全、科技伦理、网络安全等细分 领域，牵头研究制定安全检测标准，在规范的安全标准体系 下，推动通用大模型的安全评测工作，通过接入安全服务来 保障大模型的安全。

 其三，鼓励政府、央国企与兼具“安全和 AI”能力的企业 在大模型安全领域展开深入合作。政府、央国企对通用大模 型的应用，具有更高的安全标准，不仅关涉商业安全，更关 涉国家安全。建议政府和央国企加强与兼具“安全和 AI”能力企业的合作，尤其针对被美制裁的企业，放宽与此类企业的市场准入条件，在政策和招投标条件上，给予更多合作机会，发挥此类企业在人工智能安全领域的优势作用，为国家安全贡献力量