信通院余晓晖：加强AI治理，推动人工智能以人为本、智能向善_余晓辉 信通院

通信世界网消息（CWW）人工智能发展治理和安全也成为全球当前各国面临的重大议题。世界各国对人工智能发展给予非常高的期待，无论发达国家、发展中国家，都认为人工智能将带来巨大的发展机遇，同时也对人工智能所蕴含的不确定性，安全和风险的挑战也充满担忧。

全球人工智能治理倡导以人为本，智能向善。在7月24日举办的AIIA安全治理委员会成果发布会上，AIIA秘书长、中国信息通信研究院余晓晖院长讲道，人工智能以人为本、智能向善，造福人类，是非常重要的原则，也得到了各国的高度认同。

多年来，中国信息通信研究院作为中国人工智能产业发展联盟秘书处单位，也是国家智库产业平台，在工业和信息化的领导下，坚决贯彻落实党中央国务院与机部党组的决策部署，与产学研用各界一起共同推动人工智能安全工作。

一是联合各方在中国人工智能产业发展联盟下成立了安全委员会，搭建人工智能安全方面交流合作平台。

二是联合产业界发布了《人工智能治理框架》，提出以风险为导向的人工智能研判理论体系。

三是发布一系列人工智能安全合规方面的标准规范，协助企业提升安全能力。

四是启动大模型安全基准测试，为国内企业开展大模型安全防范工作提供参考。

五是和国际组织各国就人工智能的安全治理工作开展双边、多边的讨论交流。和各国一起共同推动人工智能在全球的发展和安全的治理工作。

余晓晖指出，开展人工智能安全治理工作不仅是我国推动人工智能发展和安全的重要工作，也是全人类共同需要对待的重大问题。如何释放出人工智能最大向善的能力，造福于人类，促进经济社会发展，需要世界各国共同推动。

对此余晓晖提出四方面建议。

一是完善人工智能安全风险识别方法论，人工智能技术日益融入经济社会发展各领域全过程，其安全风险面不断扩大，需要建立更加敏捷、精准的安全风险识别机制。

二是通过强化风险评估与防范，重点从人工智能基础设施、算法模型、上层应用以及产业链等方面进行评估，尽快尽早发现风险。

三是加强人工智能安全技术治理，加强对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究，通过技术治理技术。

四是加强国际合作，中国需要和全球一起共同研究推动全球性人工智能，达成更广泛的共识，共同释放人工智能潜力，防范治理风险。