北京通管局副局长王晖：必须要考虑AI技术开发和应用的安全问题「北京通信管理局领导班子」

通信世界网消息（CWW）在7月18日举办的2023中国互联网大会AI安全论坛上，北京市通信管理局副局长王晖称，人工智能技术的开发和应用必须要考虑到安全问题。

近年来以大模型为代表的新一代人工智能技术在飞速发展，在通信、金融、教育、医疗及工业互联网领域有广泛的应用场景。一直以来我国高度重视人工智能技术应用于技术的发展，出台一系列的举措，加强人工智能技术在各领域研发推广，抢占人工智能时代产业升级的制高点。

王晖指出，北京市委市政府高度重视人工智能的发展，充分发挥政府引导作用和创新平台的催化作用，不断推动人工智能实现创新引领和理性健康发展。据统计 ，截止到2022年北京拥有人工智能核心企业数量、人工智能算力发展水平、人工智能领域核心技术的人才占比和人工智能论文发展数量在全国均列第一。人工智能在赋能产业应用，提高生产效率和质量，降低成本和风险的同时，也带来一系列新的安全应用风险与挑战。

一是数据安全的问题。人工智能依赖大规模数据，数据中包含有害和敏感信息，在实际应用中会导致数据隐私泄露，违规信息生成等安全风险。

二是算法安全问题。人工智能研发需要更大规模的算力及更专业的人才，目前国内缺少相关理论研究与实践经验。

三是应用安全问题。人工智能技术快速发展的同时虚假内容侵害个人隐私，传播违规信息和偏见歧视等问题也在不断发生，真实性、合法性是人工智能应用不可逃避的监管难题。

四是行业安全问题。目前各行业的人工智能程度不尽相同，某些行业已经形成了规模化的应用，还有一些行业仍旧处于信息化转型时期，各个行业对技术的安全监管能力参差不齐。

党的二十大报告提出，要加快建设网络强国、数字中国，要健全网络综合治理体系，推动形成良好的网络生态，如何统筹人工智能发展和安全引起了各方的关注。人工智能技术的开发和应用必须要考虑到安全问题，对于人工智能产业未来的发展，王晖提出3点思考。

一是坚持发展与安全并重。习近平总书记指出，安全与发展是一体之两翼，驱动之双轮。安全是发展的保障，发展是安全的目的，只有不断探索并完善与创新发展相适应的安全保障方式，在创新发展与风险规避之间寻求平衡，方能行稳致远。

二是坚持权利和义务并重。企业要积极用好政策红利，发挥自身优势，加快人工智能领域的创新发展，同时要积极履行企业的主体责任，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全可靠可控。

三是坚持自主与协作并重，人工智能技术是战略性新型技术，需要掌握核心技术和知识产权，提高自主创新能力和竞争力，同时人工智能技术的发展需要跨学科跨领域的协作，需要企业高校、科研机构等各方合作，共同开展技术研发、人才培养和产业应用等工作。