机遇与挑战并存 三方面着手保障人工智能安全发展「人工智能机遇和挑战」

通信世界网消息（CWW）随着全球人工智能产业的蓬勃发展，一场AI浪潮正在席卷而来，当前互联网已经进入万物皆可AI的时代。我国目前已建成全球规模最大、技术领先的网络基础设施，数据资源价值加快释放，技术创新能力加速提升，核心技术不断突破，安全保障能力也大幅度提升，已经进入了全球第一梯队。

近日，在2023中国互联网大会“AI安全”论坛上，北京市通信管理局党组成员、副局长王晖表示，近年来以大模型为代表的新一代人工智能技术飞速发展，在通信、金融、教育、医疗及工业互联网领域已有广泛的应用场景。

王晖指出，一直以来我国高度重视人工智能技术应用于技术的发展，出台一系列的举措，加强人工智能技术在各领域研发推广，抢占人工智能时代产业升级的制高点。但在人工智能赋能产业应用提高生产效率和质量的同时，在数据安全、算法安全、应用安全和行业安全等方面，也给我们带来了一系列新的安全应用风险与挑战

人工智能依赖大规模数据，数据中可能包含有害和敏感信息，在实际应用中会导致数据隐私泄露，违规信息生成等安全风险。同时，虚假内容侵害个人隐私，传播违规信息和偏见歧视等问题也在不断发生，真实性、合法性是人工智能应用不可逃避的监管难题。同时，人工智能研发需要更大规模的算力及更专业的人才，目前国内缺少相关理论研究与实践经验。目前各行业的人工智能程度不尽相同，某些行业已经形成了规模化的应用，还有一些行业仍旧处于信息化转型时期，各个行业对技术的安全监管能力参差不齐。

如何解决上述问题，引起了各方的关注，王晖建议从以下三方面入手：

一是坚持发展与安全并重。安全与发展是一体之两翼，驱动之双轮，安全是发展的保障，发展是安全的目的，不断探索并完善与创新发展相适应的安全保障方式，在创新发展与风险规避之间寻求平衡，方能行稳致远。

二是坚持权利和义务并重。企业要积极用好政策红利，发挥自身优势，加快人工智能领域的创新发展，同时要积极履行企业的主体责任，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全可靠可控。

三是坚持自主与协作并重。人工智能技术是战略性新型技术，需要掌握核心技术和知识产权，提高自主创新能力和竞争力，同时人工智能技术的发展需要跨学科跨领域的协作，需要企业高校、科研机构等各方合作，共同开展技术研发、人才培养和产业应用等工作。