(北物联-会员动态) 旷视科技x人民智库xAIIA_北京旷视科技

北物联会员单位:旷视

当前，新一代人工智能技术在全球蓬勃兴起，正推动经济社会各领域从数字化、网络化向智能化加速跃升。伴随着人工智能新理论新技术飞速发展，人工智能治理标志性事件在世界范围内层出不穷。对国际国内人工智能治理标志性事件开展系统研究，有助于规律性认识人工智能未来发展趋势，有助于深层次把握革命性技术对劳动就业、社会伦理、个人隐私带来的风险与冲击，有助于综合性了解各国政府、学术机构、社会组织、企业主体等社会各层面、各领域为确保人工智能安全、可靠、可控、可持续发展做出的努力，进而以更积极的态度研判大势、把握机遇、引领潮流，推动人工智能服务经济社会发展和民生福祉改善。

为此，人民智库与旷视 AI 治理研究院第二次成立联合课题组，并邀请中国人工智能产业发展联盟（AIIA）为课题支持单位，共同开展“2021年度全球十大人工智能治理事件”(以下简称“十大事件”)遴选、评议，组织相关领域专家学者和企业代表，以《新一代人工智能伦理规范》中提到的六条原则(具体是:人类福祉、公平公正、隐私安全、可控可信、责任担当、伦理素养)为遵循，依据理论价值、实践价值、新闻价值、研究价值等四个评价标准进行评议，并对国家相关部委、行业协会领导，高校院所专家学者以及人工智能产业领域从业者等典型群体进行深入访谈。经综合各方面资料、数据、意见、观点，最终得出2021年度全球十大人工智能治理事件和事件背后的发展趋势。

2021年度全球十大人工智能治理事件

1. 强化数据安全，相关法律法规陆续发布

2.欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别

3.国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》

4.联合国发布全球性人工智能伦理及治理规范

5.强化算法综合治理，防范算法滥用风险，用户可选择关闭算法推荐

6.自动驾驶汽车2021年或将在英国合法化

7.美国新提案将赋予社交媒体用户禁用算法的权利

8.AI增进人类福祉新方向:AI干预自杀、AI手语主播、AI气候预测

9.人脑芯片或2022年使用，瘫痪者迎来希望

10.人脸识别第 一案在浙江省杭州市中级人民法院迎来终审宣判

十大事件三年考:

重点化、国际化、法治化

纵观2019年到2021年的全球十大人工智能治理事件，可以看到社会各界对 AI 治理领域高度关注的若干条脉络线:

一是人工智能治理的重点领域日渐明晰。基于当前人工智能技术发展阶段和经济社会生活现实，人脸识别、辅助驾驶、算法推荐作为人工智能应用较广泛、发展较迅速、现实意义强、问题矛盾也相对集中的三大重点领域，其轮廓日趋清晰，国际国内人工智能治理的重心、重点和规则规范制定出台也日趋向这三个领域及相关应用场景集中。

二是人工智能治理领域的国际合作日趋密切。随着人工智能技术迅猛发展和世界经济格局迅速演变，各国普遍认识到，人工智能的有效治理是全球性、全局性议题，没有一个区域、国家可以成为“孤岛”，也很难在缺乏有效国际共识、协作机制的前提下真正实现人工智能领域的善治。尤其是推动人工智能技术发展和应用的三大主要经济体中国、美国、欧盟，在抢占技术制高点竞争日趋激烈的同时，政府、企业和相关社会组织、行业组织之间也逐步加强了对话与合作，联合国也在国际人工智能治理规则制定等方面发挥日趋重要作用。

三是人工智能治理领域的法治化程度逐步提升。中美欧普遍高度重视人工智能领域立法，逐步实现了人工智能重点领域“有法可依”，重要应用场景均有法律法规和相关规则予以规范，为人工智能技术的可持续健康发展奠定了良好法治基础。与此相应，相关领域司法实践日趋走向成熟、稳定、可预期，成为人工智能治理领域重要“善治”基石。

四是人工智能治理领域的意识形态风险挑战日益成为焦点。世界百年未有之大变局下，大国竞争博弈日趋激烈，人工智能等前沿科技领域竞争尤其趋于白热化。算法推荐、机器人账号、社交媒体精准推送等日趋成为人工智能应用热点，个人信息乃至经济社会信息、地理信息等问题备受关注，这些都与意识形态领域安全乃至国家战略安全息息相关，人工智能治理领域的竞争与国际话语权竞争的联系日趋紧密，“元宇宙”等新的应用场景还将继续加速这一进程。

开启算法治理元年

建构平衡包容的治理体系

人工智能产业作为经济体量巨大的新兴产业，其算法对网络生态的发展亦产生了深刻影响。人工智能算法在降低公众筛选有效信息的时间成本同时，也扩大了网络生态失衡、失真的风险。在本次调查中，涉及算法治理的事件得到了专家和公众的广泛关注。“九部委发文:防止利用算法干扰社会舆论等行为;网信办拟规定不得利用算法控制热搜，用户可选择关闭算法推荐。”国际方面，“美国新提案将赋予社交媒体用户禁用算法的权利。”清华大学人工智能国际治理研究院名誉院长傅莹指出，我国目前已经初步建立起算法治理的“法治之网”，特别是在2021年，各部门相继出台了针对不同问题的指导意见与管理规定等文件，并且各部门出台的规章还彼此起到互益互补的作用，共同推进我国算法治理进一步规范发展，走向综合治理的发展格局。

2021年堪称中国算法治理元年。北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员张凌寒认为，我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，2021年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。世界第 一部系统性、全面性规制算法的法律文件《互联网信息服务算法推荐管理规定》的出台和实施。《关于加强互联网信息服务算法综合治理的指导意见》宣布我国将在三年内建立起算法综合治理体系。欧盟和美国在数据保护立法领域走在了中国之前，算法规制方面中国则当仁不让地开世界先河。

人工智能时代，算法应用场景的持续丰富，推动着人们工作生活空间的“全面数字化”。因此需要对人工智能算法的风险与不确定性进行准确的识别与判断，以保障公民的算法自由与算法安全。

浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长郭兵认为，算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。平衡好算法推荐等技术的创新发展与安全风险，成为了算法治理的一大难题。

清华大学交叉信息研究院院长、人工智能国际治理研究院学术委员会主席姚期智指出，不断精进的算法、高效的算力和隐私保护是人工智能理论的新方向。“平衡包容”的人工智能治理体系的建构，将进一步释放人工智能的潜能，更大程度的保证人工智能的安全性。

法律厘清数据边界

敏捷治理回应民众关切

人工智能在造福人类的同时，带来的潜在风险也随之凸显，对于人工智能发展过程中出现的问题，需要明确其法律客体的地位，通过法律手段予以规制。传统的“先发展，后治理”的模式在人工智能时代并不适用，人工智能具有基础性与普遍性，作为一种通用技术和基础设施将对各行各业产生巨大的影响，给传统生产方式带来深刻的变革。

人工智能技术具备卓越的信息处理能力，可以将碎片化的信息进行整合，从而实现信息从“量”到“质”的飞跃。因此，如何有效保护和合理使用信息数据，成为人工智能技术健康发展所面临的重要课题。

对此，我国从司法实践角度，升级法律体系，适应人工智能时代的需要，保障个人信息安全。本次十大事件的评选中，涉及保护个人信息安全，规制个人信息收集的事件关注度最 高，如《个人信息保护法》《数据安全法》正式实施，最 高法出台人脸识别新规等。“人脸识别第 一案在浙江省杭州市中级人民法院迎来终审宣判”受到广泛关注。在国际方面，“欧盟发布针对人工智能技术的监管法规草案，呼吁禁止公共场所人脸识别”受关注度最 高。

对社会公众关注度高的热点事件进行敏捷治理，意味着及时、迅速的对人工智能的失范行为进行治理，实现治理对象的多元化。及时回应人民关切，通过法律手段对个人敏感信息收集进行治理，推动人工智能良性发展。

中国信息通信研究院云计算与大数据研究所魏凯副所长分析说，2021年，备受关注的《数据安全法》与《个人信息保护法》出台，与《网络安全法》共同形成了数据治理法律领域的“三架马车”，标志着我国数据安全法律架构已初步搭建完成。在此基础上，聚焦重点行业、新兴技术的数据安全法律法规和司法解释也在同年密集出台，充分体现了我们国家在数据立法方面的前瞻性和创新性。这一系列法律法规的出台，为加快培育数据要素市场、保障数字经济健康发展奠定了坚实的制度基础。

清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正认为，人工智能治理已经成为全球共识，且已从理念层面进入到建章立制、落地实施的阶段。除了自上而下的建章立制，自下而上的基于应用主体和用户选择的参与，也成为人工智能治理的一个重要特点。

数字广东网络建设有限公司产品研发部总经理刘亚单认为，数据安全事关国家安全和经济社会发展，提升数据安全治理能力是我们在新形势下需要着力解决的突出问题。专门法律相继发布生效，为明确数据产权与利用规则奠定了基础，推动了我国公共数据共享、开放和利用走向“规范化”发展道路，是全球个人信息法治发展的重大里程碑。

趋势前瞻:

AI 为推动人类文明进步正向赋能

中国信息通信研究院副总工程师、中国人工智能产业发展联盟副秘书长王爱华认为，2021年是全球人工智能治理极具实质性突破的一年，呈现出三大发展特点:一是治理“趋实”、二是治理“趋严”、三是治理“趋细”。将抽象的人工智能伦理原则、法律规范转化为具体实践，落实到技术、产品和应用中去，是产业界急需加快推进的紧迫工作。

旷视科技联合创始人兼 CEO 印奇认为，作为全球科技竞争的关键领域，人工智能不仅需要在技术创新和应用落地方面下工夫，也需要在治理上使力气。人工智能既是我们创造美好生活的重要手段，也是需要进行妥善治理的对象。AI 治理的向上向善发展需要理性的关注，深度的研究，建设性的讨论和坚持不懈的行动。用人工智能造福大众，这离不开所有 AI 从业者和社会各界的多元共治，共同努力。

未来，考察 AI 治理问题，一是需要增加新型全球化背景下的宏观考察，于构建人类命运共同体的时代议题之下，考量人工智能对人类文明的推动;更加聚焦前沿科技服务民生和助力公平，增强大众对 AI 改善民生福祉，助力幸福未来的期待和信心。二是通过法治手段厘清人工智能的法治伦理边界。有关部门密切追踪技术前沿，广泛吸纳意见和建议，对伦理规范进行科学、动态制定和调整，引导 AI 为推动人类文明进步正向赋能。三是更加强调 AI 治理的国际合作和政产学研合作，对于人工智能治理的问题需要全人类共同面对，相关标准规范的制定需要多方参与、共商共议、交流互鉴。

人民智库与旷视AI治理研究院 联合课题组