被忽视的B面：科技伦理治理靠什么指引未来？「科技伦理治理体系」

近些年，以人工智能技术为代表的新兴科学技术的深入应用，显著提升了社会生产效率，让人类的生活变得更加便捷舒适，但与此同时，科学技术不够成熟、安全隐私保护不完善、社会伦理道德边界模糊、人与智能权责等问题，也让技术应用出现了不可调和的矛盾。

例如，不久前谷歌LaMDA聊天机器人的意识问题引发伦理争议。人工智能再发展20年，是否会具备自主意识？未来人类又该以什么样的态度与人工智能和谐共处？

AI换脸曾风靡一时，用户只需一张正脸就可将视频中的人物替换为自己，在恶搞公众人物的同时，是否意识到，这种做法带来的隐私安全和风险问题？

人工智能也会“种族歧视”？为什么总是对肤色偏深的人群识别错误？如何引导人工智能向可信向善发展？

人工智能系统“创作”的诗歌、乐曲、绘画等等，版权该归谁？

再如，当一辆自动驾驶汽车冲向行人，究竟谁该对危险负责，是车主？还是自动驾驶汽车的制造商？又或是自动驾驶系统的设计者？

广泛应用的个性化推荐，能够根据用户的兴趣爱好、使用习惯提供服务，在节省用户选择成本、提高匹配效率的同时，也产生了信息茧房和马太效应。如何改变这一窘境？

智能机器人产业化加速发展趋势下，如何避免机器人被滥用？如何用伦理标准来约束这一问题？

企业如何合理使用数据？如何建立数据存储、数据跨境流动等创新治理方法？

类似上述情况，人工智能作为现代科学最具有颠覆性的科学技术之一，其演进与人类生命、文明等息息相关，并伴随复杂的价值审视和伦理冲突。如果对这类科学技术的治理落后于产业节奏，某种程度上也会制约产业的发展，提升科技伦理治理能力的问题研究已刻不容缓。

正如著名物理学家霍金曾多次强调过的，人工智能应该在符合伦理道德和安全措施要求的情况下开发。清华大学苏世民书院院长、国家新一代人工智能治理专业委员会主任薛澜也指出，中国作为越来越多新兴技术的开发者和领先的应用者，也将逐步面临社会认知和治理范式方面的挑战，人工智能的治理是新兴技术治理领域具有代表性的重大挑战。

事实上，我国向来重视科技伦理治理，并诉诸于实践。其中尤其在人工智能领域，从理论到实践，从宏观战略到治理框架等层面，已经做了不少工作。

今年3月，国务院办公厅印发了《关于加强科技伦理治理的意见》，将包括人工智能、生命科学、医学等重点领域的科技活动，给出了规范清晰的伦理指引和监管框架。

但这远远还不够，伴随科技发展突飞猛进，人工智能依然存在发展道路分歧、基因编辑技术缺陷或不成熟带来的隐患和道德争议、技术滥用危害国家利益等等，在具体问题的探索中，科技伦理治理仍然存在法律等参考标准之外的大量空白。

科技伦理治理是一个跨组织交叉研究的复杂任务，既需要企业技术引领者的担当和责任，也需要政府的指导、社会公众的监督，才能够为人类社会创造更多的社会价值。于是，如何建立一种“可用、可靠、可信、可控”的技术治理机制，正成为当下探索科技伦理治理的重要命题。

2022年9月2日，世界人工智能大会期间，由阿里巴巴集团主办的《数字时代的技术责任》论坛，将邀请清华大学苏世民书院院长薛澜、北京大学中国社会与发展研究中心主任邱泽奇、复旦大学数字与移动治理实验室主任郑磊、上海社科院互联网研究中心主任惠志斌，和阿里巴巴集团首席技术官程立、阿里巴巴集团法务&合规负责人屠剑威、阿里研究院院长高红冰、阿里巴巴安全资深算法专家薛晖等多位内外部行业领域专家学者一起，深度探讨数字时代科技发展带来的新挑战和新问题，讨论如何让科技发展更好地为人服务，创造更多的社会价值。

本场论坛将聚焦科技伦理治理研究，阿里巴巴集团分享在科技伦理治理方向的行动与实践，并将正式发布首份《人工智能治理与可持续发展实践白皮书》。该白皮书将详细阐释企业面向可持续发展的人工智能治理体系，持续关注人工智能伦理与治理，涵盖数据安全和隐私保护、消费者权益和公平、深度合成治理等重要方向。

目前，2022世界人工智能大会阿里巴巴专场论坛已经上线，欢迎扫码报名，期待您的莅临。

论坛议程公布如下：