英国在旧金山设立办公室以应对 AI 风险_旧金山政府大楼

划重点:

⭐️ 英国成立人工智能安全研究所，旨在评估和解决人工智能平台的风险。

⭐️ 人工智能安全研究所将在旧金山设立第二个办公地点，以加强与人工智能公司的合作。

⭐️ 人工智能安全研究所发布首个工具集 Inspect，用于测试基础人工智能模型的安全性。

5月20日 消息:英国将在本周晚些时候于首尔举办的人工智能安全峰会之前扩大自己在该领域的努力。设立了一个雄心勃勃的目标，即评估和解决人工智能平台的风险的英国人工智能安全研究所表示，将在旧金山开设第二个办公地点。

图源备注:图片由AI生成，图片授权服务商Midjourney

该举措旨在让英国更加接近当前人工智能开发的中心地带。英科学、创新和技术国务大臣米歇尔・多纳伦在接受 采访时表示:“在旧金山设立办公室，将使他们能够接触到许多人工智能公司的总部。其中许多公司在英国也设有基地，但我们认为在那里设立一个基地也将非常有用，可以接触到更多的人才，并能够更加紧密地与美国合作。”

人工智能安全研究所是一个相对规模较小的机构，目前仅有32名员工。该组织最引人注目的进展之一是本月早些时候发布的 Inspect，这是用于测试基础人工智能模型安全性的第一个工具集。

多纳伦表示，人工智能安全研究所仍在努力制定最佳的方式与人工智能公司合作进行评估。她说:“我们的评估过程本身就是一门新兴科学。因此，对每一个评估，我们将不断改进这个过程。”

此外，英国首相里希・苏纳克表示，英国将在未来制定更多的人工智能立法，但在更好地理解人工智能风险的范围之前，将抵制立法。多纳伦表示:“我们认为在制定法律之前，我们必须完全理解情况。而且法律在英国大约需要一年的时间。如果我们在开始人工智能安全峰会时刚开始制定法律，那么现在我们仍在制定法律，而我们实际上并没有任何结果可以展示出来。”

伊恩・霍加斯表示:“自研究所成立的第一天起，我们一直强调采取国际化的方式对待人工智能安全问题，分享研究成果，并与其他国家合作测试模型并预见前沿人工智能的风险。”