道德推理的常见缺陷「研究称GPT-4o道德推理能力已比专家更强」

6月24日 消息:在最近的一项由北卡罗莱纳大学教堂山分校和艾伦AI研究所共同进行的研究中，人工智能的道德推理能力再次得到了令人瞩目的展现。特别是OpenAI的新型聊天机器人GPT-4o，在道德推理和提供道德建议方面，已经超越了公认的道德专家。

在这项研究中，GPT-4o的表现令人印象深刻。首先，在涉及501名美国成年人的测试中，GPT-3.5-turbo模型提供的道德解释被认为更符合道德标准、更值得信赖，并且更周到。这一结果使得GPT-3.5-turbo在道德推理方面的人类竞争中占据了优势。

而在另一项更为深入的研究中，GPT-4o与著名伦理学家Kwame Anthony Appiah的建议进行了对比。通过对50个伦理困境的建议进行评分，GPT-4o在几乎所有方面都展现出了超越人类专家的能力。AI生成的建议被认为在道德上更正确、更值得信赖、更周到，并且在准确性方面也更胜一筹。

这一发现无疑引发了关于AI在道德和伦理决策中角色的重要讨论。虽然这项研究仅针对美国参与者进行，但它已经预示了人工智能在道德推理领域的巨大应用潜力。然而，研究人员也提醒我们，尽管AI在道德推理方面表现出色，但在实际应用中仍需谨慎对待其建议，特别是在缺乏人类监督的情况下。