开发人员创建一个AI素描工具来生成嫌疑人画像 专家却无比担忧_用AI画自画像

2月8日 消息:据Motherboard报道，两名开发人员使用 OpenAI 的 DALL-E2图像生成模型创建了一个法医素描程序，可以根据用户输入内容为创建“超逼真的”嫌疑人素描。

该程序称为Forensic Sketch AI-rtist，由开发人员 Artur Fortunato 和 Filipe Reynaud 创建。根据上传到互联网上的一份演示文稿，开发人员写道，该程序的目的是缩短通常需要花费的时间，即“大约两到三个小时”。“我们还没有发布产品，所以目前没有任何活跃用户，”Fortunato 和 Reynaud 在一封联合电子邮件中告诉 Motherboard。

他们强调，“现阶段，我们仍在努力验证这个项目是否可行，是否在现实世界中使用。为此，我们计划联系警察部门，以便获得输入数据，我们可以在此基础上进行测试。”

AI伦理学家和研究人员则担忧，在警方取证中使用生成 AI非常危险，有可能加剧最初证人描述中出现的现有种族和性别偏见。传统法医素描的问题不在于它们需要时间来制作（这似乎是这个 AI 法医素描程序试图解决的唯一问题）。问题在于任何法医素描已经受到人类偏见和人类记忆的脆弱性的影响。人工智能无法解决这些人类问题，而这个特定的程序可能会通过其设计使它们变得更糟。

据了解，该程序要求用户通过要求提供性别、肤色、眉毛、鼻子、胡须、年龄、头发、眼睛和下巴描述的模板或通过开放描述功能提供信息，用户可以在其中输入他们拥有的任何描述的嫌疑人。然后，用户可以单击“生成配置文件”，将描述发送到 DALL-E2并生成 AI 生成的肖像。

专家表示，研究表明，人类会整体记住面孔，而不是逐个特征地记住面孔。像这个人工智能程序这样依赖于个人特征描述的素描过程可能会导致一张与作案者的面孔截然不同的面孔。不幸的是，一旦目击者看到合成图像，该图像可能会在他们的脑海中取代他们对实际嫌疑人的模糊记忆。

Forensic Sketch AIrtist网址:https://lablab.ai/event/openai-whisper-gpt3-codex-dalle2-hackathon/eagleai/forensic-sketch-airtist