美国证券交易管理委员会「美国证券交易委员会担心生成式AI会加剧金融市场风险」

7月18日 消息:美国证券交易委员会（SEC）对生成式人工智能对金融市场的影响表示担忧。

美国SEC 主席 Gary Gensler 在一次演讲中表示，生成式人工智能可能会增加金融市场的风险，因为它可能会导致金融机构使用不准确或不相关的信息做出错误决策。

Gary Gensler 称他担心的最大问题是，所有的 "下游参与者"，即零售投资者、风险投资公司、顾问等，都可能从非常少的基础生成型 AI 模型获取相同的金融信息和建议。这将导致经济的 "单一文化"，如果每个人都基于相同的抵押贷款数据进行决策，而房地产市场崩盘，整个经济就会面临风险。他表示，监管可能基于个别模型以及整个人工智能领域，但这只是投资者端的问题。

另一个问题是不良行为者如何滥用生成型 AI 进行大规模欺骗。Gensler 在演讲中提到，一家 AI 生成的机器人 Twitter 账户发布的一篇文字宣传谣言称他已经辞职。

Gensler还分享了他对 AI 成为下一个大规模金融欺诈计划中用于迷惑天真人的新工具的担忧，因为现在可以根据个性化的 AI 算法对个人进行定制化的宣传活动。Gensler称，保险公司可以利用这些模型来确定谁更有可能获得医疗治疗的机会，这可能已经超越了机器学习算法的阴暗面。

SEC 对人工智能的影响担忧不是第一次，他们于2018年成立了 FinHub 来回答与人工智能、加密货币和其他金融科技相关的问题。Gensler表示，当前的风险管理指导方针需要更新以适应新技术，但可能需要重新思考如何在整个金融行业范围内使用它。其他政府机构也开始调查人工智能公司，如 FTC 对 OpenAI 的调查。