美国证券交易委员会对生成式人工智能在金融市场的影响表示担忧

7月18日 消息:据theverge报道，美国证券交易委员会（SEC）对生成式人工智能对金融市场的影响表示关切。

在周一向国家新闻俱乐部发表的演讲中，SEC主席加里·根斯勒（Gary Gensler）表示，生成式人工智能的最新进展增加了机构依赖同一组信息进行决策的可能性。

根斯勒表示，对数据和计算能力的巨大需求可能意味着只有少数科技平台可能主导该领域，缩小了公司可以使用的人工智能模型的范围。如果一个模型提供了不准确或不相关的信息，金融机构可能最终使用相同的有缺陷的数据并做出相同的错误决策——从而造成类似于2008年金融危机的风险，当时银行根据信用评级机构的信息进行“跟随领导者”的游戏，或者受推特影响对硅谷银行进行抢购。根斯勒将潜在的后果与类似于2008年危机的情况进行了比较，他说这证明了金融领域“集中化的数据集或模型”的风险。

“人工智能可能会增加金融脆弱性，因为它可能促进羊群效应，即个体行为者做出相似的决策，因为他们从一个基础模型或数据聚合器得到相同的信号，”根斯勒说。他补充说，生成式人工智能和其他深度学习模型“可能会加剧全球金融系统固有的网络互连性”。

金融部门长期以来一直使用人工智能系统。一些保险公司和债权人部署算法和自然语言处理来解析财务数据，然后决定贷款金额。交易公司依赖人工智能来检查欺诈并比人类在电脑屏幕上查看市场信号要快得多。

在这里，根斯勒关注了大型语言模型，称生成式人工智能和LLM是“我们时代最具变革性的技术”。他的演讲有时将这个概念与更一般的人工智能技术类别混淆在一起——尽管这些系统并不都呈现相同的风险和问题。根斯勒还指出，生成式人工智能目前还没有在金融领域广泛使用。

这不是根斯勒第一次就人工智能影响金融市场发出警告。在仍在麻省理工学院（MIT）时，根斯勒和合作者莉莉·贝利(Lily Bailey)撰写了一篇论文，探讨了当前监管结构无法解决使用人工智能在金融领域引起的问题。

SEC也不是第一个涉及人工智能监管的机构。该机构于2018年建立了FinHub，一个资源中心，旨在回答有关人工智能、加密货币和其他金融科技相关问题。它一直积极追究那些它认为违反法律的新兴技术公司的案件，特别是在加密领域。

SEC本身也使用机器学习来帮助市场监测，以执行其政策。

根斯勒表示，当前关于风险管理的指导方针需要更新，以跟上新的强大的技术，但他指出，可能需要对整个金融行业如何使用它进行重新思考。

当然，其他政府机构也开始调查人工智能公司。联邦贸易委员会（FTC）上周宣布，它对OpenAI开展了一项调查。