OpenAI宫斗剧引出神秘项目Q*

Q*声明：本文来自于微信公众号 元宇宙日爆（ID：MBNews），作者：木沐，授权转载发布。“出局-跳槽-返岗”，5天之后，Sam Altman最终重新拿回CEO一职，与力挺他的原董事会主席Greg Brockman一同回到了OpenAI。当人们以为这家AI巨头上演的宫斗剧彻底落下帷幕时，路透社甩出一个大瓜:在Altman被罢免之前，OpenAI几位研究人员向董事会发出警告信，内容是一项强大的人工智能发现可能威胁人类，而这封信可能是Altman下台的关键。知情人士还告诉路透社，OpenAI内部有一个名为Q*（发音为Q-Star）的项目，这可能是该公司探索通用人工智能(AGI)的突破。至此，外界的目光从OpenAI的人事斗争转向神秘的Q*。Q*或与AI的数学能力有关路透社披露的有关内部警告信和Q*的信息，均来自不愿具名的消息人士。尽管这家权威媒体表示没有看到内部信的原文，也无法证实Q*的功能，但这个增量信息还是引来了外界的好奇。11月22日，OpenAI宣布原则上达成协议让Sam Altman重新担任CEO，并组建由Bret Taylor（主席）、Larry Summers和Adam D'Angelo组成的新董事会。按照这个消息，该公司的首席科学家llya Sutskever从董事会出局，他曾被视作罢免Altman的核心推动者。在X上，Altman和OpenAI彼此点赞，Brockman发了一张和成员的“大团圆”合影，老板与员工庆祝着再次成为一家人。这场被称为“企业家与科学家之争”的大戏以企业家之胜落下帷幕，但外界至今都不清楚Altman到底因为什么导致了OpenAI原董事会的不信任。11月23日，路透社援引消息人士曝出大瓜称，Altman下台前四天，几位研究人员写了一封信给董事会，警告一项强大的人工智能发现，他们称这一发现可能威胁人类。两位消息人士称，此前未报道的信件和人工智能算法是董事会罢免Altman之前的关键。其中一名知情人士称，OpenAI在给员工的内部信中承认有一个名为Q*的项目，一些人认为Q*可能是公司探索通用人工智能（AGI）的突破。OpenAI一直认为，AGI能在最具经济价值的任务中超越人类的自主系统。这位不愿具名的人士表示，鉴于庞大的计算资源，新模型能够解决某些数学问题，虽然数学成绩仅达到小学生的水平，但在此类测试中取得的好成绩让研究人员对Q*未来的成功非常乐观。路透社的消息让外界对OpenAI的目光从人事纷争转移到它的主业上，连OpenAI的开发者社区都在追问Q*到底是什么，但未获得官方人员的回应。OpenAI开发者社区讨论Q*由于Q*似乎与数学有关，一些开发者推测，OpenAI的研发可能使用了Q-Learning算法，这可能是这个神秘项目以Q命名的原因。Q-Learning算法是一个数学概念，也是机器学习算法中的一种，能够进行“小学”水平的数学计算，并有望在该领域超越OpenAI的GPT-4模型。Q-Learning使用被称为“强化学习”的机器学习技术来解决数学问题，对正确或最佳的行为给予奖励，对不正确或次优的行为给予惩罚。机器可以通过探索所有可能的路径来学习获得预期奖励的最短路径（shortestroute），通过反复试验找到更优化的路线，并随着时间的推移达到优化状态，每次都做出更好的决策。AGI离人类不远了?根据目前了解GPT-4最直接的产品ChatGPT的表现看，这个对话机器人能够在人文、编程等领域理解自然语言，并给出符合上下文逻辑的回答，还能在人类的不断提示中修正自己的回答。但ChatGPT对解决数学问题不是很给力，比如不能一次性答对“鸡兔同笼”的问题，还有人给它出过混合运算的数学题，这家伙的答案也是不尽人意。现在，Q*被视作OpenAI在解决GPT数学能力的路径。新的问题来了:为什么获得了数学能力，就能被OpenAI上升到通向AGI?研究人员认为，数学是生成式人工智能发展的前沿。目前，生成式人工智能擅长通过统计预测下一个单词进行写作和语言翻译，而同一问题的答案可能会有很大差异。但如果能征服“只有一个正确答案”的数学能力，这意味着人工智能将拥有类似于人类智能的更强推理能力。与只能解决有限数量运算的计算器不同，AGI可以概括、学习和理解，更强的推理能力无疑是这些AGI特征的重要一步。给路透社爆料的消息人士称，OpenAI内部有标记为“人工智能科学家”团队的工作，多个消息来源证实了该团队的存在。一位知情人士表示，该小组由早期的“Code Gen”和“Math Gen”团队合并而成，正在探索如何优化现有的人工智能模型，以提高其推理能力并最终开展科学工作。这些未得到OpenAI回应、也没有实证证明的信息，让Q*变得更加神秘。而从Altman和OpenAI过去的表态看，AGI一直是这家公司追求的最高峰。除了在11月宣布的一系列新工具外，Altman上周还在旧金山举行的APEC峰会上称，他相信重大进展即将到来。“在OpenAI的历史上已经有四次了，最近一次是在过去几周，当我们推开无知的面纱并推进发现的前沿时，我已经在房间里了，能够做到这一点是我一生的职业荣誉。”如今，Altman杀回来了，相信这个善于制造热点、运作资本的商业领袖，必然不会让人错过有关Q*的消息。