OpenAI内部大洗牌，不(bu)仅Ilya和他的亲(qin)信Jan Leike已经离(li)职，他们共同领导(dao)的“超级智能对齐团队”也周五被证实解(jie)散。
本周二，曾在宫斗事(shi)件中(zhong)参与解(jie)聘CEO Sam Altman，且是OpenAI联合创(chuang)始人兼首席科学家的Ilya Sutskever前脚刚离(li)职，几小时后，“超级智能对齐团队”的另一(yi)位联名(ming)负(fu)责人Jan Leike也官宣(xuan)离(li)职。
本周五，OpenAI证实，由(you)Ilya和他的亲(qin)信Jan Leike共同领导(dao)的“超级智能对齐团队”已经解(jie)散。此后，该团队的研究工作将被整合到OpenAI的其他研究小组(zu)中(zhong)。至此，一(yi)度几乎导(dao)致OpenAI分(fen)崩离(li)析的宫斗事(shi)件终(zhong)于尘埃落定。
Jan Leike周五在X上公开透露了他离(li)职的部分(fen)原因。他的潜台词是，他与OpenAI高层(ceng)在公司的核心优先事(shi)项上存在长期分(fen)歧，最终(zhong)双(shuang)方的分(fen)歧已经严重到无法调和的地(di)步。团队在推(tui)动其研究项目和争取计算资(zi)源时遇到了重大阻碍，缺乏资(zi)源会严重影(ying)响研究的进度和质量。
公开资(zi)料显示，超级智能对齐团队于去(qu)年(nian)7月成立，旨在研究如何安全开发比人类聪明(ming)得多的人工智能系统，以确保通用人工智能（AGI）在造福(fu)全人类的同时不(bu)会失控并危害人类。这就是为什么OpenAI特别关(guan)注如何对这类超级智能AI进行“对齐”——即确保它们的行为与人类的价值观和目标相一(yi)致。这也是他们成立“超级智能对齐团队”的原因之一(yi)。
OpenAI最近展示了ChatGPT的新版(ban)本——一(yi)个(ge)名(ming)为GPT-4o的“多模态”AI模型，它能够(gou)以更自然、更人性(xing)化的方式与世界互动。在线上演示中(zhong)，GPT-4o展示了模拟人类情感和与用户进行自然对话的能力，甚至尝试与用户调情。然而(er)，这一(yi)技术(shu)进步也引(yin)发了人们对AI侵犯隐私、情感操纵和威胁网络安全等伦理问题的担忧，因此AI监管一(yi)直(zhi)是热门话题。
OpenAI内部成员(yuan)还是“走散了”
此前，Ilya离(li)职的消息引(yin)起了极大的关(guan)注，因为他不(bu)仅是OpenAI的联合创(chuang)始人之一(yi)，还在去(qu)年(nian)11月与其他三名(ming)董事(shi)会成员(yuan)共同决定解(jie)雇CEO奥特曼。然而(er)，在随后的五天内，由(you)于员(yuan)工的大规模抗议，奥特曼被重新任命为CEO，而(er)Ilya和其他两名(ming)董事(shi)则退出了董事(shi)会。
Ilya离(li)职后在社交媒(mei)体上表示，OpenAI的发展轨(gui)迹堪称奇(qi)迹，我相信OpenAI会在Sam Altman、Greg Brockman和Mira Murati的领导(dao)下，以及Jakub Pachocki的出色研究领导(dao)下构建安全有益的AGI。
奥特曼在X上回应称，Ilya与OpenAI的分(fen)道扬镳令人非常悲伤。