2023 年 11 月 20 日星期一下午 12:59: Sam Altman 被 OpenAI 董事会强制驱逐的绝对离奇的故事在周末变得更加奇怪和奇怪。如果你不从事科技行业,我很羡慕你。您的技术朋友刚刚狂看了 3 季《继承之战》,却陷入了悬崖峭壁!但无论如何,以下是自萨姆周五被强制驱逐以来发生的一系列事件
11 月 18 日星期六:多名@openAI 的高级人才退出。事实证明,格雷格和萨姆是非常受欢迎的领导者。随后,许多 OpenAI 员工齐心协力,通过引用 Sam 的推文“我非常爱 OpenAI 团队”和心形表情符号,向公众发出信号,如果 Greg 和 Sam 不回来,他们就会辞职。值得注意的是,未来的临时首席执行官米拉·穆拉蒂 (Mira Murati) 也参与了这一努力。
11 月 18 日星期六晚:Sam 回到 OpenAI 办公室,与董事会就他(和 Greg)的潜在回报进行谈判。条件是找到一个新的董事会,并且所有现任董事会成员辞职。微软首席执行官萨提亚·纳德拉 (Satya Nadella) 主导了萨姆与董事会之间的谈判。截止日期定为下午 5 点,但错过了。
11 月 19 日星期日土拨鼠日:Sam 再次回到办公室与董事会就他(和 Greg)的潜在回报进行谈判。萨姆提到,这将是他的最后一次。另一个截止日期是下午 5 点,但又错过了。
11 月 20 日星期一:一封“把萨姆带回来,否则我们就辞职”的信被泄露。截至周一上午 10 点(MT 周一),770 多名员工中,有 667 名(且仍在增加)已在这封信上签名。值得注意的是,它在“Iliya Sutskever”这个词处被切断,他是首席科学家,六名董事会成员之一,他的投票在罢免 Sam 方面发挥了重要作用。
11 月 19 日星期日午夜/11 月 20 日星期一:Twich 前首席执行官 Emmett Shear 接受了 OpenAI 首席执行官的职位邀请!
11 月 20 日星期一:Satya Nadella 宣布 Sam 和 Greg 将加入微软。更多信息。好的
……周一已经过去一半了。
我确信故事会继续发展,因此“结论”是用引号引起来的。但以下是我对这个绝对疯狂的故事的一些想法。这一次,我希望读者们能够帮助回答/阐明其中一些问题。
“我们称之为基于人类反馈的强化学习。可以说,在预训练过程中,你想要了解世界的一切。通过根据人类反馈进行强化学习,我们关心的是输出。我们说,只要输出不合适,就不要再这样做。每次输出没有意义时,就不要再这样做。而且它会快速学习以产生良好的输出。但这是输出的水平,而在语言模型预训练过程中情况并非如此。现在就幻觉而言,它有一种不时编造东西的倾向,这也极大地限制了它们的实用性。但我非常希望,通过简单地改进随后的人类反馈强化学习步骤,我们可以可以教它不要产生幻觉。现在你可以说它真的会学习吗?我的答案是,让我们来了解一下。 ”
最终的赢家是微软吗?周五收盘前传出萨姆被罢免的消息,微软股价下跌 1%。作为首席执行官,萨蒂亚·纳德拉 (Satya Nadella) 对股东负有信托责任(与 OpenAI 董事会不同,idk),他在 OpenAI 理论家和运营商之间的所有这些来回谈判中发挥了重要作用。我现在能说的是,微软看起来确实只是以 100 亿美元的价格收购了 OpenAI(Sam、Greg 以及看起来最近估值为 800 亿美元的公司 80% 的股份)。真是一个举动。
OpenAI 接下来会发生什么?没人知道。字面上地。他们都向公众发出了极其混乱的信号。一口气威胁董事会辞职并与萨姆一起离开,同时又说他们比以往任何时候都“更加团结”。显然,据 The Verge 报道,Sam 和 Greg 以及“同事”(即:几乎所有 OpenAI 人员)的聘用尚未最终确定。新任首席执行官埃米特·希尔 (Emmett Shear) 很难收集文件并让员工遵守他的命令。
将人工智能的命运留给少数人的危险:人工智能可能是本十年以及未来几十年最重要的技术。但上周末发生的故事向我们展示了那些受到控制的人有多么令人难以置信的缺陷。精明的技术+有缺陷的人类=相当灾难性的组合,恕我直言。无论你对未来感到充满希望还是注定要前进,很大程度上取决于你的倾向和现有的气质。如果科学家伊利亚能够掉头,我想人类的未来也能。
PS:很抱歉这个故事的推特截图非常多。尽管发生了一切,技术人员仍然像飞蛾一样锁定该平台,这不是我的错。因此,我将给您留下这个来自线程的屏幕截图。直到下一次!