文硅基研究室,作者白嘉嘉
在数次抨击 OpenAI 是个骗局之后,马斯克宣布将在本周开源 xAI 旗下的聊天机器人 Grok,作为对 OpenAI 背弃 Open 承诺的嘲讽。
马斯克数次发文抨击 OpenAI 是个骗局,X截图
OpenAI 这段时间确实过得不太平。
来自微软的数十亿投资正在接受欧盟反垄断的调查,《纽约时报》等媒体和一批作家排着队起诉它侵权,历时三个多月的董事会风波刚刚落下帷幕,这位世界上最富有的人之一,2018 年被扫地出门的联合创始人——马斯克,便一纸诉状将它告上了法庭。
“OpenAI 已转变为最大科技公司微软事实上的闭源子公司。” 不论你是否这个观点,这句话已经被写进了诉讼书,并提交给了旧金山高级法庭。
46 页的诉讼书回顾了马斯克在 2015 年前后如何推动 OpenAI 成立,并反复强调它最初被塑造为一个非营利、公开、以安全为核心的机构。
然而,这些特质今天都消失了。OpenAI 与微软之间利益往来以数十亿计,而不在这段关系中的公众无法获得任何一行代码。
在马斯克看来,这意味着 OpenAI 已经放弃了将 AI 技术公开的最初承诺。于是,他要求 OpenAI 回到正轨,近十项申诉赔偿中包括要求 OpenAI 公开 AI 技术,并停止与微软或任何实体的商业合作。
当然,奥特曼和 OpenAI 团队的其他人不会认同马斯克的观点,也不会照做。
马斯克控告 OpenAI 的消息传出后,OpenAI 官网上发布了一篇名为《OpenAI 和埃隆·马斯克》的文章,除了表达团队仍在坚守使命和对马斯克的尊敬外,还透露了一个微妙的细节。
2017 年当团队讨论需要搭建一个以营利为目的的部门,来支撑机构进一步实现使命时,马斯克给出的建议是「与特斯拉合并」,或「由他完全控制」。
OpenAI 透露马斯克曾想将它并入特斯拉, OpenAI 官网截图
而有趣的地方在于,当马斯克的提议遭到拒绝后,他很快就选择了离开 OpenAI,并放狠话称对方成功的概率是零,自己会在特斯拉内部成了一个 AGI 部门。
和所有精彩的故事一样,马斯克和 OpenAI 的冲突现在也有了两个版本:一个是创始人痛心疾首自己的造物误入歧途,另一个是夺权不成怀恨在心,伺机报复。
或许这两套叙事都是真相。
正如诉讼书中所说的那样,如果没有马斯克的参与和支持,OpenAI 可能永远也不会起步。
但即便如此马斯克依旧低估了自己,实际上他不止塑造了 OpenAI 一次,今天 OpenAI 转向成为「微软的子公司」,其实也与他过于旺盛的控制欲,对 AI 的焦虑,以及放弃支持 OpenAI 的决定脱不开关系。
与谷歌对抗
OpenAI 成立之初设想的所有伟大愿景,在马斯克这里都有一个明确的竞争对象——谷歌。
2013 年,在和谷歌联合创始人拉里·佩奇进行了一些马拉松式的讨论之后,马斯克开始担心 AI 的影响。对方几乎不关心 AI 可能给人类社会带来什么负面效应,而且似乎也认为机器人的权利与人类平等。当在马斯克表达自己的担忧时,佩奇指责他是「物种歧视者」。当时,谷歌聘用了世界上大部分 AI 人才,并且正在筹备收购 DeepMind。
让一家不关心人类命运的公司来掌握顶级 AI 技术?马斯克不愿意看这样的事情发生。 过去的十几年甚至更长的时间里,马斯克一直活在对 AI 的焦虑中。他认为如果 AI 技术不得到合理的监管,就会像许多科幻电影里那样成为毁灭人类的武器。
《马斯克传》的作者沃尔特·艾萨克森曾在书中描述过一个奇特的场景:一个阳光明媚的春日,马斯克边上坐着希冯·齐里斯,这位脑机接口公司 Neuralink 的高管是她的妻子。远处一对眼眸清澈的双胞胎正在蹒跚学步。而他却在悲观地推测着 AI 毁灭地球之前,在火星上建立一个可持续发展的人类殖民地的机会窗口还有多久。
和佩奇谈崩后,马斯克打电话给 DeepMind,试图阻止这项收购,但最终失败。于是,他决定花一些钱来支持建立一个更适合人类的 AI 团队,也就是后来的 OpenAI。
而奥特曼恰好看起来和他有同样的焦虑。诉讼书中提到,奥特曼 2014 年的一篇帖子写道:如果 AGI 实现,将成为(社会)发展最大的动力,但不幸的是,顶尖的研究者都对此保密。2015 年的另一篇帖子中,奥特曼声称 AI 的发展可能是对人类生存最大的威胁,必须要与之抗争。
对大公司秘密掌握 AI 技术不满。认为 AI 有可能对人类生存产生威胁。显然,这两种观点就是解锁马斯克支持的咒语。在他看来,OpenAI 自始至终就是(并且应该是)对抗谷歌这样的「科技寡头」而存在的独立实验室,宛如黑客帝国里人类幸存者最后的都市 Zion。
因此,当谷歌在 2016 年以后接连在 AI 领域取得大踏步式成就时,马斯克感到了前所未有的危机感。OpenAI 与谷歌之间的差距正在拉大,他认为一定是机构的管理出现了问题,摆在面前的两个选项一个是放弃,而另一个是由自己来将它扭回正轨。
这两个选择他都做了。
在 OpenAI 披露的几封邮件中,马斯克阐述了自己将如何支持 OpenAI 与谷歌竞争。
在他看来,OpenAI 正在烧钱,而投入研究的经费无论如何也不可能与巨头谷歌相竞争,这意味着 OpenAI 的任何公开研究对谷歌来说都很容易复制甚至被直接兼并。
而特斯拉如果自动驾驶技术进展顺利,从投资价值上来说或足够与谷歌对垒,OpenAI 将特斯拉作为「现金牛」是一个不错的选择。
听起来不错,但别忘了当时是 2018 年,正在跨越「产能地狱」的特斯拉能不能活下去都是一个问题。 而作为硅谷闻名的暴君和偏执狂,愿意在马斯克手下工作的人实在不多,尤其是拒绝了「fuck money」来 OpenAI 追逐理想的顶尖程序员们。
所谓的「Fuck money」是硅谷大公司抢夺人才间的基本操作,一些大公司为了防止顶尖人才流入其他公司,开高薪养他们,即便不做任何工作。
在 OpenAI 明确表达拒绝成为「马斯克宇宙」的一部分之后,马斯克在当年早些时候的一次全体会议上告别,会上他预测 OpenAI 将失败,并至少称其中一名研究人员为「jackass(蠢驴)」。
据说,OpenAI 后来给这名员工发了一座刻着 jackass 的奖杯。
投入微软的怀抱
OpenAI 虽然守住了「主权」,但海量研发经费从何而来的问题却前所未有的棘手,马斯克离开时顺便切断了对它们的资金支持。
与马斯克不同,当时奥特曼还不知道如何带领一家机构走向成功。虽然他已经创业过一次,但骨子里依旧是一个浪漫的技术主义者。这份特质在他身上已经存在了数十年,从手指几乎无法覆盖键盘起就一直在编码。
奥特曼的 8 岁生日礼物是一台 Macintosh LC II。一天晚上,他玩到很晚的时候,脑海里突然闪出一个想法:“有一天,这台计算机将学会思考。”
计算机与人类共存,甚至比人类更出色的想法让奥特曼兴奋不已。但当这个关于 AI 的梦想需要来自人类社会的资金支持,并且责任落在奥特曼头顶时,他确确实实慌了。
“Elon 正在切断他的支持,我们应该怎么办?”
马斯克离开后,奥特曼惊慌失措地打电话给 OpenAI 当时的另一名董事里德·霍夫曼寻求帮助,后者慷慨地提供了公司的管理费用和工资,但进行研发和模型训练的费用仍不知下落。
终于,微软登场了。
站在后来者的立场,这家企业超越苹果问鼎全球市值第一,OpenAI 功不可没。过去一年时间里,它的股价累计上涨了 57%,观察者普遍认为得益于 OpenAI 提供了顶尖的 AI 技术。去年 2 月微软推出结合 OpenAI 技术的最新版 Bing 搜索引擎时,CEO 纳德拉不无得意地表示,谷歌面临微软带来的更激烈的搜索竞争,“我们让他们(谷歌)‘跳舞’。”
而在这场被马斯克诟病的合作萌芽之初,奥特曼考虑的问题实际上很简单——谁能提供训练 GPT 所需的计算资源?
GPT 系列的每次迭代都需要指数级的计算能力——GPT-2 拥有超过 10 亿个参数,而 GPT-3 将使用 1750 亿个参数。“OpenAI 现在就像《大白鲨》中的昆特,在鲨鱼猎人看到大白鲨的尺寸后,结果不知道他们需要多大的船。”长期关注 OpenAI 的科技作家史蒂文·利维这样描述当时奥特曼的困境。
OpenAI 的选择并不多,“我们很快就瞄准了微软”,奥特曼说。
Azure(微软的云业务)是少数能支撑 GPT 训练的云厂商,因此微软最初投资 OpenAI 的 10 亿元能够通过云业务稳定收回,是一笔相当划算的交易。
经过多年的磨合,OpenAI 和微软已经建立起了亲密无间的合作关系。现在,微软拥有将 OpenAI 技术商业化的独家许可,据说还拥有 OpenAI 营利部门的 49% 股权。根据它们之间的排他性协议,OpenAI 最初向所有人平等提供 AI 技术的愿景,似乎已经被扫进了垃圾堆。
这当然会引起马斯克的不满。
为 ChatGPT 设置会员,用 AI 技术换取微软的投资(至今已经累计 130 亿美元),放弃公开的承诺……马斯克为了对抗谷歌而推动成立的 OpenAI,如今却转身投入了另一家科技寡头的怀抱。
诉讼书中,马斯克尤其强调了一条 OpenAI 与微软开展合作的原则——仅能提供 AGI 之前的技术。但究竟什么时候才能叫 AGI?解释权掌握在它们手里。
裂痕一旦出现就无法修复,马斯克坚信“无论社会成本有多么严重,奥特曼都会尽快扩大 OpenAI 的规模” ,为此他引用了麻省理工的经济学家发表在泰晤士报上的一篇评论,“不受控制的增长已经成为了科技行业的信仰,而奥特曼一直是其中最尽心尽责的大祭司。”
除了 OpenAI 违背初心之外,马斯克还关注到了另一个关键问题。
如果 OpenAI 可以通过与微软共同运作营利机构的方式来发展自身,并享受着社会为非营利机构开的绿灯(比如税收减免、免于侵权危机),那么任何实体都会效仿它们的做法,这将给现有的商业规则带来颠覆性的冲击。
谁会破坏秩序,大众还是大公司?
本质上来说,马斯克和 OpenAI 的恩怨其实核心就只有一个问题——是 AI 技术应该被大众掌握,还是被少数人掌握?
OpenAI 曾经也相信 AI 应该被大众掌握,证明就是它面向社会公开了 GPT-4 以前模型的论文和代码。但在这些举措的背后,研发人员的想法也逐渐发生了变化。不是因为商业利益,而是担心 AI 被有心人利用而造成混乱。
担忧最早出现在 GPT-2 面世的时候。
GPT 系列的真正孵化者弗雷德在使用互联网上的 15 亿个参数训练出了 GPT-2 后,他想起了 2008 年读过的一本叫做《Anathem》的书。书里描述“互联网上充斥着垃圾邮件生成器”,这让他开始重新审视自己的造物。“我开始不安地意识到这是一种真正的可能。”
弗雷德的担忧得到了 OpenAI 团队的认可,他们开始觉得将成果放在可以轻松访问到的地方不是一个好主意,并与一些安全团队进行了合作。最终,OpenAI 暂时保留了完整版本,并向公众提供了较弱的版本。
当然,当 OpenAI 最终分享 GPT-2 的完整版本时,世界并没有发生什么改变,一切照旧。但种子已经在团队心里种下,没人敢保证更强大的模型不会带来灾难。
作为科技观察者,「硅基研究室」完全能理解 OpenAI 团队对于 AI 技术公开的担忧。过去一年时间里涌现出的新型 AI 诈骗已经让人坐立难安,尤其是那些不关注科技前沿动态的人,很难从以假乱真的 AI 产品中找到真相。
事实上,2015 年 OpenAI 正式启动时,前文提到的科技作者史蒂文·利维就曾问过马斯克和奥特曼相关的问题,“让 AI 技术变得易于使用,难道不会赋予未来的邪恶博士力量吗?”
马斯克的回答相当乐观,他认为人类总体上是善良的,因此坏人会被压垮。
真正的问题在于,AI 需要被掌握在不受利润动机污染的研究机构手中,因为这些机构在追求财报数字的过程中,往往会忽视人类的真实需求。
OpenAI 的董事会曾经是阻止这家非营利机构陷入逐利诱惑的「门卫」。
最初 OpenAI 成立营利部门时,COO 莱特卡普表示,董事会将确保收入和利润的驱动力不会压倒最初的想法。而董事会成员迪安杰罗同样表示,自己将认真对待这一责任,“确保 OpenAI 忠于其使命”。
而如今这些门卫的权利正在被稀释。 经历 CEO 罢免事件后,新的董事会中新增了 3 名新面孔,其中一名曾担任比尔盖兹基金会的 CEO。
显然,在马斯克眼里,这些变动成为了世界向《终结者》乃至《黑客帝国》极速演变的进度条,并且持同样看法的人可能不在少数。
但客观来说,马斯克的诉讼可能很难取得什么效果。他列举的所谓《协议》都只是邮件、博文、口头承诺和一些零散文件的拼凑,这些内容无法在法律上获得认同。
OpenAI 投资者因此放下心来。投资人之一科斯拉在接受媒体采访时表示,马斯克不能起诉 OpenAI 的 AI 突破之路违反创始协议,因为“没有创始协议,或者根本没有任何协议”。
这句话宛如一个关于眼下 AI 发展的隐喻,所有人都宣称将把 AI 用在改善人们生活的领域,但「没有任何协议」。
参考资料:
《马斯克传》,沃尔特·艾萨克森 What OpenAI Really Wants,Steven·levy Why Elon Musk’s OpenAI Lawsuit Leans on A.I. Research From Microsoft,The New York Times Elon Musk Sues OpenAI and Sam Altman for Violating the Company’s Principles,The New York Times OpenAI and Elon Musk,OpenAI 马斯克起诉 OpenAI 的诉讼书