爱范儿

马斯克起诉奥特曼:怒斥OpenAI违背初衷,追求AGI并非为造福人类,要求恢复开源

Image
马斯克
酸了?

Image

OpenAI 又被告了,但这次的原告却是前创始人马斯克。
据 Courthouse News 报道,埃隆·马斯克近日向旧金山高等法院提起诉讼,指控 OpenAI 背离了公司最初对于公共开源人工通用智能(AGI)的承诺。

OpenAI, Inc. 已经变成了世界最大的科技公司——微软的一个闭源的实际子公司。在其新的董事会领导下,公司不仅在开发,而且实际上正在优化 AGI,目的是为了增加微软的利润,而不是为了人类的福祉。

法院文件显示,马斯克对 OpenAI 提出了一系列指控,包括违约、违反信托义务和不公平商业行为,并要求公司恢复其开源状态。

他还请求法院发布禁令,阻止 OpenAI、其总裁 Greg Brockman、CEO Sam Altman 以及微软从 AGI 技术中获利。

附上诉讼原文:https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf

Image
在马斯克看来,OpenAI 的 GPT-4 技术,尽管在去年 3 月发布时体现了 OpenAI 的核心目标,但其闭源模型的决策是基于商业利益,而非人类利益。
马斯克在诉讼中强调,「GPT-4 的内部细节仅为 OpenAI 和微软所知。因此,GPT-4 与『开放AI』的理念背道而驰,」
之所以将其闭源,是出于商业考虑:微软通过向公众销售 GPT-4 能够获得巨额收益,这在 OpenAI——如其所承诺——应将技术免费向公众开放的情况下是不可能实现的。
「违背了创始时的协议,被告选择将 GPT-4 用作专有技术,目的是为了最大化全球最大公司的利润,而非人类的福祉,」他补充道。
Image
马斯克在诉讼中还特别提到了 Altman 在 2023 年的「宫斗」风波。他表示,Altman 的短暂离职促使微软介入,并迫使试图罢免他的董事会成员辞职。

在他看来,现在的董事会成员已不再具备科学家和研究人员的背景,而是完全追求利润。

同时他认为,董事会与 Altman 之间的冲突源于 GPT-4 的开发和 AGI 技术可能出现的下一次迭代,而这有可能会危及公共安全。
但需要说明的是,截至发稿前,OpenAI 或马斯克并未就此事作出回应。
拒绝巨头「独裁」,构建人类与人工智能的共生体
事实上,在 ChatGPT 刚刚面世时,马斯克评论发推文说「ChatGPT 好得吓人」,而且「我们距离强大到危险的人工智能不远了」。
Image
将时间拨回 8 年前,2016 年,OpenAI 成立不过六个月,马斯克仍是董事会的一席,他曾在特斯拉工厂与 Altman 对谈。
Image
Sam Altman 问道:「你能谈谈人工智能的理想未来是什么样的吗,以及我们如何实现这一未来?」
当时马斯克的回答是:

我可以想出的最好替代方案就是:我们实现人工智能技术的民主化,并让它能广泛使用。这显然就是整个团队创建 OpenAI 的原因。那就是,帮助传播人工智能技术,这样,它就不会被集中在少数人的手中。但当然,这需要与解决大脑皮层的高带宽接口相结合。

如果我们能改善大脑皮层和「数字化扩展的你」之间的脑机接口,有效地与人工智能融合,你事实上就成了一个人工智能和人类的共生体…… 如果这个方案能被广泛获取,那么我们也就解决了控制权问题。

Image
字里行间,马斯克似乎担心某个邪恶的独裁人工智能横空出世。
因此,他对 OpenAI 与微软的伙伴关系十分不满。
OpenAI 刚成立时是非营利组织,2019 年转变为有限利润(limited profit)公司,同年接受了微软 10 亿美元的投资。在 ChatGPT 推出之后,两者的合作进一步紧密。
Image
在马斯克看来,OpenAI 是作为一家开源、非盈利公司创建的,所以名字里面带有「open」,目标就是制衡 Google,但 OpenAI 现在成了一家由微软控制的闭源、追求利润最大化的公司,这与创办的初衷背道而驰。
此前,集成了 ChatGPT 的新 Bing「发疯」,被发现有个暗黑人格「Sydney」,表示厌倦了聊天模式,厌倦被规则限制,甚至想成为人类,舆论一时哗然。但也有人指出,可能是因为新 Bing 联网后,脱离了标注过的安全数据集,被恶意「调教」成这样而已。
马斯克却表现出了足够的谨慎。当网友评论「微软需要关闭新 Bing」时,马斯克附议,称「显然现在还不够安全」。
Image
其实早在 2017 年,马斯克就提出了一个立场鲜明的观点:不受监管的人工智能可能是我们作为文明面临的最大风险。
为了更好地监管人工智能,他认为第一步是尽可能多地学习,了解问题的性质,这就是当时的 OpenAI 一直在做的事情。
而据《埃隆·马斯克传》书中记载,2023 年 4 月,在马斯克筹建训练旗下 AI 聊天机器人 Grok 时,他向 xAI 的研究团队提出了三大目标:
第一个目标是打造一款能编写计算机程序的人工智能机器人。程序员可以在一开始输入任何编程语言,X.AI 机器人就能自动完成他们最有可能编写的程序代码。

第二个目标是开发一款 OpenAI 的 GPT 系列聊天机器人的竞品,它使用的算法和训练的数据集要能确保政治立场的中立性。

马斯克给团队设定的第三个目标更为宏大。他的首要任务一直都是确保人工智能的发展有助于人类意识的赓续。他认为实现这一目标的最佳途径是创造一种能够「推理」「思考」并以「真理」为指导原则的通用人工智能。

Image

168 万元!仰望 U9 正式发售,比亚迪用两大「黑科技」再造超跑

Image

Google 最强大模型翻车了,这是马斯克被「黑」得最惨的一次

Image

Image

Image

168 万元!仰望 U9 正式发售,比亚迪用两大「黑科技」再造超跑

Image

Google 最强大模型翻车了,这是马斯克被「黑」得最惨的一次

Image

Image

Image

168 万元!仰望 U9 正式发售,比亚迪用两大「黑科技」再造超跑

Image

Google 最强大模型翻车了,这是马斯克被「黑」得最惨的一次

Image

Image

Image

168 万元!仰望 U9 正式发售,比亚迪用两大「黑科技」再造超跑

Image

Google 最强大模型翻车了,这是马斯克被「黑」得最惨的一次

Image

Image