马斯克走后，结局已注定！OpenAI 竟10亿美元出售「灵魂」

新智元报道
来源：Reddit
编辑：yaxin su
【新智元导读】2015年创立之初，OpenAI宣称是非营利机构，向公众开放专利和研究成果，要为人类谋福利。短短4年，它便成为全世界最具盛名的AI研究机构。然而，一切变化始于2019年。先是微软投入10亿美元，再到后来GPT-3商业化，OpenAI或许早已忘记那颗炽热的初心！
10亿美元出售灵魂，值吗？
成立于2015年的 OpenAI，一开始就打着 非营利机构 的旗号，要 为人类谋福利 。

现在呢？却被许多网友戏称为 ClosedAI 。
「他们是在更换名字，商讨如何关门吗？ 我非常怀疑，那些人出卖了自己的灵魂！ 」

需要营利的非营利组织
2015年成立，短短4年间，OpenAI已经成为全世界最具盛名的AI研究机构。
但盛名之下，却也伴随着质疑：宣传太过火？
马斯克和 Sam Altman 创立OpenAI之初，便定下目标：通过与其他机构和研究者的自由合作， 向公众开放专利和研究成果 。
最终目标， 通用人工智能（AGI） 。

也就是 2019年，OpenAI 成为一家名为 OpenAI LP 的盈利性公司 。
这是一家「利润上限（caped-profit）」的公司。
就是说，任何对OpenAI LP投资的利润都将转移到一个大的非盈利公司上，回报达到投资的 100倍 之后才会分配利润。

一切变化之始，大概还是源于 「营利」二字 。
OpenAI新任首席执行官 Sam Altman 明确表示：「 OpenAI需要赚钱才能进行研究 。」

几个月后， 微软注入了「10亿美元」 。
要清楚的是，OpenAI 与微软的合作是建立在允许后者将部分技术商业化的基础上，正如当前的 GPT-3。
训练GPT-3的费用约为1200万美元，这仅仅是训练。
OpenAI 意识到自己需要投资时，微软也恰好需要提供云计算服务，因此作为交换，以一种没有公开的方式 默默将其系统商业化 。

对于微软来说，这是一笔 双赢的投资 。
这10 亿美元押注承载着微软追求 AI 的终极梦想：打造一个巨大的人造「大脑」，运行在微软全球范围内的云计算系统上。
同时，这笔投资也将有助于 OpenAI 追求人工智能领域的「圣杯」——通用人工智能（AGI）。
这么讲蛮有道理。
从GPT-2到GPT-3，是噱头还是深思熟虑
2019年初，OpenAI 推出了功能强大的自然语言模型 GPT-2，能够生成人性化文本。
当时，研究人员认定 GPT-2 是一个巨大的飞跃，因此释放它太危险了。

许多人担心它可能被用来「传播假新闻、垃圾邮件和虚假信息」。
罗格斯大学教授 Britt Paris 曾表示，「 看起来 OpenAI 正试图利用人工智能给人们带来恐慌。 」
紧接着，2020年，OpenAI 再次通过API发布了最新语言模型 GPT-3，1750亿参数，烧了万张显卡。

OpenAI 认为新系统比 GPT-2大100倍， 功能更强大，因此本质上更加危险。
他们甚至承认，如果产品落入坏人手中，可能会出现一些问题。
从潜在的 滥用 ，包括错误信息、垃圾邮件、网络钓鱼、滥用法律和欺诈性学术论文写作，到 社会偏见 ，强调性别、种族和宗教。

他们逐个审查每个访问请求，但是仍然 无法控制系统最终的用途。
即便OpenAI研究人员认识到这些问题的存在，但仍然决定允许用户试用该系统。
为什么要通过 API 发布而不是开源模型呢？
OpenAI 表示，其中一个原因是「需要为他们正在进行的人工智能研究、安全和政策方面的努力买单。」

Copilot潜在的法律问题
几周前，OpenAI、GitHub和微软联合发布了Copilot，这是一个基于Codex的 AI 结对编程助手。
然而，却引来了强烈批评，因为Copilot是 用 GitHub 公共存储库的开源代码盲目训练的。
有用户在Hacker News上指出了使用Copilot可能存在的法律问题，比如，「 AI 生成的代码属于我还是 GitHub？」「生成的代码用什么许可证？」「如果生成的代码侵权，谁来担责或采取法律行动？」

GitHub 首席执行官Nat Friedman回答说成果属于操作者，但是其他问题并未回应。
另外，著名开发者 Armin Ronacher 也在 Twitter 上分享过Copilot 抄袭大量受版权保护代码 的例子。

还有用户称，「有直接证据表明 Copilot直接 复制了 GPL 的大量代码 。」
不过，最让人想不通的是，Copilot是在数千名开发人员生成的开源代码上训练的，然后GitHub 或OpenAI又将这一系统出售给相同的开发人员使用。
程序员兼游戏设计师 Evelyn Woods说，「这感觉就像是当面嘲笑开源。」
网友：OpenAI变了吗？
OpenAI正和微软越走越近，利益紧密相连。
可能， 大型科技公司 的首要任务就不是构建通用人工智能，也不是构建最安全、最负责任、最合乎道德的人工智能模型。
他们 最想做的还是「赚钱」。
是不是规模大了，忘了初心？有不少网友纷纷在Reddit表示怀旧。
「怀念2017年的OpenAI。只有高质量和开放的研究，没有学术界的废话。而训练机械手臂解魔方是从研究转向纯工程并专注于宣传和赚钱的第一步。」

还有网友表示，「 马斯克2018年离开的时候，结局就注定了。 」

既然有人提到了OpenAI 的联合创始人马斯克，来看他怎么说，「OpenAI应当更开放（个人意见）。」

参考资料：
https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/
https://www.infoq.cn/article/t8-ykpp6kov0sgexidff

---