马斯克走后,结局已注定!OpenAI竟10亿美元出售灵魂
来源:Reddit
编辑:yaxin su 【新智元导读】2015年创立之初,OpenAI宣称是非营利机构,向公众开放专利和研究成果,要为人类谋福利。短短4年,它便成为全世界最具盛名的AI研究机构。然而,一切变化始于2019年。先是微软投入10亿美元,再到后来GPT-3商业化,OpenAI或许早已忘记那颗炽热的初心!
10亿美元出售灵魂,值吗?
成立于2015年的 OpenAI,一开始就打着 非营利机构 的旗号,要 为人类谋福利 。
现在呢?却被许多网友戏称为 ClosedAI 。
「他们是在更换名字,商讨如何关门吗? 我非常怀疑,那些人出卖了自己的灵魂! 」
需要营利的非营利组织
2015年成立,短短4年间,OpenAI已经成为全世界最具盛名的AI研究机构。
但盛名之下,却也伴随着质疑:宣传太过火?
马斯克和 Sam Altman 创立OpenAI之初,便定下目标:通过与其他机构和研究者的自由合作, 向公众开放专利和研究成果 。
最终目标, 通用人工智能(AGI) 。
也就是 2019年,OpenAI 成为一家名为 OpenAI LP 的盈利性公司 。
这是一家「利润上限(caped-profit)」的公司。
就是说,任何对OpenAI LP投资的利润都将转移到一个大的非盈利公司上,回报达到投资的 100倍 之后才会分配利润。
一切变化之始,大概还是源于 「营利」二字 。
OpenAI新任首席执行官 Sam Altman 明确表示:「 OpenAI需要赚钱才能进行研究 。」
几个月后, 微软注入了「10亿美元」 。
要清楚的是,OpenAI 与微软的合作是建立在允许后者将部分技术商业化的基础上,正如当前的 GPT-3。
训练GPT-3的费用约为1200万美元,这仅仅是训练。
OpenAI 意识到自己需要投资时,微软也恰好需要提供云计算服务,因此作为交换,以一种没有公开的方式 默默将其系统商业化 。
对于微软来说,这是一笔 双赢的投资 。
这10 亿美元押注承载着微软追求 AI 的终极梦想:打造一个巨大的人造「大脑」,运行在微软全球范围内的云计算系统上。
同时,这笔投资也将有助于 OpenAI 追求人工智能领域的「圣杯」——通用人工智能(AGI)。
这么讲蛮有道理。
从GPT-2到GPT-3,是噱头还是深思熟虑
2019年初,OpenAI 推出了功能强大的自然语言模型 GPT-2,能够生成人性化文本。
当时,研究人员认定 GPT-2 是一个巨大的飞跃,因此释放它太危险了。
许多人担心它可能被用来「传播假新闻、垃圾邮件和虚假信息」。
罗格斯大学教授 Britt Paris 曾表示,「 看起来 OpenAI 正试图利用人工智能给人们带来恐慌。 」
紧接着,2020年,OpenAI 再次通过API发布了最新语言模型 GPT-3,1750亿参数,烧了万张显卡。
OpenAI 认为新系统比 GPT-2大100倍, 功能更强大,因此本质上更加危险。
他们甚至承认,如果产品落入坏人手中,可能会出现一些问题。
从潜在的 滥用 ,包括错误信息、垃圾邮件、网络钓鱼、滥用法律和欺诈性学术论文写作,到 社会偏见 ,强调性别、种族和宗教。
他们逐个审查每个访问请求,但是仍然 无法控制系统最终的用途。
即便OpenAI研究人员认识到这些问题的存在,但仍然决定允许用户试用该系统。
为什么要通过 API 发布而不是开源模型呢?
OpenAI 表示,其中一个原因是「需要为他们正在进行的人工智能研究、安全和政策方面的努力买单。」
Copilot潜在的法律问题
几周前,OpenAI、GitHub和微软联合发布了Copilot,这是一个基于Codex的 AI 结对编程助手。
然而,却引来了强烈批评,因为Copilot是 用 GitHub 公共存储库的开源代码盲目训练的。
有用户在Hacker News上指出了使用Copilot可能存在的法律问题,比如,「 AI 生成的代码属于我还是 GitHub?」「生成的代码用什么许可证?」「如果生成的代码侵权,谁来担责或采取法律行动?」
GitHub 首席执行官Nat Friedman回答说成果属于操作者,但是其他问题并未回应。
另外,著名开发者 Armin Ronacher 也在 Twitter 上分享过Copilot 抄袭大量受版权保护代码 的例子。
还有用户称,「有直接证据表明 Copilot直接 复制了 GPL 的大量代码 。」
不过,最让人想不通的是,Copilot是在数千名开发人员生成的开源代码上训练的,然后GitHub 或OpenAI又将这一系统出售给相同的开发人员使用。
程序员兼游戏设计师 Evelyn Woods说,「这感觉就像是当面嘲笑开源。」
网友:OpenAI变了吗?
OpenAI正和微软越走越近,利益紧密相连。
可能, 大型科技公司 的首要任务就不是构建通用人工智能,也不是构建最安全、最负责任、最合乎道德的人工智能模型。
他们 最想做的还是「赚钱」。
是不是规模大了,忘了初心?有不少网友纷纷在Reddit表示怀旧。
「怀念2017年的OpenAI。只有高质量和开放的研究,没有学术界的废话。而训练机械手臂解魔方是从研究转向纯工程并专注于宣传和赚钱的第一步。」
还有网友表示,「 马斯克2018年离开的时候,结局就注定了。 」
既然有人提到了OpenAI 的联合创始人马斯克,来看他怎么说,「OpenAI应当更开放(个人意见)。」
参考资料:
https://www.reddit.com/r/MachineLearning/comments/pizllt/d_how_openai_sold_its_soul_for_1_billion_the/
https://www.infoq.cn/article/t8-ykpp6kov0sgexidff
图片中的小点可能是第一次看到正在形成的系外行星新的望远镜图像可能提供太阳系外形成的卫星的第一个视图。智利的阿塔卡马大型毫米亚毫米阵列在距离地球约370光年的一颗小系外行星周围瞥见了一个可能形成月球的物质的尘埃盘。研究人员于7月
蜥蜴如何在水下进行呼吸一项新的研究发现,哥斯达黎加一些蜥蜴蜥蜴的鼻子上的气泡使爬行动物能够在水下长时间呼吸。一些蜥蜴拥有一项新发现的超能力它们可以通过在鼻子上的气泡来在进行水下呼吸。更重要的是,这些爬行
用苹果手机的注意,看看你的手机电池健康度,是否要更换电池了?苹果公司官方建议,iphone的手机电池健康度低于80就要更换。那么如何看自己苹果手机的健康度呢?点击苹果系统中的设置,选择电池,点击电池健康度就可以看到了。下面我们来看详细操作步
跳出大脑框思考缸中无实体的大脑是科幻小说的一个有趣比喻。没有大桶,大脑需要一个身体来产生营养来维持自身并提供有关其环境的信息。视觉听觉触觉味觉嗅觉和本体感觉帮助我们导航并寻找食物或生殖伙伴。科幻
失踪的南极微生物引发了有关寻找外星人的棘手问题研究人员在南极洲沙克尔顿冰川附近搜寻微生物即使在最恶劣的环境中,微生物似乎也总能幸免于难。从沸腾的海底热液喷口到山上的高处,它们无处不在。珠穆朗玛峰。甚至在国际空间站的船体上还发现
新的德尔塔(delta)变异研究表明大流行远未结束一名男子从纽约市布莱顿海滩的一个地铁站出来,那里的德尔塔变体导致最近新冠病毒病例激增。卫生官员发现,冠状病毒的德尔塔变异体与早期的病毒株不同。而这些差异可能意味着过去人们认为接种疫
关注亚洲大黄蜂扭曲了对入侵物种的看法2021年在北美发现的第一只亚洲巨型大黄蜂来自以前未知的入侵。科学家们说,2021年6月在北美发现的第一批入侵大黄蜂可能不是来自今年建造的巢穴。所以这个发现并没有说明害虫是否能在冬
闪电可能是空气净化化学品的重要来源雷暴,就像2017年德克萨斯州的雷暴,可能会产生大量氧化剂,这些氧化剂对大气的自清洁能力至关重要闪电可以在将污染物从大气中排出方面发挥重要作用。研究人员于4月29日在线发表在科学杂
近乎无敌的缓步动物可能只能看到黑白一项研究表明,对于像水熊虫这样的缓步动物来说,色彩的世界可能遥不可及,因为这些动物没有正确的感光蛋白下次你看到彩虹时,要庆幸你不是水熊虫。虽然这些微观生物,也被称为水熊虫,在辐射太
石油泄漏对海洋生物造成了重大污染,超市里的海鲜到底还能不能吃图片来源google加州一直以风景秀丽的海岸线和众多世界著名的冲浪地点而闻名,特别是洛杉矶,光周边就有数十个海滩,无论春夏秋冬,都有人穿着比基尼前往。这也使其城市被称为无尽夏日。但
如果海洋现实了我们会怎样这个不太可能。因为目前看。只有月球离开地球。大层没有了。人无法在外面,没有臭味只有干枯。任何爆漏在外面的含水生物立刻干枯。用不了多久生物肉干就会石化。水只有地下水。不过随着时间也会