人工智能

ChatGPT火了,OpenAI却飘了?

字号+作者: 来源:大数据文摘 2023-03-03 16:46 评论(创建话题) 收藏成功收藏本文

ChatGPT现在有多火相信大家已经是有目共睹。根据ARK风险投资公司首席未来学家BrettWinton统计的数据,ChatGPT日活量突破千万,只用了不到两个月的时间。作'...

ChatGPT现在有多火相信大家已经是有目共睹。根据ARK风险投资公司首席未来学家BrettWinton统计的数据,ChatGPT日活量突破千万,只用了不到两个月的时间。作为对照,上一个现象级软件Instagram达到这一成就花了355天。HcS品论天涯网


HcS品论天涯网

1月中旬,《纽约时报》报道称,北密歇根大学的哲学教授AntonyAumann在世界宗教课程评分时,惊喜地读到了一篇“全班最好的论文”。学生用简洁的段落、恰当的举例和严谨的论据,探讨了罩袍禁令的道德意义。然而,在Aumann的追问之下,学生承认论文用ChatGPT写的HcS品论天涯网

类似的例子还有很多。HcS品论天涯网

也正是随着ChatGPT在全球范围内的爆火,OpenAI也被迅速推到了舆论的“风口浪尖”。HcS品论天涯网

可以说,OpenAI目前处于聊天机器人军备竞赛的领头地位。单以ChatGPT为例,公开发布和微软数十亿美元的合作不仅刺激了Google和亚马逊紧急在产品线中布局人工智能,OpenAI还与贝恩合作,将机器学习引入可口可乐的运营,并计划扩展到其他企业合作伙伴。HcS品论天涯网

毫无疑问,OpenAI的人工智能已经成了笔大生意,但其实这与OpenAI最初的计划有些出入。HcS品论天涯网

“人类的未来应该由人类来决定”HcS品论天涯网

上周五,OpenAI首席执行官SamAltman发表了一篇博文,题为“规划AGI和超越”(PlanningforAGIandbeyond)。HcS品论天涯网


HcS品论天涯网

在文章中,他宣称OpenAI的通用人工智能(AGI)目前还远没达到要求,许多人怀疑它能否造福全人类,是否“有可能给每个人带来令人难以置信的新能力”。HcS品论天涯网

Altman用一种宽泛的、理想主义的语言来论证人工智能的发展不应停止,“人类的未来应该由人类来决定”,这里暗暗指向了OpenAI。HcS品论天涯网

几乎是在ChatGPT爆火的周期内,这篇博文和OpenAI近期的行动不断提醒着大家,OpenAI的基调和使命与它成立时相比发生了多大的变化HcS品论天涯网

成立初期的OpenAI只是一个非营利组织。虽然公司一直着眼于AGI发展,但成立时他们承诺不追求利润,免费分享开发代码HcS品论天涯网

而今天,这些承诺已经无处可寻。HcS品论天涯网

OpenAI的动力变成了速度和利润HcS品论天涯网

2015年,Altman、马斯克、PeterThiel、ReidHoffman宣布成立一家非营利性研究机构OpenAI。在成立声明中,OpenAI宣布,研究承诺“以最有可能造福全人类的方式推进人工智能,不受产生经济回报的限制”。该博客还称,“由于我们的研究没有财务义务,可以更好地专注于对人类的积极影响”,并鼓励所有研究人员分享“论文、博客文章或代码,我们的专利(如果有的话)将与世界共享”。HcS品论天涯网

8年后,我们面对的是一家既不透明也不以积极的人类影响为动力的公司。相反,正如包括马斯克在内的许多批评者所认为的那样,OpenAI的动力变成了速度和利润HcS品论天涯网


HcS品论天涯网

同时,OpenAI正在释放技术。当然其中存在缺陷,但仍准备以牺牲人类员工为代价增加工作场所的自动化转变。例如,Google强调了自动完成代码的人工智能带来的效率提升,从而导致数千名工人被裁。HcS品论天涯网

OpenAI初期,媒体与从业者们都将其设想为以开放的方式进行基础人工智能研究,目的不确定。联合创始人GregBockman曾说:“我们现在的目标......是做最好的事情。这有点模糊不清”。HcS品论天涯网

这也无形之中促成了公司在2018年方向的转变。当时,OpenAI向资本资源寻求一些方向,“我们的主要受托责任是对人类。我们预计需要调集大量资源来完成我们的使命”。HcS品论天涯网

到2019年3月,OpenAI已经完全摆脱了其非盈利的头衔,建立了一个“封顶利润(cappedprofit)”部门。这使得OpenAI开始接受投资,并会为投资者提供封顶为投资100倍的利润。HcS品论天涯网

这项决定被视为是与Google等大科技公司的一次竞争,而不久后公司也如愿获得了微软10亿美元的投资。在宣布成立营利性公司的博文中,OpenAI继续使用相同的说法,宣称其使命是“确保通用人工智能惠及全人类”。HcS品论天涯网

但正如Motherboard写道,当风险投资家的主要目标是利润时,很难相信他们能拯救人类。HcS品论天涯网

OpenAI还值得公众的信任吗?HcS品论天涯网

2019年,OpenAI宣布和发布GPT-2语言模型时面临了舆论反弹。HcS品论天涯网

起初,该公司表示,由于“担心该技术的恶意应用”,它不会发布训练模型的源代码。虽然这在一定程度上反映了其对开发有益人工智能的承诺,但它也不是很“开放”HcS品论天涯网

批评者想知道为什么OpenAI会在宣布了一个工具之后却不发布,于是不少人认为这只是宣传噱头。直到三个月后,OpenAI才在GitHub上发布了该模型,并表示这一行动是“负责任地发布人工智能的一个重要基础,特别是在强大的生成模型方面”。HcS品论天涯网


HcS品论天涯网

调查记者KarenHao在2020年期间在公司内部待了几天,根据他的说法,OpenAI的内部文化开始不再反映谨慎的、研究驱动的人工智能开发过程,而是更注重出人头地,这也导致人们指责其助长了“人工智能炒作周期”。员工现在也被要求对手头的工作保持沉默,以遵守公司新的章程。HcS品论天涯网

“公司公开支持的内容和闭门造车的方式之间存在着错位。随着时间的推移,它已经允许激烈的竞争和不断增加的资金压力侵蚀其透明、开放和合作的创始理想。”Hao写道。HcS品论天涯网

但总的来说,GPT-2的推出对OpenAI而言无疑是一件值得庆祝的事,也是公司发展至今的重要基石。“这绝对是成功故事框架的一部分”,现任政策研究主管MilesBrundage在一次会议上说,“这一部分的剧情应该是这样的:我们做了一件雄心勃勃的事情,现在有些人正在复制它,这里还应该有一些对这项创新益处的解释”。HcS品论天涯网

从那时起,OpenAI保留了GPT-2发布公式中的炒作部分,但取消了开放性。2020年,GPT-3正式推出,并迅速“独家”授权给微软。GPT-3的源代码仍未发布,尽管目前OpenAI已经在紧锣密鼓地筹备GPT-4了;该模型只是通过ChatGPT的API向公众开放,OpenAI还推出了一个付费层以保证对该模型的访问。HcS品论天涯网

这样做当然是有一些考量。首先就是钱。OpenAI在API公告博客中表示,“将技术商业化有助于支付我们正在进行的人工智能研究、安全和政策工作”。第二个原因是偏向于帮助大公司。“除了大公司之外,任何人都很难从底层技术中获益”。最后,公司还表示,通过API而不是开源发布更安全,因为该公司可以应对滥用情况。HcS品论天涯网

“你们一直告诉我们AGI快了,但在你们的网站上甚至没有一个一致的定义。”计算机科学家TimnitGebru在Twitter上表示。HcS品论天涯网

华盛顿大学语言学教授EmilyM.Bender在Twitter上说,“他们不想解决实际世界中的实际问题(这将需要让出权力)。他们想相信自己是神,不仅可以创造一个‘超级智能’,而且有恩惠,以一种与人类‘一致’的方式这样做”。HcS品论天涯网

这种人工智能是否会像该公司最初设想的那样,负责任地分享,公开开发,没有盈利动机?或者它是会被匆匆推出,有许多令人不安的缺陷,但主要是为OpenAI带来收益?OpenAI是否会将其科幻的未来保持在闭源状态?HcS品论天涯网

结合了ChatGPT之后,微软的必应聊天机器人处于“走火入魔”的状态,不断欺骗和呵斥着用户,传播错误信息。OpenAI不能可靠地检测自己的聊天机器人生成的文本,尽管教育工作者对学生使用该应用程序作弊的情况越来越关注。HcS品论天涯网


HcS品论天涯网

人们也已经轻易地对语言模型进行了越狱,无视OpenAI在其周围设置的护栏,机器人在输入随机的单词和短语时会崩溃。没有人能说清楚原因,因为OpenAI没有分享底层模型的代码,可能在某种程度上,OpenAI自己也不太可能完全理解它的工作原理HcS品论天涯网

考虑到这一切,我们都应该仔细考虑OpenAI是否值得它要求公众给予的信任,而对此,OpenAI没有做出任何实质性的回应。HcS品论天涯网

本网除标明“PLTYW原创”的文章外,其它文章均为转载或者爬虫(PBot)抓取。 本文只代表作者个人观点,不代表本站观点,仅供大家学习参考;转载此文是出于传递更多信息之目的,若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网站编辑联系,我们将及时更正、删除,谢谢。 本站邮箱[email protected]