openAI真正想要什么

[title]OpenAI真正想要什么| WIRED去年11月之前，人们对OpenAI的了解主要局限于技术和软件开发领域。但现在全世界都知道，OpenAI在当月晚些时候发布了一款基于GPT-3.5最新版本的消费级产品。几个月来，公司内部一直在使用带有对话界面的GPT版本。这对于该公司所谓的“寻求真相”尤为重要。这意味着，通过对话，用户可以哄骗模型提供更可信、更完整的回答。为大众而优化的ChatGPT可以让任何人只需输入提示信息，就能立即利用似乎无穷无尽的知识源，然后继续对话，就像与一个碰巧无所不知的人类同伴闲聊一样，尽管他也有捏造事实的嗜好。在OpenAI内部，对于是否应该发布这样一款功能空前强大的工具，人们争论不休。但Altman对此表示支持。他解释说，这次发布是一项战略的一部分，旨在让公众适应AI注定会改变他们日常生活的现实，而且可能是为了更好地生活。在公司内部，这被称为“迭代部署假设”。当然，ChatGPT会引起轰动。毕竟，这是一个任何人都能使用的东西，它足够聪明，能在SAT考试中获得大学水平的分数，能写出B-minus的作文，还能在几秒钟内总结出一本书的内容。你可以让它为你撰写融资提案或会议摘要，然后要求它用立陶宛语、莎士比亚十四行诗或痴迷玩具火车的人的口吻进行改写。几秒钟后，大型语言模型就会满足你的要求。太疯狂了。不过，OpenAI将其视为其更新、更连贯、能力更强、更可怕的后继者GPT-4的台标，据说GPT-4是用1.7万亿个参数训练出来的。（OpenAI不会证实这个数字，也不会透露数据集）。

[title]OpenAI真正想要什么| WIREDOpenAI成立一年多后，我在旧金山与Brockman共进午餐。作为一家名字中带有“Open”一词的公司的首席技术官，他对细节的描述相当吝啬。他确实肯定，这家非营利组织有能力在一段时间内动用最初的十亿美元捐款。25名员工的工资——他们的工资远低于市场价值——占了OpenAI支出的大头。他说：“我们的目标，也是我们真正在推动的事情，就是让系统能够完成人类以前无法完成的事情。”但目前看来，这只是一群研究人员在发表论文。采访结束后，我陪他去了公司位于使命区的新办公室，但他只允许我走到前厅。他倒是躲进衣柜里给我拿了件T恤。如果我当时进去打听一下，也许就能知道OpenAI究竟有多艰难。Brockman现在承认，“没有什么是行得通的。”它的研究人员把算法面条扔到天花板上，看看什么能粘住。他们钻研解决视频游戏的系统，并在机器人技术上花费了大量精力。Altman说：“我们知道我们想做什么。我们知道为什么要这么做。但我们不知道怎么做。”但他们相信。使用深度学习技术的人工神经网络不断改进，为他们的乐观情绪提供了支持。“总的想法是，不要对深度学习下注，”Sutskever说。他说，追逐人工智能“并非完全疯狂。它只是适度疯狂而已”。OpenAI的崛起之路真正始于它聘请了一位尚未被人熟知的研究员Alec Radford。2016年，Radford离开了他在宿舍里共同创办的波士顿一家小型AI公司，加入了OpenAI。在接受OpenAI的邀请后，他告诉他的高中校友杂志，担任这个新职位“有点类似于加入一个研究生项目”——一个研究AI的开放式、低压力的栖息地。他实际扮演的角色更像是Larry Page发明了PageRank。

[title]OpenAI真正想要什么| WIREDOpenAI于2015年12月正式启动。当时，当我采访Musk和Altman时，他们向我介绍说，这个项目旨在通过与世界共享，让AI变得安全、易用。换句话说，就是开源。他们告诉我，OpenAI不会申请专利。每个人都可以利用他们的突破。这不是在给未来的邪恶博士授权吗？我想知道。Musk说这是个好问题。但Altman给出了答案：人类一般都是善良的，而由于OpenAI将为绝大多数人提供强大的工具，因此坏人将不堪一击。他承认，如果“邪恶博士”利用这些工具制造出无法抵制的东西，“那我们的处境就真的很糟糕了”。但Musk和Altman都认为，AI更安全的发展方向是掌握在不受利益驱动污染的研究机构手中。Altman提醒我不要期望很快就有结果。他说：“在很长一段时间里，这里都会像一个研究实验室。”降低期望值还有另一个原因。谷歌和其他公司多年来一直在开发和应用AI。虽然OpenAI已投入10亿美元（主要来自Musk），拥有一支由研究人员和工程师组成的王牌团队，并且肩负着崇高的使命，但它对如何实现目标毫无头绪。Altman还记得小团队聚集在Brockman公寓里的一个时刻，当时他们还没有办公室。“我当时想，我们该怎么办？”[heading2]Altman还记得小团队聚集在Brockman公寓里的一个时刻，当时他们还没有办公室。“我当时