以下是关于 OpenAI 写作相关的内容：
有一家公司正在建造一个AI，它占据了巨大的房间，消耗了一个城镇的电力，并且最近获得了令人惊叹的与人交谈的能力。它可以就任何主题撰写文章或诗歌。它可以轻松通过大学级别的考试。它每天都在获得工程师们尚未公开讨论的新能力。然而，这些工程师确实坐在公司自助餐厅里，辩论他们所创造的东西的意义。下周它会学到做什么？哪些工作可能会被它使变得过时？他们应该放慢或停止，以免激怒龙的尾巴吗？但这不就意味着其他人，可能是那些道德观念较少的人，会首先唤醒龙吗？是否有道德义务告诉世界更多关于这个的信息？是否有义务告诉得更少？我——你——将在那家公司工作一年。我的工作——你的工作——是开发一个关于如何防止AI及其后继者造成破坏的数学理论。这里的“造成破坏”可能意味着任何事情，从加速宣传和学术作弊，到提供生物恐怖主义建议，到是的，摧毁世界。[OpenAI 2027 AGI.pdf](https://bytedance.feishu.cn/space/api/box/stream/download/all/OcrebSvWPoO2TQxuhoQcNL2OnOK?allow_redirect=1)
去年11月之前，人们对OpenAI的了解主要局限于技术和软件开发领域。但现在全世界都知道，OpenAI在当月晚些时候发布了一款基于GPT-3.5最新版本的消费级产品。几个月来，公司内部一直在使用带有对话界面的GPT版本。这对于该公司所谓的“寻求真相”尤为重要。这意味着，通过对话，用户可以哄骗模型提供更可信、更完整的回答。为大众而优化的ChatGPT可以让任何人只需输入提示信息，就能立即利用似乎无穷无尽的知识源，然后继续对话，就像与一个碰巧无所不知的人类同伴闲聊一样，尽管他也有捏造事实的嗜好。在OpenAI内部，对于是否应该发布这样一款功能空前强大的工具，人们争论不休。但Altman对此表示支持。他解释说，这次发布是一项战略的一部分，旨在让公众适应AI注定会改变他们日常生活的现实，而且可能是为了更好地生活。在公司内部，这被称为“迭代部署假设”。当然，ChatGPT会引起轰动。毕竟，这是一个任何人都能使用的东西，它足够聪明，能在SAT考试中获得大学水平的分数，能写出B-minus的作文，还能在几秒钟内总结出一本书的内容。你可以让它为你撰写融资提案或会议摘要，然后要求它用立陶宛语、莎士比亚十四行诗或痴迷玩具火车的人的口吻进行改写。几秒钟后，大型语言模型就会满足你的要求。太疯狂了。不过，OpenAI将其视为其更新、更连贯、能力更强、更可怕的后继者GPT-4的台标，据说GPT-4是用1.7万亿个参数训练出来的。（OpenAI不会证实这个数字，也不会透露数据集）。
以下是本次Ilya访谈的天空之城文字整理版主持人：OpenAI，这是一家我们现在都熟知的公司，然而一年前，它只有100名员工，却正在改变世界。他们的研究正在引领通用人工智能的发展。自去年11月ChatGPT吸引了消费者的关注以来，他们的发展势头并未有任何放缓的迹象。本周，我们有幸与OpenAI的联合创始人兼首席科学家Ilya Sutskever进行了深入的交谈，我们讨论了人工智能研究的现状、我们将在哪些方面达到极限、通用人工智能的未来，以及如何实现超级一致性。伊利亚，欢迎来到播客。非常高兴来到这里。