openAI关于道德规范的调整是什么

正如一位著名的硅谷创始人所指出的：“一个行业举起手说‘我们将成为人类的终结者’——然后继续兴高采烈地开发产品，这种情况是很少见的。”OpenAI拒绝接受这种批评。Altman和他的团队表示，工作和发布尖端产品是应对社会风险的途径。只有通过分析ChatGPT和GPT-4用户对数百万条提示的反应，他们才能获得知识，使未来的产品符合道德规范。尽管如此，随着公司承担更多任务并将更多精力投入到商业活动中，有人质疑OpenAI能在多大程度上集中精力完成任务，尤其是“降低灭绝风险”这一方面。一位AI行业高管说，“仔细想想，他们实际上在建立五项业务。产品本身、与微软的企业关系、开发者生态系统和应用商店。对了，他们显然还在进行AGI研究。”用完五根手指后，他又用食指加了第六根手指。他说，“当然，他们还在做投资基金，”他指的是一个1.75亿美元的项目，旨在为希望利用OpenAI技术的初创企业提供种子资金。“这些都是不同的文化，事实上，它们与研究任务相冲突。”我曾多次询问OpenAI的高管，披上产品公司的外衣对公司文化有何影响。他们无一例外地坚持认为，尽管进行了营利性重组，尽管要与谷歌、Meta和无数初创公司竞争，但使命仍然是核心。然而，OpenAI已经发生了变化。从技术上讲，非营利性的董事会可能是负责人，但公司里的每个人几乎都是营利性的。公司员工包括律师、营销人员、政策专家和用户界面设计师。OpenAI与数以百计的内容审核员签订了合同，让他们对其模型进行教育，使其了解对数百万用户提供的提示做出的不恰当或有害的回答。该公司的产品经理和工程师一直在不断更新产品，而且似乎每隔几周就会向记者展示一次——就像其他以产品为导向的大科技公司一样。它的办公室看起来就像一本《建筑文摘》。我参观过硅谷和其他地方的几乎所有大型科技公司，但没有一家公司能超越OpenAI旧金山总部大厅的咖啡选择。

在OpenAI高歌猛进时，山姆则经常强调AI可能带来的潜在灾难（尤其是在谈到OpenAI的工作时）。在接受ABC记者采访时，他表示："我特别担心这些模型可能被用于大规模的虚假信息传播。我也担心随着这些系统在编写计算机代码方面变得越来越强大，它们可能被用于进行网络攻击。"与此同时，他还表达了对威权政府可能滥用AI技术的担忧。当被问及俄罗斯总统普京关于"谁赢得AI竞赛，谁就能控制世界"的言论时，他称之为"令人不寒而栗的声明"。然而，这种回答也引发了一些疑问：研发超级人工智能是否真的如同制造原子弹一样具有潜在的毁灭性影响？OpenAI如何在追求技术突破的同时，确保其研究成果真正造福人类？这些问题不仅关乎OpenAI的未来，也涉及整个AI行业的发展方向和伦理考量。不过可以肯定的是，研究GPT一类的大型模型并不只有OpenAI一家公司，而很多人其实并不在乎那么多伦理道德的约束，在一定程度上，你可以视其为一种“有自毁倾向”的尝试。随着OpenAI的模型变得越来越强大，山姆和其它高层开始重新考虑其最初的开放性承诺。当他们在2019年发布GPT-2模型时，出于对潜在滥用的担忧，他们最初决定不完全公开分享该模型。彼得·阿贝尔回忆道："很明显，它对语言的理解比以前训练过的任何东西都要好得多。它的发布确实伴随着很多营销或谨慎，或者两者兼而有之。"

但会计至关重要。营利性公司的优化目标是利润。像Meta这样的公司在投入数十亿美元进行研发时会感受到来自股东的压力，这是有原因的。这怎么能不影响公司的运营方式呢？而避免商业化不正是Altman让OpenAI成为非营利组织的初衷吗？根据首席运营官Brad Lightcap的说法，公司领导层认为，董事会仍然是非营利性控制实体的一部分，董事会将确保营收和利润的驱动力不会压倒最初的想法。他说：“我们需要保持使命感，将其作为我们存在的理由。它不应该只是精神上的，而应该体现在公司的结构中。”董事会成员Adam D'Angelo表示，他非常重视这一责任：“我和董事会其他成员的工作就是确保OpenAI坚守自己的使命”。Lightcap解释说，潜在投资者被警告要注意这些界限。他说：“我们有一份法律免责声明，上面写着作为投资者，你可能会赔光所有的钱。我们不是来为你赚取回报的。我们来这里首先是为了完成一项技术任务。而且，哦，顺便说一句，我们真的不知道在后AGI世界里，钱会扮演什么角色。”最后一句话可不是说着玩的。OpenAI的计划确实包括了在计算机达到最终边界时的重置。在重组文件的某处有这样一条规定：如果公司成功创造出AGI，所有财务安排都将重新考虑。毕竟，从那时起，这将是一个崭新的世界。人类将拥有一个外星伙伴，它能做我们所做的很多事情，只是做得更好。因此，之前的安排可能实际上已经作废了。不过，这其中有一个小问题：目前，OpenAI还不知道AGI到底是什么。这将由董事会来决定，但董事会如何定义还不清楚。当我向董事会成员Altman提问时，他的回答并不明确。他说：“这不是一个单一的图灵测试，而是我们可能会用到的许多东西。我很乐意告诉你，但我喜欢保密谈话。我意识到，这样含糊其辞并不能令人满意。但我们不知道到时候会是什么样子。”