你觉得人工智能带给人类的到底是提升还是毁灭呢？

担忧一：是否会放大人类的负面影响在技术层级上解决类似于社会歧视等问题，如RLHF担忧二：导致失业人工智能会优化效率，但实际每个工作的组成部分不是单一的，人可以和人工智能更好的协同。吴恩达举例了，16年行业看低，放射科医生岗位的案例。但实际放射科医生没有失业，因为解读X光照片事实证明比当时看起来更困难，而且放射科医生工作的多部分组成，解读X光照片仅仅是一个部分。最终，能比较明确的是，会人工智能的人会取代不会人工智能的人担忧三：人类毁灭人工智能可能导致许多问题，但当出现人工智能会有毁灭性影响的观点，并评估论点现实性，吴恩达老师发现都不具体，也没有具体说明人类如何灭绝。人类有丰富的经验来控制比个体强大的事物，像公司与国家许多没有完全控制的事物，像飞机，还是有价值并且安全的如果关注其他的像气候变化和大流行病，AI可以成为解决的关键[heading4]强人工智能[content]ChatGPT的崛起导致大家认为，大模型可能是通用的。但是通用技术不是通用人工智能（准确来讲，Artificial General Intelligence是强人工智能）强人工智能定义是，可以如同人一样，可以做任何智力任务

因为算力的飞速提升、还有神经网络与硅谷人才网络的演化，我们有了生成式AI的革命，它带来了大语言模型。语言原本是人类智慧的火种，但现在我们已知的宇宙里，有一种人造的智能，可以用和我们一样的语言来独立的解释世界，这些人工智能就像神话里的盗火者。人类面对比自己更加聪明的物种出现的时候，天生就有一种警觉，它们的目的是什么？它们会毁灭我们么？Amazon的创始人Jeff Bezos在最近一次接受Lex Fridman采访的时候，就做了个形象的比喻：“现在大语言模型的智能，不像是我们发明出来的，而是召唤出来的”。对复杂的神经网络内隐藏秘密的研究才刚开始，我们如何使用和控制这些黑箱模型，是业界和社会争论最激烈的话题。有人认为AGI不加以控制，会导致人类灭亡；也有人认为现在的架构，再怎么扩展算力，也根本实现不了AGI。媒体报道上充满了各种矛盾且对立的观点，大家还十分喜欢围观这样的辩论，因为我们喜欢寻找大脑中默认想法的认同感。在这篇文章中，我引用了丰富的论点和最新的研究，尝试给大家呈现出尽可能客观的结论，就是我们还能用多模态的数据提升机器的智能，改进架构和强化训练的方法，可以让AI模型往逻辑推理、计划、记忆还有目标感更强的方向发展，Scaling Law依旧有效；但并不确定在更大规模的数据和训练中，是否会涌现出自主目标或者是我们定义不清晰的“意识”来。科技公司研发的约束方式是训练出辅助人类的超级智能助手，而不是可以自我改进升级的超级自能体，让AI渐进式的融入社会，从而推动新一轮的工业革命和经济增长。踩油门还带刹车是同时进行的，这样才能安全切顺滑的驾驶。

简单概括：深度学习有效，随规模扩大预期改善，我们持续增加相关资源投入。就是这样；人类发现了一种算法，可以真正地学习任何数据分布（或者说，产生任何数据分布的潜在"规则"）。令人震惊的是，计算能力和数据量越大，它帮助人们解决难题的能力就越强。不管我花多长时间思考这个问题，我都无法完全理解它的重要性。我们还有很多细节需要解决，但被任何特定挑战分散注意力是一个错误。深度学习是有效的，我们将解决剩余的问题。我们可以谈论很多关于下一步可能发生的事情，但主要的是，人工智能将随着规模而变得更好，这将导致对全球人民生活产生有意义的改善。人工智能模型将很快作为自主的个人助理，代表您执行特定任务，如帮助您协调医疗护理。未来，人工智能系统将变得如此出色，它们将帮助我们构建更好的下一代系统，并在各个领域取得科学进展。技术将我们从石器时代带到农业时代，再到工业时代。从这里开始，通往智能时代的道路由计算、能源和人类意志铺就。如果我们想让尽可能多的人接触到人工智能，我们需要降低计算成本，使其更加普及（这需要大量的能源和芯片）。如果我们不能建立足够的基础设施，人工智能将成为一种非常有限的资源，会导致战争，并主要成为富人的工具。我们需要聪明而坚定地采取行动。智能时代的曙光是一个历史性的发展，同时也带来极其复杂且高风险的挑战。这并非完全是个积极的故事，但潜在的正面影响如此巨大，我们有责任找出如何应对眼前的风险。我相信未来会非常光明灿烂，以至于现在任何人都无法对之进行公正的描述；智能时代的一个决定性特征将是巨大的繁荣。尽管这将逐步发生，但令人惊叹的胜利——修复气候、建立太空殖民地以及发现物理学的所有内容——最终将成为寻常。拥有近乎无限的智慧和丰富的能源——产生伟大创意和实现它们的能力——我们可以做很多事情。