没有人知道 ChatGPT 为什么这么聪明

发布时间：1970-01-20 11:08:57
免费阅读
人工智能 AI技术 机器学习 未来科技
ChatGPT 的智能表现令人惊叹，但其背后的原理至今仍不明确。与以往只能处理特定任务的 AI 不同，ChatGPT 能够理解上下文并进行逻辑推理，这种能力的突变被称为“涌现”。目前，学界仅知道随着语言模型的规模和训练数据的增加，某些能力会自然出现，但具体机制尚未明确。这种不可控的智能增长引发了担忧，例如马斯克等人呼吁暂停 AI 训练，认为其潜在的失控风险巨大。未来，若 AI 与物理实体结合，可能带来更大的不确定性。
文章内容
思维导图
常见问题
社交分享

在最近的所有关于 AI 的信息中，最让我觉得不可思议的就是：没有人知道 ChatGPT 为什么这么聪明，即使发明他的人。

之前 AI 基本上只知道处理信息，比如类 Siri 的语音助手，或者在特定领域有有限的推理能力，比如下象棋。而 ChatGPT 则能够理解上下文，并且进行逻辑推理。这是从人工智障到人工智能的质变，业界把 AI 这种能力的突变称作「涌现」。

涌现是怎么发生的？

目前还没有人有明确的答案，只知道语言模型被不断加大的过程中，它就会出现某些能力，就是涌现。而大模型需要巨大的数据量和算力，这也是训练 ChatGPT 这样的产品，成本非常高的原因。

会有什么影响？

还记得马斯克等人签署联名信，呼吁暂停 AI 训练吗？一个原因就是我们不知道 AI 是怎么变这么聪明的，所以有巨大的失控风险。现在 AI 还只是待在电脑中回答问题，但有一天它一定会有一个物理实体。想象一下，波士顿动力的机器人+ 比ChatGPT 更厉害的人工智能 + 无法掌控···

原文：mp.weixin.qq.com

思维导图生成中，请稍候...

问题 1： ChatGPT 为什么被认为比之前的 AI 更聪明？
回答： ChatGPT 能够理解上下文并进行逻辑推理，这是从“人工智障”到“人工智能”的质变，这种能力的突变被称为“涌现”。

问题 2： 什么是“涌现”？
回答： “涌现”是指语言模型在规模不断增大的过程中，突然出现某些能力，但目前还没有明确的科学解释。

问题 3： 为什么训练 ChatGPT 成本非常高？
回答： 因为训练 ChatGPT 这样的大模型需要巨大的数据量和算力，这是其成本高昂的主要原因。

问题 4： 为什么有人呼吁暂停 AI 训练？
回答： 因为目前我们不清楚 AI 是如何变得如此聪明的，存在巨大的失控风险，尤其是在 AI 未来可能拥有物理实体的情况下。

问题 5： ChatGPT 的“涌现”能力是如何被发现的？
回答： 在语言模型规模不断加大的过程中，研究人员观察到模型突然具备了某些能力，这就是“涌现”现象的发现。

问题 6： ChatGPT 的智能是否会继续提升？
回答： 随着模型规模和数据量的进一步增加，ChatGPT 的智能可能会继续提升，但具体机制仍不明确。

问题 7： ChatGPT 的智能与物理实体结合会带来什么风险？
回答： 如果 ChatGPT 这样的 AI 与物理实体（如机器人）结合，可能会带来无法掌控的风险，尤其是在其智能进一步提升的情况下。

问题 8： ChatGPT 的智能是否可以被完全理解或控制？
回答： 目前 ChatGPT 的智能机制尚未被完全理解，因此其行为和控制也存在不确定性，这是引发担忧的主要原因。

问题 9： ChatGPT 的“涌现”能力是否可以被复制？
回答： 由于“涌现”现象的具体机制尚不明确，目前无法确定是否可以在其他模型中复制这种能力。

问题 10： ChatGPT 的智能是否会超越人类？
回答： 虽然 ChatGPT 在某些方面表现出色，但其智能是否能够超越人类仍是一个未知数，取决于未来技术的发展和我们对 AI 的理解。