03 基础入门-人机认知对齐

文章探讨了人机认知对齐的核心问题，指出人类与AI之间的交流往往存在“单向奔赴”的现象，即AI被动接受人类指令，容易曲解意图。通过具体案例，文章展示了如何通过让AI主动询问细节，实现“双向奔赴”，从而提高交流的准确性和效率。总结指出，人机意图对齐的关键在于AI主动与用户沟通，确保双方理解一致，避免一问一答式的单向交流。

文章内容

思维导图

常见问题

社交分享

上一篇 02 基础入门-元问题和元指令，我们解决了“人类不知道该怎么说”的问题，但是 AI 大模型真的听懂了人类对它说的话了吗？这可不一定。

语言本质上是对知识的有损压缩，当人类向 AI 发送一段较长的提示词时，AI 很可能曲解人类的意思。

我们写提示词发送给 AI ，这个过程中，AI 是被动地跟我们对齐“意图”，只是“单向奔赴”。

回到之前的例子，我想给 ChatGPT 下达“写文章”的指令，但是我不知道应该怎么做。

于是我的元指令可能是“我想让你帮我写一篇文章，但我不知道该向你输入什么信息”。

得到了 ChatGPT 的提示之后，我开始组织语言来下达更细致的写作指令，写什么呢？让它试试写什么是提示词工程？我们为什么需要学习提示词？

所以，我的指令就变成了：

主题：什么是提示词工程？我们为什么需要学习提示词？
目的：向读者科普
目标读者：想使用 ChatGPT 等 AI 工具来提高工作效率，但是不知道怎么做的人群。
文章长度：1000字
要求：以“ChatGPT 已经发布一年多，这一年，我们经常会听到“提示词工程（Prompt Engineering）”这个术语。在探讨这个概念之前，我们需要先了解什么是Prompt（提示词）。”开头

来看看，ChatGPT 的回答，写得emm，跟我想要的差远了。

以上，就是一个“单向奔赴”的例子。

我们要想办法把这个事情变成“双向奔赴”，怎么做呢？很简单，让 AI 主动向我们询问细节。

接着，回答 ChatGPT 的提问：

可以看到现在 ChatGPT 先列了一个大纲让我先确认，而不是直接开始写文章。

因为我们在刚刚提供的回答中，内容很长，ChatGPT 又曲解了我的意思。

所以我要根据这份大纲进一步给出指导，对齐意图:

现在 GPT 写出来的文章已经有我想要的感觉了。

总结一下，“人机意图对齐的核心”在于让 AI 主动向用户提出问题，从而确保双方的交流更准确和高效。

不仅人类要主动给 AI 提供更多信息，AI 也要“主动”与人类进一步沟通，不要一问一答式的“单向奔赴”。

😄以上如果觉得有收获，请点一点下方的“有启发”告诉我，点击即可直接跳转手册目录。

思维导图生成中，请稍候...

问题 1： 为什么 AI 大模型可能会曲解人类的提示词？
回答： 因为语言本质上是对知识的有损压缩，当人类向 AI 发送较长的提示词时，AI 可能无法完全理解人类的意图，从而导致曲解。

问题 2： 什么是“单向奔赴”的人机交互？
回答： “单向奔赴”指的是人类主动向 AI 提供指令，而 AI 只是被动地尝试对齐人类的意图，缺乏主动沟通和确认的过程。

问题 3： 如何实现“双向奔赴”的人机交互？
回答： 通过让 AI 主动向用户提出问题，确认细节，从而确保双方的交流更准确和高效。

问题 4： 为什么需要让 AI 主动询问细节？
回答： 因为 AI 可能会曲解人类的意图，主动询问细节可以帮助 AI 更好地理解用户的需求，减少误解。

问题 5： 在提示词工程中，如何提高 AI 的输出质量？
回答： 通过提供更详细的指令，并让 AI 主动确认细节，确保双方的意图对齐，从而提高输出的准确性和质量。

问题 6： 什么是提示词工程？
回答： 提示词工程是指通过设计和优化提示词，使 AI 更好地理解并执行用户指令的过程。

问题 7： 为什么学习提示词工程很重要？
回答： 学习提示词工程可以帮助用户更有效地使用 AI 工具，提高工作效率，并减少因误解导致的错误输出。

问题 8： 在文章中提到的例子中，ChatGPT 如何改进其输出？
回答： ChatGPT 通过先列出一个大纲让用户确认，并根据用户的反馈进一步调整内容，从而更准确地满足用户的需求。

问题 9： 人机意图对齐的核心是什么？
回答： 人机意图对齐的核心在于让 AI 主动向用户提出问题，确保双方的交流更准确和高效。

问题 10： 如何避免 AI 曲解人类的意图？
回答： 通过提供更详细的指令，并让 AI 主动确认细节，确保双方的意图对齐，从而避免曲解。

关键词