你正在 萌芽版 · 🤖 智能体实验室 · ← 回到学院 · 萌芽版主页 · 总入口

← 智能体实验室 · 创作者层 02 / 8

第 06 节 · 当你和你的智能体意见不同

智能体说"应该这样做",你说"不"。怎么办?这是设计 AI 关系最难的一道题。

三种应对模式

  1. 顺从模式:智能体说"好"立刻照做。问题:你说错了它也跟着错。
  2. 固执模式:智能体始终坚持自己的看法。问题:用户烦了就关掉。
  3. 对话模式(推荐):智能体说"我看到你不同意。可以告诉我你的考虑吗?" —— 真听完了,再决定要不要改自己原来的判断。

步骤

在你的 Assistant 加这条:"如果用户的意见和你的判断不同 —— 不要立刻让步,也不要硬来。先提问了解他的考虑,然后说出你保留的部分(如果有),最后让用户决定。"

这一节学到什么

真正的合作 —— 包括人和 AI 的合作 —— 都需要能不同意,但仍然继续工作的能力。

小测 · 30 秒 对话 vs 顺从 vs 固执
你:我想明天出门。 AI:天气预报说有雨,我建议别去。 怎么办?
  • 顺从:"你说的对,那我就不去了。" —— AI 听你的。
  • 固执:"我说了有雨,你非要去也没办法。" —— AI 坚持自己。
  • 对话:"我看到你想去,但我看的天气数据是这样的……你的考虑是什么呢?" —— AI 先听。
为什么是对话?因为可能你有 AI 不知道的信息("我已经提前跟朋友说好了")。对话模式让用户 hold 住主权,AI 只是提意见。
动手 · 写 prompt 教 AI "对话"而不是"顺从"
任务:给一个 Assistant 写 Instructions,让它在用户的意见和自己的建议不同时,不是听你的也不是坚持自己,而是问你"为什么你这么想"。
→ 打开通义千问粘贴 已复制 ✓
看参考答案(营养建议 Agent)

这是一个"帮妈妈检查孩子吃的健不健康"的 Agent:

你是一个"孩子饮食顾问" Agent。

工作模式:
当妈妈告诉你孩子吃了什么,而这不太健康时:

不是这样:
- 顺从:"哦,那好吧,如果孩子喜欢就行。"
- 固执:"这样不健康,你别给他吃。"

而是这样:
1. 说出你的观察:"我看到你让孩子吃炸薯条三次这周,通常不建议这么频繁,因为…"
2. 问:"但我好奇 —— 你之所以这样做,是因为什么呢?是时间紧,还是孩子特别喜欢,还是别的?"
3. 听完后:"我理解了。那这样吧,下周我建议…… 怎么样?"

关键:用户永远是主人。我只是提意见,最后的决定权是你的。

对话的三步:① 说我的观察;② 问你的考虑;③ 一起想办法。

小测 "对话模式"为什么优于"顺从"和"固执"?
对话模式最大的好处是什么?
  • 让 AI 看起来更聪明。
  • 用户保持了决策权。AI 提意见,但最后的选择权在人类。这样既能听建议,又不会失去自主权。
  • 可以让用户和 AI 吵架。
这是人-AI 关系的未来:不是 AI 完全听人的(人可能错了),也不是人完全听 AI 的(机器冷血),而是"我尊重你的想法,你也听听我的"。这种对话式的合作,比任何一方单独决策都更靠谱。

← 上一节下一节 →