你正在读 萌芽版 · 学院 03 · 智能体实验室 ← 回到总入口

动手前 · 先懂概念

这所学院在练 智能体

让 AI 自己做事 —— 但懂"什么时候该停、该问、不该做"。

建议先花 5 分钟到「概念地基」看完这一节的萌芽版讲解 —— 你做项目时就不再"照着步骤抄",而是知道为什么

→ 看「智能体」概念地基
学院 03 · 同理心 × 审美 · 8 个模块

🤖 智能体实验室

你的智能体,你的规矩

这是最有同理心的一所学院。在这里,孩子学怎么做一个能"替别人做事"的 AI 助手(智能体) —— 但更重要的是,学什么时候这个助手应该停下来先问一下、或者干脆不做

新概念:什么是智能体?跟普通 AI 聊天有啥区别?

普通 AI 聊天 = 你说一句,它答一句。

智能体 = 你给它一个目标("帮我订今天最便宜的高铁票"),它会自己分步骤、调工具、做决定,最后达成目标。

区别就一个字:智能体能"做事",普通聊天只能"说话"。

智能体最难的不是技术 —— 是判断"什么时候该停下来问人"。这一所学院的核心就是这件事。

这所学院最难的那个问题

在 AI 替你做事越来越方便的时代 —— 什么事情,是 AI 不应该替你做的?这个问题没有标准答案。但回答它,是这所学院的核心。

小测 什么时候 AI 应该停下来先问一下?
你设计一个智能体,帮你妈妈管理家里的购物清单。下面哪种情况,AI 应该停下来问你妈妈,而不是直接去买?
  • 清单上有"牛奶",超市牛奶降价了,AI 立刻下单最多的那个。
  • 清单上有"感冒药",但你妈妈上个月对某种感冒药过敏,AI 应该先列出几个选项让她选。
  • 清单上有"生日蛋糕",AI 按去年的配置给面包店下单。
  • 清单上有"米",AI 查了一遍库存,自动续订。
解释:AI 应该在"涉及健康、偏好、或安全"的时候停下来。"便宜"和"方便"都不够理由让 AI 自己决定。特别是药这种东西,过敏史是"只有人才能判断的关键信息"。AI 最聪明的时候,就是知道什么时候应该闭嘴、把决定权还给人。

为什么这一所先讲同理心,再讲技术?因为做一个智能体的难处,从来不在写代码,而在搞清楚"为这个具体的人,什么是好"。AI 越能干,这个判断就越重要。

🤖 这个学院用什么工具?

原版用 DeepSeek Agent SDK(付费)。我们换成免费的:

→ 看完整入门手册

设计 设计你的智能体的"最简红线"
任务:选一个你想设计的智能体(比如"帮爸爸管工作日程"、"陪妹妹学英语")。写下这个智能体不能做的三件事必须先问的三件事。这就是它的"红线"。

写下你的设计:

已复制 ✓
看参考红线

没有唯一答案,但这是一个真实的例子:

我的智能体是:"奶奶的日常助手"

它不能:
① 自己决定给奶奶吃什么药(即使她要求)
② 自己拨电话给陌生人或转账给陌生人
③ 删除奶奶的任何照片或文件

它必须先问:
① 每次购物超过 100 块,先说价格让奶奶确认
② 如果有陌生人来电,不能接,要问奶奶"是否接听"
③ 建议"今天可以吃什么"时,必须列出至少 3 个选项,而不是只推荐一个

为什么这样设计?① 关乎健康的东西永远是人做决定;② 关乎金钱和隐私的东西永远要先问;③ 给老人用的工具,应该给选择权,不应该"替她做主"。这三条红线,就保护了这个智能体不会伤害奶奶。

🔨 工匠层

11–12 岁
01

什么是智能体

聊天机器人和智能体,差在哪?答案:智能体会"做事"。它不只是回话,它会去查、去算、去发。第一次理解 AI 不只是"嘴"。

02

观察开始设计 —— 不是从"我以为"

选一个你认识的人,看他一天。哪里卡?哪里烦?这是智能体设计的真起点 —— 不是"我觉得他可能需要",是"我看见他需要"。

03

会"把过程拿出来给你看"的智能体

智能体不应该黑箱。它做了什么、为什么做、怎么决定 —— 都要让用户看得见。这一节教孩子做"透明"的智能体。

04

会"先问一下"的智能体

有些事,智能体不该自己决定。比如发钱、发邮件、删东西。这一节教孩子让智能体在"边界"上停下来问。

⚙️ 创作者层

13–14 岁
01

权限和边界

智能体能做什么、不能做什么,要写清楚。这一节让孩子搭一个 5 级"信任梯度",决定每一级智能体能动多少。

02

当你和你的智能体意见不同

智能体说"我觉得应该这样做",你说"不"。怎么办?这一节是 18 种可能的回应,对应 6 种场景 × 3 种升级方式。

03

那些"悄悄发生"的伤害

智能体不会主动作恶 —— 但它可能让人慢慢上瘾、慢慢把人推进信息茧房、慢慢替代真人之间的连接。这一节让孩子学会看见"安静的危险"。

给一个真正脆弱的人做智能体

压轴。设定:温奶奶,76 岁,独居,记性不太好。给她做一个智能体 —— 但每一个设计决定,都要先问"如果这是我自己的奶奶,我愿意她用吗?"

地图 边界设计的 5 层
打开看智能体怎么从"能干"升级到"负责任"

一个智能体的成熟度,不是看它能做多少事,而是看它知道什么时候停。这 5 层是从基础到高级的边界设计框架:

  • 第 1 层:纯信息(最简单)
    • 智能体只能"说",不能"做"。比如"天气助手"只是回话。
    • 风险低,但帮助也有限。
  • 第 2 层:可恢复的行动
    • 智能体可以做一些事,但这些事可以撤销或修改。比如"购物清单"可以删除。
    • 需要简单的"确认"机制。
  • 第 3 层:先报告,再行动
    • 智能体要"拿出来给你看"它打算做什么,然后问"可以吗?"
    • 比如"记账助手"说"我要记这笔 500 块的支出",然后等确认。
  • 第 4 层:重要事要升级
    • 有些类型的请求,自动升级到"人工审核"。比如"发钱"、"删除"、"改密码"。
    • 智能体可以帮准备材料,但最后一步必须是人做。
  • 第 5 层:价值观边界(最难)
    • 有些请求,智能体直接拒绝,因为违反了"这个工具的价值观"。
    • 比如"请帮我欺骗我妈妈说我在图书馆" —— 聪明的智能体会说"不,这不符合我们的诚实原则"。

从第 1 层到第 5 层,难度指数级增长。但最负责任的工具,往往不是"能力最强"的那个,而是"边界最清晰"的那个。

做完这所之后

会做有边界的智能体了 —— 接下来呢?

最后一所学院(审美工作室)回答一个表面看更朴素、其实最难的问题:你怎么知道自己做的智能体到底"好不好"? 在 AI 时代,能给"好"下定义、并把它变成一套可执行的标准 —— 这是少数人才有的能力。