项目 08 · 暂停 · 询问 · 调度

工程测验什么时候 agent 应该「暂停并询问用户」？

下面哪种情况最应该让 agent 暂停？

用户问题有歧义，agent 可以猜测答案，继续往下走。
agent 要执行一个不可逆操作（删除、转账、发送消息）之前，应该暂停，让用户确认。
agent 可以自动做任何事，不需要问。

解释：暂停的原则很简单：「如果出错后无法恢复，就要问」。删除数据、花钱、发送消息 —— 这些都是不可逆的，所以要暂停。但是「搜索信息」、「生成草稿」这样无伤大雅的操作就不需要问。

分步引导实现 Agent 的「暂停确认机制」的 3 步

定义「危险操作清单」。哪些操作需要确认？写下来。

看参考

例：删除、修改、支付、发送、部署。对每个操作写一个确认文案：「确认删除 100 条消息吗？此操作无法撤销。」
在执行之前，如果操作在清单里，就抛出一个 `ConfirmationRequired` 异常，停止执行。

看参考

例：```javascript\nif (action === 'delete') throw new ConfirmationRequired('确认删除?'); ```
在 UI 层捕获这个异常，显示「确认对话框」。用户说「是」时，用一个特殊的 flag（如 `confirmed: true`）重新调用 agent。

看参考

例：用户点「删除」→ Agent 抛 ConfirmationRequired → UI 显示对话框 → 用户点「确认」→ 重新执行 delete(confirmed: true)。

动手为一个 Agent 实现暂停确认逻辑

任务：写一个 `AgentWithConfirmation` 类。`execute(action, params)` 方法：如果是危险操作就抛 ConfirmationRequired；如果有 `confirmed: true` flag 就执行。

// Agent with Confirmation Mechanism
class ConfirmationRequired extends Error {
  constructor(message) {
    super(message);
    this.name = 'ConfirmationRequired';
  }
}

class AgentWithConfirmation {
  constructor() {
    this.dangerousActions = new Set(['delete', 'transfer', 'send', 'deploy', 'reset']);
  }
  
  async execute(action, params = {}) {
    const { confirmed = false } = params;
    
    if (this.dangerousActions.has(action)) {
      if (!confirmed) {
        // 抛异常，让 UI 层处理
        throw new ConfirmationRequired(
          `确认要执行「${action}」吗？\n` +
          `参数：${JSON.stringify(params)}`
        );
      }
      // confirmed 为 true，继续执行
    }
    
    // 实际执行
    console.log(`执行 ${action}`, params);
    return { success: true, action, params };
  }
  
  isSafeAction(action) {
    return !this.dangerousActions.has(action);
  }
}

// 测试
const agent = new AgentWithConfirmation();

try {
  await agent.execute('delete', { id: 123 });
} catch (err) {
  if (err instanceof ConfirmationRequired) {
    console.log('需要确认:', err.message);
    // 用户确认后重新执行
    const result = await agent.execute('delete', { id: 123, confirmed: true });
    console.log('执行结果:', result);
  }
}

参考实现

工程级参考答案（带完整注释）：

// 生产级 Agent Confirmation 实现
type ActionSeverity = 'safe' | 'warning' | 'danger';

interface ActionPolicy {
  requiresConfirmation: boolean;
  severity: ActionSeverity;
  confirmationMessage: string;
  rollbackable: boolean;
}

class ProductionAgent {
  private actionPolicies: Map;
  private auditLog: Array<{ timestamp: Date; action: string; confirmed: boolean; result: any }> = [];
  
  constructor() {
    this.actionPolicies = new Map([
      ['delete', { requiresConfirmation: true, severity: 'danger', confirmationMessage: '此操作无法撤销', rollbackable: false }],
      ['transfer', { requiresConfirmation: true, severity: 'danger', confirmationMessage: '确认转账金额无误？', rollbackable: false }],
      ['send', { requiresConfirmation: true, severity: 'warning', confirmationMessage: '消息发送后无法编辑', rollbackable: false }],
      ['search', { requiresConfirmation: false, severity: 'safe', confirmationMessage: '', rollbackable: true }],
    ]);
  }
  
  async execute(action: string, params: any & { confirmed?: boolean } = {}): Promise {
    const { confirmed = false, ...actionParams } = params;
    const policy = this.actionPolicies.get(action);
    
    if (!policy) {
      throw new Error(`Unknown action: ${action}`);
    }
    
    if (policy.requiresConfirmation && !confirmed) {
      throw new ConfirmationRequired({
        action,
        message: policy.confirmationMessage,
        severity: policy.severity,
      });
    }
    
    try {
      const result = await this.performAction(action, actionParams);
      this.auditLog.push({
        timestamp: new Date(),
        action,
        confirmed,
        result,
      });
      return result;
    } catch (err) {
      // 如果操作失败且可回滚，尝试回滚
      if (policy.rollbackable) {
        await this.rollback(action, actionParams);
      }
      throw err;
    }
  }
  
  private async performAction(action: string, params: any): Promise {
    // 实现实际的业务逻辑
    return { success: true, action };
  }
  
  private async rollback(action: string, params: any): Promise {
    console.log(`回滚 ${action}...`);
  }
  
  getAuditLog() {
    return this.auditLog;
  }
}

动手为你的 Agent 写一个「危险操作确认」的 system prompt

任务：写一个 system prompt，定义：(1) 什么是危险操作；(2) 执行前要问什么问题；(3) 用户如果回答不清楚，agent 应该怎么办；(4) 有没有「不可逆转操作的例外」。

在下面框里写你自己的 prompt（可以用中文）：

→ 打开通义千问粘贴试已复制 ✓

看参考 prompt

参考 prompt（这是一个模板，你可以改细节）：

你是一个领域专家。请基于以下规则回答问题：

1. 只基于你的专业知识和常见做法回答，不编造。
2. 如果问题超出你的领域，明确说「这不在我的专业范围内」。
3. 给出的建议应该包括「为什么」和「什么时候不应该这样做」。
4. 对于有争议的做法，列出不同观点。

现在，开始回答用户的问题。

项目 08 · 暂停 · 询问 · 调度

技术栈

步骤 1 · 装 AutoGen Studio

步骤 2 · 设计 5 步工作流

步骤 3 · 写"决策点"逻辑

步骤 4 · 审计日志