AI 产品与体验

AI 产品体验的难点不是“界面像不像 AI”，而是用户能否判断系统正在做什么、依据是什么、下一步由谁确认。W2 用这篇文章检查产品 UI；RAG、Agent、Memory 的实现留到后续周。

---

先画清一次 AI 交互

用户输入
  → 系统确认范围与可用资料
  → 模型生成候选结果
  → 用户查看依据、修改或拒绝
  → 系统保存已确认版本
  → 失败时重试、改用手动流程或升级人工

候选输出与已确认事实必须是两个状态。漂亮的生成动画不能代替状态、来源和责任边界。

五个界面问题

状态名应与实际业务契约一致。表中的英文是课程讨论词汇，不要求产品界面原样显示。

---

场景一：生成文档草稿

输入状态：Recording → Transcribing → Editable Transcript
确认状态：Human Confirmed Transcript
生成状态：Draft Generated
业务状态：Under Review → Confirmed

“Human Confirmed Transcript”只表示用户确认了转写文字，不表示生成文档已经批准。界面要分别呈现原输入、修改记录、生成草稿与最终确认动作。

检查三个问题：

1. 用户能否在确认前修改文字？
2. 生成失败是否保留已确认输入？
3. 最终记录能否追溯到使用的输入版本？

场景二：有政策依据的回答

有 Citation 不等于回答正确。界面至少应允许用户看到：

• 引用的文档名称与版本；
• 支持结论的具体片段；
• 哪一句回答对应哪个来源；
• 来源缺失或互相冲突时的提示。

若系统没找到足够资料，诚实显示“没有足够依据”，不要用 Confidence 百分比装成科学结论。Confidence 需要明确计算和校准方法，否则只是另一段模型输出。

场景三：Agent 准备执行动作

在“发送、写入、删除、改变状态”等动作前，Approval 应绑定具体 Tool、参数、目标资源与有效时间。

准备执行：创建交接草稿
目标：Resident demo-017
来源：已确认 transcript v3
影响：新增 Draft，不覆盖 Confirmed 记录
操作：[检查详情] [批准一次] [拒绝]

“批准 Agent”太宽泛。参数、目标或版本改变后，应重新确认。暂停不等于已经发生的副作用会自动回滚。

---

Empty、Loading、Partial、Error 不是装饰状态

Streaming 只是传输方式。文本逐步出现不代表更准确，也不代表任务已经完成。

Refine Loop 要保留用户已做的工作

“重新生成全部”会丢掉用户确认过的内容。更好的修正动作应限定范围：

• 只修改结构，不改变已确认事实；
• 标记某段依据不足；
• 补充一个缺失字段；
• 回到 transcript 修改后重新生成；
• 撤销本次草稿，保留此前 Confirmed 版本。

每个动作都要说明会影响什么，尤其是会不会覆盖已确认内容。

Memory 与 Personalization

Memory 不能只做成“系统更懂你”。用户需要看到记住了什么、来自哪里、作用范围、保留多久，以及如何纠正或删除。共享设备、团队空间和个人账户的边界必须可见。

课程 W2 只预留 Memory 状态和入口；数据模型、写入策略与 poisoning 防御在后续课程实现。

---

W2 Product Design Review

用同一条完整流程检查桌面与移动端：

1. 从输入开始，经过 Draft、Review、Confirmed 和 Failed。
2. 键盘能否到达主要操作，焦点是否可见。
3. Loading、Empty、Error、Partial 是否有真实内容。
4. 文字和关键控件是否达到可读对比度。
5. Reduced Motion 下是否仍能理解状态。
6. 模型结果、来源和人工确认是否清楚分层。
7. 截图里是否有真实个人资料；课程只用 synthetic data。

可复用的体验验收模板

用户目标：
输入与来源：
模型输出状态：
人工确认点：
允许修改的范围：
失败后保留什么：
重试是否安全：
来源如何查看：
最终状态由谁写入：
可访问性检查：

常见错误

自检

• 我能从输入追到最终确认版本。
• 我能指出模型输出和业务事实的分界。
• 每个失败状态都有下一步，不伪装成功。
• 高风险动作的 Approval 绑定具体内容。
• UI 没有用 Confidence 或动画代替证据。
• 我能用模板完成一次 W2 Product Design Review。

完成本节的成果是可复核的界面状态与评审记录，不是提前实现 RAG、Agent 或 Memory。

小结

1. AI UX 的核心是可判断、可修正和责任边界。
2. Draft、Confirmed 与执行动作必须分开。
3. Citation、Approval 和 Memory 都要展示来源与范围。
4. 失败恢复和可访问性属于产品能力，不是收尾装饰。