14
AI 安全合规与质量把关
AI Security、Ethics 与 Compliance
我们不建议把 AI office workflow 理解成“装个 ChatGPT 就能自动提效”。在真实 team 里，最容易出事的不是 prompt 写得不够好，而是 data 传错、权限开太大、流程里没人做 final check。
如果你只记一条：AI 可以加速写作和 automation，但不能替你承担 security、ethics 和 compliance 责任。
为什么这页对 SEO 和真实业务都重要
Google 更容易收录和推荐“能解决真实风险问题”的内容，而不是泛泛讲概念的页。
对 AI office 用户来说，下面这些搜索意图都很强：
ChatGPT 可以处理客户资料吗AI email 写作要注意什么AI automation 如何避免泄露隐私office AI 合规 checklist
所以这页不只是讲原则，而是给你一套能直接套进 workflow 的检查框架。
最常见的 4 类风险
| Risk | 常见场景 | 真正后果 | 建议动作 |
|---|---|---|---|
| Data leak | 把客户名单、合同、财务数据直接贴进 public AI tool | 隐私与商业信息泄漏 | 先 redaction，再决定是否入模 |
| Wrong answer | AI 写报价、政策说明、合同摘要时编错 | 对外承诺错误，返工甚至投诉 | 高风险内容必须 human review |
| Over-automation | 自动发 email、自动分流工单、自动改状态 | 一旦 prompt 偏了会批量出错 | 关键 step 保留 approval gate |
| Brand / compliance drift | 输出语气夸张、承诺过度、触碰行业限制 | 品牌受损、法律风险 | 建立 tone guide 和 review checklist |
先做 Data 分级，再谈能不能用 AI
很多 team 的错误顺序是：
- 先把东西丢给 AI
- 看结果不错
- 才开始问这份 data 能不能传
正确顺序应该反过来。
| Data 类型 | Example | 是否适合直接发给 public AI |
|---|---|---|
| Public | 官网文案、公开 FAQ、公开活动信息 | 通常可以 |
| Internal | 内部 SOP、周报、培训资料 | 谨慎，先看公司 policy |
| Confidential | 合同、报价、客户 list、内部营收数据 | 不建议直接发 |
| Sensitive / PII | 手机号、邮箱、住址、身份信息 | 默认不直传，先 redaction |
| Secret | API key、密码、财务凭据 | 禁止进入 prompt |
一个简单原则：如果这段内容不适合发到公开 Slack channel，它大概率也不适合直接贴进 public AI chat。
具体怎么做 Redaction
你不一定需要复杂 system，先做这几步就已经比多数 team 稳：
- 把姓名换成 role，例如
客户A、供应商B - 去掉 phone、email、account number
- 不要贴完整合同原文，只贴你要 AI review 的 clause 摘要
- 对数字敏感的内容，先只给区间或 mock number
Example：不好的输入
请帮我总结这份客户合同，并写一封邮件发给对方：
[贴上完整合同、联系人手机号、付款账号]
Example：更稳的输入
请帮我总结以下合同条款重点，并生成 internal review note。
背景：
- SaaS 服务合同
- 年费区间：AUD 20k - 30k
- 客户信息已脱敏
重点关注：
- SLA
- data retention
- termination clause
Fact-check 不是可选项
AI 写 office content 时，最危险的不是错别字，而是“看起来很专业但实际不对”。
高风险内容包括：
- 报价说明
- 合同总结
- HR / recruiting 沟通
- 法务、税务、政策解释
- 面向客户的正式 announcement
推荐做法
| Output 类型 | 是否必须人工 review | 原因 |
|---|---|---|
| 普通 internal notes | 建议 | 风险较低，但仍可能误导 |
| 对外 email / proposal | 必须 | 会形成外部承诺 |
| 合同条款总结 | 必须 | AI 易漏 clause 或误读 |
| 财务/政策解释 | 必须 | 错误成本高 |
| 自动化批量输出 | 必须抽检 + 规则拦截 | 一错就是批量错 |
Tone、Brand 与 Ethics
很多公司不是因为模型不够强，而是因为输出风格跑偏：
- 语气太夸张
- 用词太像广告
- 说了 team 根本做不到的承诺
- 对敏感用户场景显得不尊重
所以你至少要准备一份 tone guide：
Tone guide:
- professional but direct
- 不夸张，不制造 urgency
- 不替公司做无法确认的承诺
- 遇到不确定信息明确标注 pending confirmation
这类 guardrail 对 SEO 也有帮助，因为它会让页面和模板内容更一致，减少 AI 腔和空泛 marketing 词。
一个真实可落地的 Approval Flow
Draft by AI
-> risk check
-> sensitive info check
-> factual review
-> final human approval
-> send / publish
如果你们已经在用 Zapier、Make、n8n 或内部 workflow system，建议把这 4 个 check point 明确配置出来，而不是默认“生成完就发送”。
Minimum Compliance Checklist
- 先判断 data level，再决定是否可入模。
- 对 PII 和合同、财务内容先做 redaction。
- 对外输出必须经过 human approval。
- 记录使用了哪个 tool、哪版 prompt、谁做了 final sign-off。
- 高风险流程保留 fallback to human。
常见误区
| 误区 | 为什么危险 | 更好的做法 |
|---|---|---|
| “只是让 AI 帮我润色一下” | 原文可能已经包含敏感 data | 先做 redaction 再润色 |
| “AI 写得挺像真的，就直接发” | fluent 不等于 correct | 先 fact-check |
| “公司买了 enterprise plan 就绝对安全” | plan upgrade 不等于流程合规 | 还要做权限、日志、review |
| “自动化越多越省事” | 批量错误会放大损失 | 高风险 step 保留人工 gate |
Practice
拿你最近一条 AI office workflow，做一次快速 audit：
- 写出 input data 是什么
- 标出哪些字段需要 redaction
- 写出 output 是否会对外发送
- 判断是否需要 approval gate
做完这四步，你的 AI workflow 才算从“能跑”进入“可上线”。