Appearance
什么时候不该用 AI:四盏红灯与限速黄灯
多数 AI 教程默认你应该多用。这篇反过来:先标红灯。红灯不是道德说教,是事故预告——这些场景里,模型越流畅,你越容易把错的东西送出去。怎么写、怎么选工具,分别见 用 AI 写技术博客、国产 AI 助手怎么选;本稿只回答「这时请停手」。
红灯 1:数字会触发钱或法律责任
价格、税率、合同期限、剂量、容量、SLA 违约金,只要错一位就会有人买单。模型擅长把数字写得像真的。
停手标准:你拿不出该数字的出处截图或原文条款。 可做的替代:让它列「需要核对的字段」,数字由你填。
红灯 2:读者会按步骤操作,而你没跑过
安装命令、API 路径、按钮文案、配置项默认值。没跑过就生成「完整教程」,等于把幻觉菜单交给陌生人。
停手标准:文中出现你本机未曾见过的路径。 可做的替代:先最小复现,再让模型整理你的笔记。提示词侧的幻觉修法见 提示词失效排查。
红灯 3:材料不能离开你的电脑,你却要贴进公网对话框
未公开方案、客户名单、源码、人事材料。流畅总结救不了泄露。
停手标准:你无法向同事解释「这段为什么可以上传」。 可做的替代:脱敏后再问,或只用本地/企业许可方案。长文怎么选阅读工具,见 长文档阅读 AI 怎么选——选型之前先过数据边界。
红灯 4:你还说不清「不合格长什么样」
需求是「优化一下」「写高级一点」「帮我看看」。模型会交一篇平均作文,你只能凭感觉改,感觉会累。
停手标准:你无法用一句话写出否决条件。 可做的替代:先写三条不合格样例,再开写。写作里的半真神话见 AI 写作的五个流行说法。
红灯亮时不是「提示词不够强」,是任务不该交给生成器独自完成。
黄灯:可以用,但必须加闸
这些不是禁区,是限速:
- 会议纪要:可以整理,禁止编造负责人和截止日期,见 用 AI 做会议纪要。
- 代码补丁:可以起草,禁止空成功与摆拍测试,见 审查 AI 代码。
- 对外邮件:可以起草稿,禁止模型自行承诺交付日。
黄灯的共同闸:人看一眼就能指出哪句是编的。
绿灯很少是「全程自动」;更多是「切片生成 + 有出处」。
绿灯其实很窄
只有同时满足,才适合让模型多写几段:
- 你有原材料或实测笔记;
- 输出格式可验收(表、清单、字段);
- 错了的代价是返工,不是违约或伤人。
不满足就回到红灯或黄灯。把绿灯想象成高速公路,会在收费站翻车。
一句可执行的默认
拿不准时,默认停用生成,改用两种更安全的动作:提问清单,或把你已有的句子压缩。压缩错了,你还认得原文;生成错了,你可能认不出来。
红灯划分按常见办公与技术写作事故归纳,不构成法律或合规意见;以你所在组织规定为准。