Skip to content

什么时候不该用 AI:四盏红灯与限速黄灯 ​

多数 AI 教程默认你应该多用。这篇反过来:先标红灯。红灯不是道德说教,是事故预告——这些场景里,模型越流畅,你越容易把错的东西送出去。怎么写、怎么选工具,分别见 用 AI 写技术博客、国产 AI 助手怎么选;本稿只回答「这时请停手」。

红灯 1:数字会触发钱或法律责任 ​

价格、税率、合同期限、剂量、容量、SLA 违约金,只要错一位就会有人买单。模型擅长把数字写得像真的。

停手标准:你拿不出该数字的出处截图或原文条款。 可做的替代:让它列「需要核对的字段」,数字由你填。

红灯 2:读者会按步骤操作,而你没跑过 ​

安装命令、API 路径、按钮文案、配置项默认值。没跑过就生成「完整教程」,等于把幻觉菜单交给陌生人。

停手标准:文中出现你本机未曾见过的路径。 可做的替代:先最小复现,再让模型整理你的笔记。提示词侧的幻觉修法见 提示词失效排查。

红灯 3:材料不能离开你的电脑,你却要贴进公网对话框 ​

未公开方案、客户名单、源码、人事材料。流畅总结救不了泄露。

停手标准:你无法向同事解释「这段为什么可以上传」。 可做的替代:脱敏后再问,或只用本地/企业许可方案。长文怎么选阅读工具,见 长文档阅读 AI 怎么选——选型之前先过数据边界。

红灯 4:你还说不清「不合格长什么样」 ​

需求是「优化一下」「写高级一点」「帮我看看」。模型会交一篇平均作文,你只能凭感觉改,感觉会累。

停手标准:你无法用一句话写出否决条件。 可做的替代:先写三条不合格样例,再开写。写作里的半真神话见 AI 写作的五个流行说法。

四盏红灯:数字、未实测步骤、敏感材料、无否决标准

红灯亮时不是「提示词不够强」,是任务不该交给生成器独自完成。

黄灯:可以用,但必须加闸 ​

这些不是禁区,是限速:

  • 会议纪要:可以整理,禁止编造负责人和截止日期,见 用 AI 做会议纪要。
  • 代码补丁:可以起草,禁止空成功与摆拍测试,见 审查 AI 代码。
  • 对外邮件:可以起草稿,禁止模型自行承诺交付日。

黄灯的共同闸:人看一眼就能指出哪句是编的。

红灯停、黄灯限速、绿灯才批量

绿灯很少是「全程自动」;更多是「切片生成 + 有出处」。

绿灯其实很窄 ​

只有同时满足,才适合让模型多写几段:

  1. 你有原材料或实测笔记;
  2. 输出格式可验收(表、清单、字段);
  3. 错了的代价是返工,不是违约或伤人。

不满足就回到红灯或黄灯。把绿灯想象成高速公路,会在收费站翻车。

一句可执行的默认 ​

拿不准时,默认停用生成,改用两种更安全的动作:提问清单,或把你已有的句子压缩。压缩错了,你还认得原文;生成错了,你可能认不出来。


红灯划分按常见办公与技术写作事故归纳,不构成法律或合规意见;以你所在组织规定为准。