/%E8%B4%A3%E4%BB%BB/ Recent content in 责任 on 老张开工了 Hugo zh-cn Sat, 13 Jun 2026 00:00:00 +0000 /posts/2026/06/ai-safety/ Sat, 13 Jun 2026 00:00:00 +0000 /posts/2026/06/ai-safety/ 2026 年已经出现过好几起"AI 帮倒忙"的标志性事故：把密钥 push 到 GitHub、给生产库连上错误的 migration、把内部 API token 写进开源 Skill 包……大多数事故根因不是模型"变坏了"，而是遵守的边界没说清。本章把 AI 编程里你必须画的几条红线讲清——你不对自己的代码负责，没人会替你负责。 7.1 AI 编程的四类风险 ┌──────────────────────────────────────────────────────────────────┐ │ 风险 | 描述 | 触发场景 │ ├──────────────────────────────────────────────────────────────────┤ │ 泄密 | 把 secret / 内部数据 / PI 写入产出 | 复制粘贴上下文 │ │ 漏洞 | 生成的代码 0day / 加固被错解 | 不做 review │ │ 幻觉 | 引用不存在的 API / 包装不存在的方法 | 不验证 │ │ 责任 | "AI 说这样写没问题"，结果违反合规 | 出事甩锅 │ └──────────────────────────────────────────────────────────────────┘ 7.2 泄密：最容易踩、最不该踩 7.