常见误区与安全

这一课没有任何花哨技巧，但它可能是整套教程里最重要的一课。会不会写提示词，最多影响你用得爽不爽；但安全这块要是踩坑，轻则丢面子（把错的东西交了上去），重则丢钱、丢隐私、甚至摊上法律麻烦。

微软、谷歌这些大公司给员工做 AI 培训时，都会把「AI 安全」单独拎出来讲一整节课，而不是顺带提一句。我们也这么做。请你从头到尾读完，花不了十分钟，但能帮你避开 90% 的坑。

一、AI 会「一本正经地胡说八道」

这是 AI 最坑人的毛病，专业上叫「幻觉」（hallucination，就是 AI 凭空编造）。注意：它不是故意骗你，它是真的以为自己说的对，而且说得理直气壮、有鼻子有眼。

它会给你编造：

• 不存在的法律条文、不存在的书名、不存在的论文（连作者、年份、页码都给你编得整整齐齐）
• 错误的数字、日期、价格、历史事件
• 看起来能跑、实际有 bug 的代码
• 不存在的网址、电话、API 接口

真实例子：美国有律师让 ChatGPT 帮写诉状，AI 引用了 6 个判例，律师没核实直接交上法庭——结果 6 个判例全是 AI 编的，根本不存在，律师被法官罚款。这不是段子，是真事。

怎么减少幻觉？小技巧：

• 让它给出处：「请告诉我这个说法的来源，我要去核实。」（它编不出来时往往会改口）
• 让它说不知道：「如果你不确定，请直接说不知道，不要编。」
• 关键信息自己搜一遍，别偷懒。

二、绝对不能泄露的东西

你跟 AI 聊天，本质是把内容发到了服务器上。所以有些东西，一个字都别往对话框里贴。

为什么这么严？打个比方：你把客户名单贴给一个网上的 AI，就好比把它大声念给一整个开放办公室听——你不知道这些数据被存到哪、谁能看到、会不会被拿去训练。很多公司明文规定「禁止把内部资料贴进 AI」，就是这个原因。