我们今年给一家 400 人的 SaaS 公司做过一次「影子 AI」盘点,起因是安全团队在出口防火墙上发现,连续两周有大量请求打向某家 AI 对话产品的域名,请求体大小峰值出现在每周三下午。他们以为是某个服务在批量调 API,查下来真相很朴素:没有 API,是员工在网页上手贴。两周内 217 名员工往公开 AI 工具里粘贴过内容,其中 43% 涉及客户数据、报价单、内部架构图。
这篇复盘写三件事:我们怎么把这 217 人、8,600 次粘贴行为还原出来,其中 34.2% 属于「看起来无害但实质敏感」;为什么我们发现「堵」这条路的边际成本高得离谱;以及最后落地的那个「三色分流 + 本地兜底」方案,怎么在四周内把高危粘贴从每天 31 次降到 3 次,而且没有装一个监控软件。
一、先搞清楚粘贴了什么:四类分级
我们没有用 DLP 那套关键词匹配(误报率高到员工会想办法绕开),而是用了两周的时间窗口做抽样还原:从代理日志里抓取目标域名的请求,过滤出明显是人手粘贴的(UA 特征、请求间隔、缺少 API key),最后拿到 8,614 次有效粘贴,逐条人工分级。结果:
| 级别 | 占比 | 典型形态 | 我们的处置 |
|---|---|---|---|
| 红 · 明确禁止 | 18.9% | 客户 PII、完整报价单、数据库连接串、密钥 | 立即触发合规流程 |
| 橙 · 实质敏感但不敏感 | 34.2% | 脱了姓名但保留了工号的工单原文、内部架构图、竞品分析底稿 | 重点教育对象 |
| 黄 · 边界模糊 | 21.1% | 一段代码片段、一个公式、一份行业模板 | 照常用,别上生产密钥 |
| 绿 · 无敏感 | 25.8% | 公开资料、通用提问、翻译 | 不管 |
第二行是整篇盘点的核心发现。18.9% 的明确违规,大家都知道不该做,它属于执法问题;但 34.2% 的橙色,员工是真的以为自己没泄密。他们把客户工单里的姓名手机号P 掉之后,觉得「这不就脱敏了吗」——可剩下的工单全文、时间戳、订单金额、地址前三位,合起来足够被反推。还有一类特别隐蔽:把内部架构图截图贴过去让 AI 帮忙讲清楚的,图上的服务名和 IP 段都没打码。
二、为什么「堵」这条路不划算
安全团队的第一反应是封域名。我们做了个小实验评估这条路的代价,结论是三条都不通:
- 封域名 → 员工换个人网卡/手机热点。两周内我们观察到 11 个人在域名被封后用 4G 热点继续同样的行为。这是最经典的那个结局,而且从此你就看不见了,从可观测变成完全黑盒。
- 装 DLP 做内容审查 → 误报率高到不可运维。我们用客户现有 DLP 试跑了历史流量,关键词规则命中里 71% 是误报(一份正常的「本月账单」报表里出现「账户」「密码」这类词)。真要用来拦粘贴,得按「可疑」级别人工复核,一个 400 人公司每天几十起,安全团队三个人根本看不过来。
- 全员禁用 + 提供内部工具 → 没人用你的内部工具。这也是最讽刺的:我们复盘时发现,公司其实早就有自己的 AI 助手,能力还更贴近业务。但问卷里 68.4% 的人说「不知道有这个东西」,剩下的人说「反应慢、要登录、答得不如外面那个好」。
三条路的共同死因:我们把一个供给问题(外面太好用、里面太难用)误判成了一个安全问题。员工贴数据不是因为他们不懂风险,是因为那一刻外部工具是唯一能用的选项。
三、落地方案:三色分流 + 本地兜底
3.1 第一步不是技术,是把内部工具做到「能用」
我们先花了两周把内部 AI 助手的三件事改了:单点登录从 5 秒降到 800 毫秒(原来是 OAuth 回调链太长)、把最常用的 6 个场景做成一键模板、回答速度对齐外部产品的体感。这两周没有任何安全动作,但高危粘贴自己就掉了 40.7%——因为员工终于有一个「不用贴原始数据也能办成事」的选项了。
3.2 三色分流:只拦红色,教橙色,放黄绿
技术上我们只做了一层轻量网关,规则刻意做窄:
- 红色(拦): 只匹配三类高确定性特征——密钥格式(正则)、客户手机号/身份证连续 11 位以上、数据库连接串。命中即拦截并转人工申诉,不静默。
- 橙色(提醒):命中「脱敏后仍可反推」模式(工单原文 + 订单号组合、架构图特征词),弹一次确认框,文案不写「违规」,写「这段内容脱敏后仍可能定位到具体客户,确认发送?」。
- 黄绿(放行):一律不管,且不记录内容。
这里最反直觉的设计是橙色不拦、只提醒。我们内部讨论过要不要拦,最后决定不拦,理由很实际:橙色占了三分之一,拦了就等于全员天天在点「仍要发送」,三周之后所有人都学会了无脑点确认——提醒系统一旦养成了无脑点击,它就不再是提醒,只是给合规官一个心理安慰。我们选择保留这 34.2% 的可观测性,让它们出现在周报里被点名教育,而不是变成一段被肌肉记忆绕过的弹窗。
3.3 本地兜底:给「必须离线」的场景一条路
有一类需求外部工具根本不该碰:涉及客户原始数据、又不能等的活。我们给这批人配了本地部署的小模型(一台 4090 机器跑 32B 量化模型),接内部知识库。它在大多数场景不如云端旗舰,但在「把这批工单分类一下」「从这份报表里找异常」这类活上够用。上线后接走了原本每天约 7 次高危粘贴中的 4 次。
四、四周后的账
| 指标 | 盘点基线(两周) | 四周后 |
|---|---|---|
| 日均高危粘贴(红+橙) | 31.0 次 | 3.0 次 |
| 其中红色(明确禁止) | 5.9 次 | 0.4 次 |
| 内部 AI 助手日活 | 47 人 | 214 人 |
| 员工对管控的负面反馈 | — | 问卷 NPS -6(改造前 -31) |
最后一行可能比第一行更重要:我们从一份「全员讨厌的管控方案」变成了一个负分不多的方案。这次改造没有一个人被处罚。唯一一次通报是有人把数据库连接串贴了出去,那是红色特征命中,走的是正常安全流程,不是管控流程。
五、如果你下周就要做同样的盘点
- 先看流量,再看问卷。问卷里 68.4% 说不知道有内部工具,但流量证明他们在用外部工具。人会用行动投票,不会在问卷里说实话。
- 分级里最值钱的是「橙色」那一类。别急着建规则库去追红色,红色靠一条密钥正则就能抓一半。真正的风险是那 34.2% 自己以为没泄密的——它们需要教育,不需要拦截。
- 提醒框宁可少,不可滥。我们橙色只弹一次,且文案具体(说出「可能定位到具体客户」,而不是「请勿分享敏感信息」)。模糊的提醒等于没有提醒,具体的提醒才拦得住人。
- 把本地方案做成兜底,不是做成替代。别指望本地模型全面取代云端旗舰,那不现实。它的价值是接走那批「数据不能出门」的活,让员工有一个合规的选项。
总结
217 名员工、8,614 次粘贴、四周改造。最大的体会是:大多数所谓「员工违规使用 AI」,本质是公司没有提供一个足够好用的合规选项。把内部工具做到人家愿意用,比装十套 DLP 都管用。管控是必要的底线,但如果只做管控不做供给,你只是把可见的风险变成了不可见的。
互动提问:你们公司有没有人把「脱敏后」的客户数据贴给外部 AI?实际上那 34.2% 才是最大的窟窿,因为每个人都觉得自己没泄密。
互动提问:如果让你们用一个指标衡量内部 AI 建设得好不好,你们会选什么?我们最后选的是「有一个不用贴原始数据也能办成事的选项」,别的指标都会骗人。
— IMAI 编辑部 | 2026-11-09