上海企业业务部门自己用 AI 做的系统,为什么成了公网泄密入口?

时间:2026/11/12 12:06:31浏览次数:35

安全机构 Claroc 扫描发现 37,571 个用 AI 生成、当时仍在线的应用,其中 94.7% 不用登录就能打开,估算有 650 到 800 个含敏感数据:员工体检、人员名册、明文口令,乃至标注机密的内部方案。问题不在模型,而在生成物被当成了文档,而不是一个需要登录的系统。本文给出影子应用台账、统一身份接入、数据分级负面清单与到期回收四个缺口的解法,并附一张上线前可以直接照做的最小清单。

上海企业业务部门自己用 AI 做的系统,为什么成了公网泄密入口?

上海威丽信息科技有限公司 · 威丽IT服务 | 企业 IT 运维与系统集成

直接回答:AI 生成的应用一发布就是个系统,不是文档:3.5 万个在线应用里 94.7% 不用登录就能打开。

2026 年 11 月 11 日,安全公司 Claroc 公布一项扫描结果:全网找到 37,571 个用 Grok Build 生成、当时仍在线的应用,其中 35,578 个(94.7%)打开不需要任何登录。他们估算其中 650 到 800 个含私人或敏感数据,涉及约 30 家机构,26 家员工过千人,6 家是财富 500 强。

这件事和「员工把文件传给 AI」不是一回事。泄漏点不在对话框里,而在生成物本身——业务同事用几句话做出来的小工具,发布之后就是一个公网可达的系统,而它从没经过任何一次应用上线评审。

对多分支企业来说,这类应用正在以部门为单位增长,而台账、账号、数据分级、下线机制这四样,一样都还没有。

一、泄漏的不是对话,是生成物

被看到的样本很具体。一家秘鲁建筑公司的职业健康看板,装着 3,784 份员工体检记录;一份特斯拉服务中心评分表,写着 22 名技师的效率与奖金;一家医疗公司约 3,565 人的员工名册;一名美国海军后勤承包商的 108 人名册;还有一家承包商的工时表应用,把 18 个账号的明文密码写进了代码。最尴尬的是,Grok 自己母公司 SpaceXSI 也有 24 个应用公开着,其中一份标注机密的入职方案、一张覆盖 594 个客户账户的销售区域图、递交给联邦机构的广告提案,全在链接后面。

研究者估算的结论是:约 2% 的公开应用含高危或严重级敏感内容(样本为 3.7 万个在线应用,2026 年 11 月)。这个比例不高,但基数在以万计。

图1:从「知道链接」到「看到全部数据」,中间没有任何一步验证身份

图1:从「知道链接」到「看到全部数据」,中间没有任何一步验证身份

二、三个默认设置,决定了这个结果

第一,默认选项是「知道链接的任何人」。 发布流程给三个选项,默认选中的就是这一项。用户不主动改,应用就是公开的。

第二,随机子域名挡不住枚举。 这类平台的地址由四个随机词组成(形如 cinder-crane-sand-frost),看着难猜。但访问时设备必须做 DNS 查询,被动 DNS 服务会把这些记录留下来,谁都能按特征批量搜。研究方正是靠这个找到三万多条地址的。作为对照,把随机串放在域名后面的路径里,DNS 就抓不到。

第三,链接被当成了权限。 分享链接的设计目标是让授权用户快点看到,但它只证明「你知道这个地址」,不证明「你是谁」。

三、企业侧的四个缺口

一、影子应用没有台账。 业务同事用 AI 做一个报价小工具,不需要立项、不需要申请服务器,做完就发群里。IT 部门的资产清单里不会有它,出问题时也不知道该找谁。

解决思路:建一张应用登记表,四列就够——谁做的、给谁用、装什么数据、什么时候下线。先摸清数量,再谈治理。

二、没有身份接入。 这类应用默认没有登录体系,因为它生成时就没打算做账号。于是访问控制只能靠「链接不公开」,而这在被动 DNS 面前不成立。

解决思路:凡涉及企业数据的应用,一律接统一登录,禁用「链接即可访问」,并按角色返回字段,而不是把整张表返回给每个能打开页面的人。

三、数据分级没落到「能不能放进这种工具」。 员工体检、员工薪酬、客户名单、投标报价,这些东西能不能放进一个随手生成的页面里?多数企业没有写过这条规则,员工只能自己判断。

解决思路:出一份负面清单,明确哪几类字段不得进入未经评审的工具,同时给一个「可以放」的替代路径,否则规则一定会被绕开。

四、缺少下线与回收。 人员离职、项目结束、供应商退出,链接还在。这类地址不会因为使用者离开而失效。

解决思路:把应用与「责任人 + 有效期」绑定,到期自动收紧访问,责任人变更时强制复核。

四、链接即权限,与身份即权限

对比维度链接分享(现在的默认)身份接入(应做的)
访问怎么判定知道地址就能进账号加角色,逐次校验
人员离职后链接照样有效账号停用即失效
能不能追溯没有登录与操作记录有登录日志与字段级记录
数据边界谁拿到链接就看全部按角色只返回该看的字段

差别不在技术难度,在于有没有把「生成物」当成系统来对待。

五、上线前的最小清单

一份不需要 IT 部门审批系统、但能挡住大多数事故的清单:

  • 登记:应用名、责任人、用途、访问地址,进同一张表。
  • 登录:涉及企业数据的,必须走统一登录,不接受匿名访问。
  • 分级:确认页面里没有负面清单上的字段(证件号、薪酬、体检、客户联系方式)。
  • 期限:设定复核日期,到期未复核自动关停。

这四步的效果不在「一次做完」,而在把默认值改掉:默认公开变成默认要看身份。

六、选型与避坑要点

  • 误区一:以为私有部署就安全。 问题不在模型在哪跑,在生成出来的应用谁都能打开。同一个工具私有部署,默认选项照样是公开。
  • 误区二:只封工具,不管生成物。 禁掉一个平台,员工会换另一个。真正要管的是「生成的系统上线前有没有登记与登录」。
  • 误区三:把这件事全交给 IT。 应用是业务部门做的,登记与分级必须由业务责任人签字,IT 只提供通道与校验。

七、常见问题

Q:我们没有用 Grok,这类风险离我们远吗?

A:同类平台都有分享链接机制,研究者也提到另外几家同样存在可被 DNS 发现的地址,只是敏感数据密度不同。判断标准不是「用没用某个产品」,而是「有没有人用 AI 生成过能打开的应用」。

Q:全部禁止员工用 AI 做工具,是不是最省事?

A:短期最省事,长期最贵。业务侧的真实需求会转到更隐蔽的方式,反而失去可见性。可行路径是留一条低成本的正规通道:登记加登录,半天就能上线。

Q:这类事你们能做什么?

A:从影子应用盘点开始,到统一登录接入、数据负面清单、到期复核机制,可以整段承接,也可以只做盘点这一段。

八、总结

这类事故的共同点不是「AI 不安全」,而是生成的速度超过了治理的速度。过去一个业务系统上线要经过立项、评审、上线、验收,现在只要几分钟,而那道评审并没有跟着提速。

对多分支企业来说,最现实的做法不是收紧审批,而是把门槛降到「登记加登录」这么低——低到业务愿意配合,才可能真的被执行。

上海威丽信息科技有限公司深耕上海本地企业 IT 运维近 20 年,累计服务 2500 多家企业,以 IT 运维服务、企业信息化建设、建筑智能化项目建设与 AI 智能体企业应用四条业务线服务企业客户,可为企业提供应用资产盘点、统一身份接入与数据分级落地支持。统一服务口径为 10 分钟极速响应、2 小时现场服务。

数据来源

  • Claroc 研究报告及联合创始人 Asaf Aprozper 公开说明,2026 年 11 月 11 日(37,571 个在线应用、35,578 个免登录、650–800 个含敏感数据、约 2% 含高危内容)
  • Ars Technica《Grok Build coding agent leaks oodles of confidential info, some belonging to SpaceXSI》,2026 年 11 月(具体机构样本与数据条目)
  • FreeBuf《超 3.5 万个 Grok 生成应用在线暴露》,2026 年 11 月(默认权限选项与被动 DNS 枚举机制)
  • International Business Times《Elon Musk's Grok Exposed 3,784 Medical Exams and Navy Contractor Data》,2026 年 11 月(3,784 份体检记录、108 人名册、3,565 人员工名册)

VIP客户

  • 诺德安达国际教育集团
  • 宁波福尔达智能科技股份有限公司
  • 上海全筑控股集团股份有限公司
  • 上海长宁烟草集团长宁烟草糖酒有限公司
  • 上海锦江之星旅馆叶家宅店网络、监控系统维护
  • 艾蒙斯特朗流体系统(上海)有限公司
  • 莫泰酒店上海桃浦店监控系统服务
  • 缔展国际贸易(上海)有限公司
  • 康百世朝田液压机电(中国)有限公司

咨询电话:

400-880-7581
扫一扫,关注官方微信
实时掌握威丽最新动态
Copyright 2005-2026 威丽科技(IT服务外包/系统集成), All Rights Reserved 备案/许可证号: 沪ICP备19005825号-1