明星 电影 电视 爆料 搞笑 美图

“我的简历竟在大模型上‘裸奔’”!个人隐私为何遭“开盒”式泄露?AI隐私风险引警惕

凤凰网 2026-04-24 09:02:02
A+ A-

4月20日深夜,Kimi K2.6发布,其强大的代码能力在人工智能圈引起轰动。同一天,网友张呈(化名)的一则发帖引发了人们对AI泄露隐私的担忧。

随着AI逐渐渗透到工作和生活的方方面面,用户数据被拆解为训练模型的参数,如何保护个人隐私成为一个重要问题。张呈曾让大模型帮忙翻译,却意外收到了一份陌生人的简历。这份简历信息极为详尽,包括姓名、电话、邮箱等基础信息,还有完整的工作经历、项目经历和核心业绩。张呈对此感到十分不解和不安,他担心自己之前发送给Kimi的个人信息可能也存在泄露风险。

张呈立即向Kimi申请了会员退费,并在次日下午收到了退款。他表示今后将不再向AI发送任何个人隐私信息。这次事件让他对使用AI产品产生了极大的警惕。

专家们对此次泄露事件进行了分析。徐立认为,如果返回的内容是凭空编造的虚假简历,可以归入“幻觉”;但如果内容与另一名真实用户上传的简历高度一致且可验证,则更接近系统隔离失效。韩蒙指出,这类风险在大模型应用领域并不陌生,但成熟的企业级AI大模型产品中并不常见,这往往指向工程架构或系统层面的疏漏。

具体来说,可能导致泄露的原因包括:数据隔离失效或多用户上下文污染、检索增强生成链路绑定错误、文件解析和临时对象存储的访问控制失效、异步任务标识错配以及分享链接配置不当等。徐立建议企业尽快发布有时间线、影响范围和补救措施的正式调查说明。

律师王光英强调,姓名、电话等信息属于敏感个人信息,Kimi的行为构成未经授权向他人提供个人信息,涉嫌违法违规。她表示,“AI幻觉”不能作为免责的理由,真正需要承担法律责任的是提供AI服务的运营主体。平台的用户隐私协议中的特别声明也不能免除其法定的数据安全保护义务。

事实上,Kimi并非首次因数据合规问题受到关注。2025年,国家网络与信息安全信息通报中心曾通告Kimi等35款移动应用存在违法违规收集使用个人信息行为。近年来,大模型的数据安全和个人信息保护已成为行业面临的系统性挑战。据不完全统计,国内外大模型关于隐私泄露的事例已有100多起。

徐立表示,现阶段很难承诺技术上绝对杜绝隐私泄露。治理需要通过外部实时审计配合模型底层的防御性遗忘学习,一方面在模型内部精准“擦除”不该保留的数据,另一方面在模型外部增加实时审计和防护。大模型时代的数字隔离,核心在于分层管理模型能看到、记住、调用和返回的信息。目前业界正朝基础设施、应用架构、训练与推理一体治理三个方向推进,将法律规则、系统架构、工程治理和默认隐私设计前移。

责任编辑:zx0176

热点新闻

精彩推荐

加载更多……