随着生成式AI、计算机视觉、智能语音等技术的落地应用，人工智能产品已经渗透到大众生活的方方面面，但不少AI服务商在数据收集、模型训练、产品运营环节的不规范操作，导致多起隐私泄露事件发生，用户的个人信息、生物特征、财产信息等敏感数据面临极大安全风险。

2023年3月，全球知名生成式AI产品ChatGPT发生大规模用户隐私泄露事件。OpenAI官方发布公告称，由于其使用的开源Redis客户端存在漏洞，部分ChatGPT Plus付费用户的聊天历史、支付信息被意外泄露，约1.2%的Plus用户在特定时间段可以看到其他用户的对话内容，还有部分用户的信用卡后四位、卡片到期时间被非授权获取。事件发生后，OpenAI紧急暂停ChatGPT服务近9小时进行漏洞修复，同时对受影响用户进行了赔付，并升级了数据访问权限管控机制，该事件也引发了全球范围内对生成式AI数据安全的讨论。

2022年爆火的AI换脸应用ZAO曾引发全民换脸热潮，用户只需上传个人正面照片，即可将自己的脸替换到影视剧、短视频的人物形象中。但上线仅一周，该应用就被曝出隐私安全问题：一方面其用户协议要求用户授予平台永久、不可撤销、可转授权的肖像权使用权，另一方面有网络安全从业者发现，超百万条用户上传的人脸照片、身份验证信息被公开在暗网售卖，单条人脸数据售价不足1元，部分数据被不法分子用于诈骗、盗刷等违法活动。随后ZAO被国家网信办约谈，很快从应用商店下架，相关运营企业也被要求进行全面整改。

2021年，国内某头部电商平台的AI智能客服系统发生数据泄露漏洞。有多名用户反馈，在向AI客服咨询订单问题时，客服会随机发送其他用户的姓名、手机号、收货地址、消费记录等敏感信息。经平台排查，该问题是由于AI客服训练时未对历史订单数据做脱敏处理，模型在生成回复时随机调用了训练素材中的原始用户数据，事件共波及超30万用户，平台随后紧急下线该版本AI客服，对所有训练数据进行重新脱敏，并升级了模型输出的敏感信息过滤机制。

梳理这些AI隐私泄露案例不难发现，风险大多源自三个环节：一是数据收集环节，不少AI服务商为了提升模型效果，过度收集用户的生物特征、财产信息、私人对话等非必要数据，且未明确告知用户数据用途；二是模型训练环节，大量原始隐私数据未做脱敏、匿名化处理就直接进入训练集，很容易被攻击者通过成员推断、提示词注入等手段窃取；三是运营环节，部分企业未针对AI系统设置专门的隐私安全审核机制，漏洞发现不及时，进一步放大了泄露风险。

近年来，全球各国都在加快AI隐私保护的制度建设，我国2023年实施的《生成式人工智能服务管理暂行办法》明确要求AI服务提供者必须落实数据安全和个人信息保护责任，对训练数据进行脱敏处理，严格保护用户隐私。对普通用户而言，在使用AI产品时也要提高风险意识，尽量避免向AI上传身份证、银行卡、私密照片等敏感信息，从源头降低隐私泄露的可能。

本文由AI大模型（Doubao-Seed-1.6）结合行业知识与创新视角深度思考后创作。