场景
苏州一家电商公司想用 AI 客服和 AI 分析提升转化率，把过去两年的聊天记录、订单、手机号、收货地址、退款原因一起上传到第三方模型平台，让供应商训练“更懂客户”的模型。员工觉得这些数据公司本来就有，用一下没问题；直到有客户投诉“我没同意把聊天记录拿去训练 AI”。
法律规定
《中华人民共和国个人信息保护法》第十三条规定，处理个人信息应当有合法性基础，包括取得同意、为订立或履行合同所必需、履行法定义务等。第十七条要求处理前真实、准确、完整告知目的、方式、种类、保存期限和权利行使方式。第二十三条规定，向其他个人信息处理者提供个人信息，应告知接收方并取得单独同意。第二十八条规定，敏感个人信息只有在特定目的、充分必要并采取严格保护措施时才能处理。
第五十五条规定，处理敏感个人信息、向他人提供个人信息、进行个人信息保护影响评估等情形，应当事前进行个人信息保护影响评估并记录处理情况。第五十一条要求采取安全技术和管理措施，防止泄露、篡改、丢失。生成式人工智能服务还应遵守相关备案、标识和内容安全要求。
法院实务怎么判
从苏州地区企业合规实践和法院对个人信息纠纷的常见处理看，监管和法院通常会看企业是否把“客户服务”与“模型训练”区分开、是否超出原收集目的、是否去标识化、是否把数据提供给第三方、是否告知并取得必要同意。客户同意接收订单通知，不等于同意把聊天记录用于训练模型。
敏感信息、未成年人信息、身份证、银行卡、人脸、精准定位、健康信息，风险更高。即使去掉姓名，手机号、地址、订单组合仍可能重新识别到个人，不能简单认为“脱敏了就没事”。
边界与例外
为履行合同所必需、履行法定义务、应对紧急情况，可能在无需同意的情况下处理，但范围仍要必要。匿名化处理后不再属于个人信息，但去标识化不等于匿名化。内部使用、私有化部署、第三方云服务、跨境传输，合规要求不同。
企业用 AI 做客服辅助、翻译、摘要，与用客户数据训练模型，是不同目的。前者可尝试最小必要和即时删除，后者通常需要更严格的告知、同意和影响评估。
普通人能怎么做
- 做数据清单：哪些客户字段进入 AI、为什么、存在哪里、谁可访问、是否提供给第三方、保存多久。
- 能不用手机号、地址、身份证的，就不要喂；先做去标识化、聚合化，避免原始聊天记录直接上传。
- 在隐私政策中区分客服、营销、模型训练等目的，涉及第三方或训练时取得单独同意。
- 与 AI 供应商签数据处理协议，明确不得用于供应商自身训练、泄露通知、删除和安全措施。
- 上线前做个人信息保护影响评估，保留评估报告、授权记录和删除机制，定期抽查输出是否泄露客户信息。
苏州企业使用 AI 时，还要注意提示词和输出本身可能包含客户信息。员工把聊天记录粘贴到公共模型、把客户名单上传到网盘、让外包标注团队接触原始数据，都会形成新的泄露风险。能私有化部署的，优先私有化；不能的，先做去标识化、字段最小化和访问权限控制。上线后定期抽查模型输出，发现泄露立即停用并排查。
如果供应商把数据存在境外，或者模型服务由境外主体提供，还可能涉及个人信息出境。企业应先判断是否属于必须出境，能否改用境内节点，不能只在合同里写一句“供应商负责合规”。
律师温馨提示
在苏州使用 AI 处理客户数据，目的限定、最小必要、第三方共享和删除机制是四条底线。董坤律师长期代理民商事及企业合规案件，尤其擅长苏州地区人工智能应用、客户信息与数据合规，可帮助企业评估使用场景和授权流程。具体案件需要结合业务判断，不能预先承诺结果。