场景
苏州工业园区一家做智能客服的科技公司，去年上线了一套大模型客服系统。技术负责人老周觉得，用户对话数据“反正是客户自己发过来的”，就直接拿来微调模型。市场部又在用户协议里塞了一句“公司有权将用户信息用于模型优化”，字体小得几乎看不见，也没单独弹窗提示。
今年三月，一位姓陈的用户发现自己和客服聊过的订单纠纷内容，居然出现在另一个客户的对话里——虽然做了脱敏，但姓名、小区名、订单尾号都在。陈先生投诉到公司，要求删除数据并说明用途。老周的第一反应是：“我们没卖数据，也没泄露给第三方，只是内部训练用，这也要管？”
这个场景在苏州的AI创业圈里并不少见。很多团队把“训练”当成技术动作，忽略了它在法律上是一次个人信息处理行为。
法律规定
先说清楚一个基本判断：用用户对话数据训练模型，属于《个人信息保护法》第4条说的“个人信息处理”，包括收集、存储、使用、加工。既然是处理，就得有合法性基础。
第13条列了几种情形，最常见的是“取得个人同意”和“为订立、履行合同所必需”。但训练模型通常不属于履行客服合同所必需——用户找客服是为了解决问题，不是为了给模型当教材。所以原则上要单独取得同意。
同意怎么算有效？第14条要求自愿、明确，第17条要求告知处理目的、方式、种类、保存期限。市场部那种藏在协议里的小字，很难说是“明确”。如果涉及敏感个人信息，比如对话里出现身份证号、病历、金融账户，还要按第28、29、30条取得单独同意，并告知必要性。
再看《生成式人工智能服务管理暂行办法》。第7条要求训练数据来源合法、不侵害他人权益；第9条要求提供者承担网络信息内容生产者责任；第11条要求对生成内容进行标识。换句话说，训练数据“来路正”是底线，不是加分项。
《数据安全法》第27条要求建立数据安全管理制度，第29条要求发现风险及时补救。如果训练数据里混进了不该有的个人信息，又没有安全措施，这两条就可能被援引。
法院实务怎么判
苏州法院公开裁判文书里，涉及个人信息处理的纠纷，审理思路通常围绕几个点展开，个案会有差异。
第一，看有没有告知。法院通常会审查用户协议、隐私政策是否对训练用途做了显著提示，而不是只看“有没有写”。藏在附件里、用灰色小字、默认勾选，往往被认为不足以让用户知情。
第二，看同意是否单独。把训练用途和“提供服务”捆绑在一个同意按钮里，法院通常会结合《个人信息保护法》第14条判断是否构成“明确同意”。涉及敏感信息的，单独同意的要求更严。
第三，看必要性。即使用户同意了，法院也会看训练目的是否合理、范围是否最小。第6条要求“与处理目的直接相关，采取对个人权益影响最小的方式”。把全部对话原样喂给模型，和只提取脱敏后的意图标签，法院的容忍度不一样。
第四，看删除义务。用户依第45、47条要求删除时，公司能不能说“已经进模型了删不掉”？法院通常会看公司有没有建立可操作的删除机制，以及训练数据是否做了隔离和可追溯管理。一句“技术做不到”很难成为免责理由。
边界与例外
也不是所有训练都必须逐人同意。第13条里的“为履行合同所必需”在极窄的场景下可能成立，比如对话内容本身就是服务交付的一部分，且不用于其他目的。但把客服对话拿去优化通用模型，通常超出了这个边界。
另一个边界是匿名化。第4条区分了“匿名化”和“去标识化”。真正匿名化、无法复原到个人的数据，不属于个人信息，训练限制会松一些。但实践中很多“脱敏”只是去掉姓名，订单号、设备号、时间地点组合起来仍可识别，法院通常按去标识化处理，仍受个人信息规则约束。
还有委托处理的情形。第21条允许委托处理，但委托方仍要监督受托方，不能一托了之。如果训练外包给第三方，告知义务和同意基础不能跟着外包出去。
普通人能怎么做
如果你是小陈这样的用户：留意客服对话页有没有关于数据用途的提示；发现自己的对话内容出现在别处，可以先截图固定证据，再依第45条要求查阅、复制，依第47条要求删除；公司不回应，可以向网信部门反映，第50条要求企业建立便捷的个人行权申请受理机制。
如果你是老周这样的技术负责人：训练前先做数据来源清单，区分“合同必需”和“模型优化”；对训练用途做单独弹窗告知，不用默认勾选；对话数据进训练集前做去标识化评估，别只删姓名；建立删除和回溯机制，用户要求删除时能定位到具体批次；涉及敏感信息的，按第55条做个人信息保护影响评估并留档。
律师温馨提示
董坤律师在苏州处理过不少数据合规和AI训练相关的咨询，常见的问题不是技术做不到，而是“以为不用管”。训练数据的合法性基础、告知同意的设计、删除机制的可操作性，这些事前的功夫往往比事后解释更省成本。如果你正在搭建或调整训练流程，可以把数据来源、用户协议、删除路径这几件事先捋一遍，再决定要不要动工。