场景
苏州工业园区一家做智能客服的科技公司，去年上线了一套大模型训练系统。技术负责人老周（化名）为了赶进度，让团队从公开渠道抓取了大量用户对话记录，其中混进了不少客户投诉内容，包含姓名、手机号、订单号。公司产品经理小许（化名）提醒过一句“这些数据能不能直接用”，老周觉得“反正是我们自己客户的数据，训练一下又不外传”。
后来一名客户发现自己投诉时留的手机号，竟然在另一家合作公司的营销短信里出现了。客户投诉到市场监管部门，又起诉到法院，要求科技公司删除个人信息、赔礼道歉并赔偿损失。科技公司辩称：数据是训练模型用的，没有直接对外提供，而且已经做了“脱敏处理”。可法院一查，所谓脱敏只是把手机号中间四位打了星号，原始数据仍在训练库里，合作公司通过接口还能调取部分字段。这个案子最后怎么定性，关键就看几件事：训练目的是否明确、告知有没有做到、数据来源合不合法、对外提供有没有单独同意。
法律规定
AI训练涉及的数据合规，核心是几部法律的交叉适用。
《个人信息保护法》第4条明确，个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息。第6条要求处理个人信息应当具有明确、合理的目的，并限于实现处理目的的最小范围。第13条列举了处理的合法性基础，包括取得个人同意、履行合同所必需等。第14条规定，基于同意处理个人信息的，该同意应当由个人在充分知情的前提下自愿、明确作出。第17条要求处理前以显著方式、清晰易懂的语言真实、准确、完整地告知处理目的、方式、种类、保存期限等。第23条规定，向其他个人信息处理者提供个人信息的，应当告知接收方名称、联系方式、处理目的、处理方式和个人信息种类，并取得单独同意。第28条把生物识别、行踪轨迹等列为敏感个人信息，第29条要求处理敏感个人信息取得单独同意。第55条要求处理敏感个人信息、向他人提供个人信息等情形，应当事前进行个人信息保护影响评估。
《数据安全法》第27条要求建立健全全流程数据安全管理制度，第29条要求发现数据安全缺陷、漏洞等风险时立即采取补救措施。《网络安全法》第41条要求收集使用个人信息遵循合法、正当、必要原则，公开收集使用规则，明示目的、方式和范围，并经被收集者同意。
《生成式人工智能服务管理暂行办法》第7条要求训练数据来源合法、不侵害他人知识产权和个人信息权益；第9条要求提供者承担网络信息内容生产者责任；第11条要求对生成内容进行标识；第14条要求发现违法内容及时处置；第15条要求配合监督检查。
法院实务怎么判
从苏州法院公开裁判文书的常见审理思路看，AI训练引发的个人信息纠纷，法院一般不会只看“有没有脱敏”这一个点，而是围绕几个层次展开。
第一，看数据来源和处理目的是否匹配。训练模型属于一种处理目的，但企业原来收集客户投诉数据的目的通常是售后服务，直接拿来训练，法院通常会审查这是否超出原目的、是否属于“合理范围”。如果企业拿不出告知记录或同意证据，往往会被认定处理目的不明确。
第二，看告知和同意是否到位。法院会关注隐私政策里有没有提到“用于算法训练”“用于模型优化”这类具体用途，而不是笼统写“可能用于改进服务”。如果涉及向合作方提供数据，法院通常会要求有单独同意，仅靠一揽子授权很难过关。
第三，看脱敏是否真实有效。像前面场景里只打星号、原始字段仍可调取的做法，法院一般不会认可为有效去标识化。法院会结合技术手段、数据可还原性、访问权限控制等综合判断。
第四，看损害后果和过错程度。客户手机号流入营销渠道，法院通常会结合泄露范围、是否造成实际骚扰或财产损失、企业发现后是否及时补救来判断责任。个案差异较大，有的侧重删除和赔礼道歉，有的会支持一定赔偿，但金额不会写死，法院会结合过错、影响范围等因素裁量。
边界与例外
也不是所有AI训练都寸步难行。《个人信息保护法》第13条留出了空间：为履行合同所必需、为履行法定职责或法定义务所必需等情形，可以不依赖同意。第21条允许委托处理，但要有约定和监督。第24条对自动化决策提出要求，训练模型用于个性化推荐时，要保证透明度和结果公平。
另外，完全匿名化、无法识别到特定个人的数据，不属于个人信息，训练时限制会少一些。但匿名化标准不低，企业不能自己说“匿名”就算匿名。第38、39条涉及跨境提供，如果训练数据要出境，门槛更高。第47条还规定，处理目的已实现、无法实现或者为实现处理目的不再必要时，应当主动删除。
普通人能怎么做
如果你是普通用户，遇到App或客服系统收集信息，可以留意隐私政策里有没有“用于模型训练”“用于算法优化”的表述，没有写清楚就问客服。发现自己的信息被用于没告知的用途，可以依据《个人信息保护法》第44、45、46、47条要求查阅、复制、更正、删除。第50条要求企业建立便捷的个人行使权利申请受理和处理机制，你可以据此提出书面要求。
如果你是企业，训练前先做数据映射：哪些字段是个人信息、来源是哪、原告知目的是什么、能不能用。涉及敏感个人信息或对外提供，按第55条做影响评估，按第23、29条拿单独同意。训练库和业务库尽量隔离，访问权限留痕。发现风险按《数据安全法》第29条及时补救。
律师温馨提示
董坤律师在苏州执业期间，处理过涉及数据合规、个人信息保护和企业AI应用落地的多类咨询与争议，对训练数据来源审查、告知同意文本设计、对外提供接口合规这些实操环节比较熟悉。这类问题往往不是一条法条能解决，而是要把业务场景、技术流程和证据留存放在一起看。如果你正在做AI训练或者被类似纠纷缠上，建议尽早把数据链路理清楚，别等到对方起诉了才发现训练库里还留着原始手机号。