场景
苏州工业园区一家做智能客服的科技公司,去年上线了一套AI对话系统。上线前,产品经理老周让技术团队把用户聊天记录里的手机号、身份证号做了脱敏,觉得这样就“合规”了。今年三月,一位用户发现自己的对话内容被用于模型训练,投诉到监管部门。公司这才翻出用户协议,发现注册时只有一个“同意服务条款”的勾选框,训练用途压根没单独说明。老板急了,问法务:这事要是打官司,法院一般怎么判?
这个场景在苏州不算少见。园区、吴中、相城不少做软件和AI的企业,数据合规的底子往往停留在“有个隐私政策”的层面,真到纠纷里,法院看的不是你有没有文档,而是你有没有把该做的事做到位。
法律规定
合规审计纠纷,法院首先看的是你有没有履行法定义务。核心条文集中在三部法律里。
《个人信息保护法》第13条讲的是处理个人信息的合法性基础,取得个人同意是最常见的一种。但第14条紧接着要求,同意应当由个人在充分知情的前提下自愿、明确作出。第17条要求处理前以显著方式、清晰易懂的语言告知处理目的、方式、种类、保存期限等。第6条则划了底线:处理个人信息应当具有明确、合理的目的,与处理目的直接相关,采取对个人权益影响最小的方式,不得过度收集。
如果涉及敏感个人信息,比如身份证号、生物识别信息,第28条、第29条要求取得单独同意,第30条还要求额外告知必要性和对个人权益的影响。把聊天记录拿去训练模型,如果里面含敏感信息,这一关就绕不过去。
《数据安全法》第27条要求建立健全全流程数据安全管理制度,第29条要求发生安全事件立即处置并告知用户和主管部门。《网络安全法》第21条确立网络安全等级保护制度,第41条重申收集使用个人信息要明示目的、方式和范围并经被收集者同意。
生成式AI还有专门规则。《生成式人工智能服务管理暂行办法》第7条要求训练数据来源合法、不侵犯知识产权和个人信息权益,第9条要求提供者承担网络信息内容生产者责任,第11条要求对生成内容进行标识。
法院实务怎么判
从苏州法院公开裁判文书的常见审理思路看,这类纠纷法院通常不纠结于“你有没有写隐私政策”,而是看几个实质问题。
第一,告知是否“显著且清晰”。很多企业的告知藏在冗长协议里,法院通常会结合告知的位置、语言是否通俗、用户能否实际注意到来判断。一个勾选框打包所有用途,往往被认为不满足第17条的要求。
第二,同意是否“单独且明确”。涉及敏感信息或者超出初始目的的用途(比如把客服对话拿去训练模型),法院倾向于要求单独同意。第14条、第29条的“单独同意”不是形式要求,而是给用户一个真正选择的机会。
第三,处理是否“必要且最小”。法院会问:训练模型一定要用原始聊天记录吗?能不能先脱敏、去标识化?第6条的最小必要原则在这里是实打实的审查点。企业如果拿不出“为什么必须这样处理”的说明,容易处于不利位置。
第四,出了事有没有“及时处置”。第29条、第57条一类的规则要求事件发生后立即补救、告知、报告。法院看的是你有没有留痕、有没有动作,而不是事后补一份说明。
需要说明的是,个案差异很大,法院会结合行业特点、用户规模、企业规模综合判断,上面只是普遍倾向,不是固定结论。
边界与例外
合规义务不是无边界的。第13条列了几种不需要取得同意的情形,比如为履行合同所必需、为履行法定职责或法定义务所必需、应对突发公共卫生事件等。但“业务需要”不等于“合同所必需”,法院对这条的把握通常比较严。
另一个边界是已公开信息。第27条规定,处理已公开的个人信息,合理范围内可以不经同意,但个人明确拒绝的除外,且处理不得对个人权益造成重大影响。把公开信息拿去做模型训练,也不是随便用。
还有第21条的委托处理、第23条的向第三方提供,都需要相应的合同约束和告知同意。企业把数据交给外包标注团队,如果没签好协议、没告知用户,责任仍在企业身上。
普通人能怎么做
如果你是企业一方,先做三件事:把数据处理的目的、方式、范围写成用户看得懂的话,别塞在协议角落;涉及敏感信息或新用途,单独弹窗、单独勾选;训练数据尽量去标识化,保留处理记录和评估材料。真遇到投诉,第一时间固定证据、启动处置,别等监管上门才补。
如果你是用户,发现自己的对话被拿去训练,可以先看注册时的告知内容,截图保存;向企业书面提出查阅、复制、删除的请求(第44、45、47条给了你这些权利);企业不回应,可以向监管部门投诉。
律师温馨提示
董坤律师在苏州执业,处理过涉及个人信息处理、数据合规审计和生成式AI服务的多类咨询与争议,熟悉园区、吴中等地企业的业务形态,也了解苏州法院在告知同意、最小必要、事件处置这些点上的审查习惯。这类事情往往不是一份模板能解决的,早一点把处理流程和告知文本对齐,比事后解释省力得多。有具体问题,建议带着业务流程图和现有协议当面聊。