大模型训练数据的"灰色地带"

2026年6月，国家网信办对一家知名大模型企业作出行政处罚：因其未经用户单独同意，擅自抓取用户聊天记录、位置数据等个人信息用于AI模型训练，被处以2亿元罚款，并责令暂停新增数据收集3个月。

这家此前估值超百亿的公司，曾一直宣称其训练数据"经过匿名化处理"。但监管部门调查发现，其数据脱敏并不彻底，且未取得用户的单独同意——违反了《个人信息保护法》和《生成式人工智能服务管理暂行办法》的核心规定。

这一处罚在AI行业引发强烈震动。大模型训练离不开海量数据，但"合法采集"与"技术需求"之间的边界到底在哪里？

为何2亿元？处罚的法律依据

根据《个人信息保护法》第66条，违反本法规定处理个人信息，情节严重的，可处五千万元以下或者上一年度营业额百分之五以下罚款。2亿元的罚单说明监管部门认定该公司违法行为已达到"情节严重"标准。

具体违法点有三：其一，未取得用户单独同意即将聊天数据用于训练。《个人信息保护法》第23条规定，个人信息处理者向其他个人信息处理者提供其处理的个人信息的，应当向个人告知接收方的名称、处理目的、处理方式和个人信息的种类，并取得个人的单独同意。该公司在用户协议中以笼统的"改善服务质量"条款涵盖模型训练，被认定不符合"单独同意"要求。

其二，数据脱敏不彻底。监管部门发现，即使经过匿名化处理，仍可通过模型输出的反向推理识别出特定用户的部分个人信息，说明其脱敏措施未达到"无法识别特定自然人"的法定标准。

其三，未建立训练数据的分级分类管理制度。该公司将用户消息记录、位置数据、设备信息等不同敏感级别的数据混同处理，未按《生成式人工智能服务管理暂行办法》要求建立分级分类管理机制。

大模型企业的三条合规防线

第一条：数据来源合法性审查。企业应对训练数据的来源进行全面审查，区分自有数据、公开数据和第三方数据，对每类来源的数据建立差异化的合规路径。公开数据爬取也需遵守robots协议和相关网站的条款，不得绕过技术保护措施。涉及个人信息的，必须取得单独同意或满足其他合法性基础。

第二条：同意的分层获取机制。建议采用双层同意机制——第一层为产品服务的通用同意，第二层为数据用于模型训练的单独同意。在用户界面上应使用清晰的勾选框，而非默认选中或隐藏在长篇幅的用户协议中。根据PIPL第14条，同意应当由个人在充分知情的前提下自愿、明确作出。

第三条：训练数据的全流程管理。建立从数据采集、标注、训练到部署的全流程记录机制，确保每一批训练数据的来源、处理方式、脱敏措施都可追溯。定期开展数据安全影响评估和个人信息保护影响评估，形成书面报告存档备查。

结语

2亿元的罚单是一个明确的监管信号：AI大模型的数据训练不是"法外之地"。对于正在追赶AI浪潮的中国科技企业而言，数据合规不是发展的障碍，而是可持续发展的基石。

王冠律师 | 北京浩略律师事务所

免责声明：本文仅供一般性法律参考，不构成具体法律意见。