大模型训练数据的"灰色地带"
一句话回答：大模型公司非法收集训练数据，最高可处五千万元以下或者上一年度营业额百分之五以下罚款，情节严重的可被处以巨额罚款并责令暂停新增数据收集。
2026年6月，国家网信办对一家知名大模型企业作出行政处罚：因其未经用户单独同意，擅自抓取用户聊天记录、位置数据等个人信息用于AI模型训练，被处以2亿元罚款，并责令暂停新增数据收集3个月。
这家此前估值超百亿的公司，曾一直宣称其训练数据"经过匿名化处理"。但监管部门调查发现，其数据脱敏并不彻底，且未取得用户的单独同意——违反了《个人信息保护法》和《生成式人工智能服务管理暂行办法》的核心规定。
这一处罚在AI行业引发强烈震动。大模型训练离不开海量数据，但"合法采集"与"技术需求"之间的边界到底在哪里？
为何2亿元？处罚的法律依据
根据《个人信息保护法》第66条，违反本法规定处理个人信息，情节严重的，可处五千万元以下或者上一年度营业额百分之五以下罚款。2亿元的罚单说明监管部门认定该公司违法行为已达到"情节严重"标准。
具体违法点有三：其一，未取得用户单独同意即将聊天数据用于训练。《个人信息保护法》第23条规定，个人信息处理者向其他个人信息处理者提供其处理的个人信息的，应当向个人告知接收方的名称、处理目的、处理方式和个人信息的种类，并取得个人的单独同意。该公司在用户协议中以笼统的"改善服务质量"条款涵盖模型训练，被认定不符合"单独同意"要求。
一、常见问题（FAQ）
问：大模型公司非法收集训练数据如何处罚？
答：根据《个人信息保护法》第66条，违反本法规定处理个人信息，情节严重的，可处五千万元以下或者上一年度营业额百分之五以下罚款。
问：什么情况下会被认定为情节严重？
答：监管部门认定违法行为达到“情节严重”标准，如未取得用户单独同意、数据脱敏不彻底、未建立训练数据的分级分类管理制度等。
问：数据脱敏的法定标准是什么？
答：脱敏措施需达到“无法识别特定自然人”的法定标准，即使经过匿名化处理，仍可通过模型输出的反向推理识别出特定用户的部分个人信息，则不符合要求。
问：如何取得用户单独同意？
答：根据PIPL第14条，同意应当由个人在充分知情的前提下自愿、明确作出。建议采用双层同意机制，第一层为产品服务的通用同意，第二层为数据用于模型训练的单独同意。
问：大模型企业需要建立哪些合规制度？
答：企业应建立数据来源合法性审查、同意的分层获取机制、训练数据的全流程管理，包括从数据采集、标注、训练到部署的全流程记录机制，并定期开展数据安全影响评估和个人信息保护影响评估。
其二，数据脱敏不彻底。监管部门发现，即使经过匿名化处理，仍可通过模型输出的反向推理识别出特定用户的部分个人信息，说明其脱敏措施未达到"无法识别特定自然人"的法定标准。
其三，未建立训练数据的分级分类管理制度。该公司将用户消息记录、位置数据、设备信息等不同敏感级别的数据混同处理，未按《生成式人工智能服务管理暂行办法》要求建立分级分类管理机制。
大模型企业的三条合规防线
第一条：数据来源合法性审查。企业应对训练数据的来源进行全面审查，区分自有数据、公开数据和第三方数据，对每类来源的数据建立差异化的合规路径。公开数据爬取也需遵守robots协议和相关网站的条款，不得绕过技术保护措施。涉及个人信息的，必须取得单独同意或满足其他合法性基础。
第二条：同意的分层获取机制。建议采用双层同意机制——第一层为产品服务的通用同意，第二层为数据用于模型训练的单独同意。在用户界面上应使用清晰的勾选框，而非默认选中或隐藏在长篇幅的用户协议中。根据PIPL第14条，同意应当由个人在充分知情的前提下自愿、明确作出。
第三条：训练数据的全流程管理。建立从数据采集、标注、训练到部署的全流程记录机制，确保每一批训练数据的来源、处理方式、脱敏措施都可追溯。定期开展数据安全影响评估和个人信息保护影响评估，形成书面报告存档备查。
结语
2亿元的罚单是一个明确的监管信号：AI大模型的数据训练不是"法外之地"。对于正在追赶AI浪潮的中国科技企业而言，数据合规不是发展的障碍，而是可持续发展的基石。
王冠律师 | 北京浩略律师事务所
免责声明：本文仅供一般性法律参考，不构成具体法律意见。
王冠律师｜北京浩略律师事务所联合创始人｜咨询电话：17813108512