算法歧视违法吗？企业用算法差别对待要承担什么法律责任

一句话回答：违法。企业用算法在招聘、放贷、定价等环节，对条件相同的人给出不同结果、又没有正当理由，法律上就叫“算法歧视”或“不合理的差别待遇”。轻则被责令改正、警告、没收违法所得、暂停或终止服务，拒不改正的并处100万元以下罚款；情节严重的，可处5000万元以下或者上一年度营业额5%以下的罚款，还可能承担民事赔偿。

一、法律依据：个人信息保护法第二十四条

《个人信息保护法》第二十四条规定：“个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。”

违反上述义务的罚则见第六十六条：责令改正、给予警告、没收违法所得，对违法处理的应用程序责令暂停或者终止提供服务；拒不改正的，并处100万元以下罚款，对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款；情节严重的，并处5000万元以下或者上一年度营业额5%以下罚款，对责任人处10万元以上100万元以下罚款，并可禁止其在一定期限内担任相关企业的董事、监事、高级管理人员和个人信息保护负责人。

此外，《互联网信息服务算法推荐管理规定》（部门规章）也要求算法服务遵循公正公平、公开透明的原则，并明确不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇（条文归位、忠实转述）。

二、三类高发场景

一是招聘筛选，算法直接把某些群体“过滤”掉；二是信贷授信，同等条件下给出差异化的额度或利率；三是差别定价，也就是常说的“大数据杀熟”，对老客户报更高的价。这三类的共同点，都是用个人特征决定了本不该有差别的结果。

三、实务中要注意的两点

第一，告知和拒绝权必须落实。用算法推送、营销的，要同时给用户“不看个性化推荐”的选项或便捷拒绝方式，只给一个“同意”按钮是不合规的。

第二，举证责任在企业一侧。按《个人信息保护法》第六十九条，侵害个人信息权益造成损害，处理者“不能证明自己没有过错的”，要承担损害赔偿等侵权责任，也就是过错推定，企业要自证算法设计合理、无不当差别。

四、案例分析（示意情景）

示意情景：某消费平台被用户反映“同一酒店房间，老账号看到的价格比新账号高”。用户投诉后，监管部门核查发现该平台按用户消费频次自动加价，且未提供关闭个性化定价的选项。该行为既涉及个人信息保护法第二十四条的“不合理差别待遇”，也可能违反算法推荐管理规定，平台面临责令改正、罚款，用户还可依第六十九条主张赔偿。若侵害众多用户权益，检察院或消费者组织可依法提起公益诉讼。

五、常见问题（FAQ）

问：怎么判断企业是不是“算法歧视”？

答：核心看两点：是不是用个人特征自动作出了差别结果，以及这个差别有没有正当合理的理由。无正当理由的差别待遇，就落入规制范围。

问：用算法给不同客户不同价格，都是违法的吗？

答：不是。促销、会员折扣等有明确、合理依据的差别不违法；没有合理依据、针对个人特征自动实行的差别待遇才违法。

问：被算法歧视了，个人怎么举证、能索赔吗？

答：可以留存不同账号比价、页面截屏等证据。按第六十九条，企业不能证明自己无过错的，要承担赔偿责任。

问：企业做自动化决策前要做什么合规动作？

答：按《个人信息保护法》第五十五条，自动化决策属于事前个人信息保护影响评估的情形之一，评估报告和处理情况记录至少保存三年。

问：算法歧视和“大数据杀熟”是一回事吗？

答：大数据杀熟是算法歧视在定价场景的典型表现，算法歧视的范围更宽，还包括招聘、信贷、服务准入等场景。

问：处罚由哪个部门作出？

答：一般由履行个人信息保护职责的部门（主要是网信部门）作出，情节严重的由省级以上部门处理。

算法歧视违法吗？企业用算法招聘、放贷区别对待要承担什么法律责任？