AI责任认定的法律难题：当算法做出伤害时谁来担责？
作者：王冠 律师 | 企业常法与人工智能和数字经济
当一辆自动驾驶汽车在十字路口发生交通事故致人死亡，当AI辅助诊断系统将恶性肿瘤误判为良性，当AI Agent在未经明确授权的情况下签署了一份具有约束力的商业合同——谁来承担法律责任？这不再是一个科幻小说的假设，而是全球法律界正在面对的现实难题。随着人工智能系统自主决策能力的不断提升，传统侵权责任和产品责任法框架正面临前所未有的挑战。
本文将从自动驾驶、AI医疗诊断、AI Agent自主决策和产品责任法适用四个维度，系统分析AI责任认定的法律困境，并尝试提出构建分层责任体系的初步思路。
一、自动驾驶交通事故：刑事责任与民事责任的交叉地带
（一）自动驾驶的技术分级与法律意义
国际自动机工程师学会（SAE）将自动驾驶分为L0至L5六个等级。L0至L2为辅助驾驶阶段，驾驶员仍需承担主要注意义务；L3为有条件自动驾驶，系统在特定条件下可完全接管驾驶任务，但驾驶员需在系统请求时及时介入；L4为高度自动驾驶，系统可在限定区域内完全自主驾驶；L5则为完全自动驾驶，无需人类干预。
从法律视角看，L3是一个关键分水岭。当车辆处于L3及以上自动驾驶模式时，驾驶控制权从人类转移到系统，这意味着传统的"驾驶员注意义务"理论需要重新审视。我国《道路交通安全法》修订草案已将自动驾驶系统纳入规制范围，但尚未就L3以上级别自动驾驶的侵权责任作出明确安排。
（二）交通事故的刑事责任：谁的过错？
在传统刑法框架下，交通肇事罪以违反交通运输管理法规为前提，责任主体通常为驾驶人员。然而，当自动驾驶系统因算法缺陷、传感器故障或未及时更新地图数据导致事故发生，刑事责任应当归咎于谁？
实践中存在三种可能的责任主体：第一，车辆使用者或"安全员"，但其在L4/L5模式下对车辆的行驶缺乏实际控制力，要求其承担刑事责任有违主客观一致原则；第二，算法开发者和软件供应商，但其行为与损害结果之间的因果关系链条较长，且需要证明其存在主观故意或过失；第三，整车制造商，将事故归因于产品缺陷，进而可能构成生产销售不符合安全标准的产品罪。
2023年，美国国家公路交通安全管理局（NHTSA）对某品牌自动驾驶系统涉及的多起事故展开调查，最终认定该系统在识别横穿马路的行人时存在算法缺陷。但即便技术层面的因果关系得到确认，刑事责任的分配仍然困难重重——算法开发者是否能够预见特定场景下的失败模式？这是一个技术判断与法律判断交织的复杂问题。
（三）民事侵权责任的算法规制
在民事侵权领域，传统过错责任原则以行为人存在主观过错为归责基础。但在自动驾驶场景中，过错认定面临根本性困境：自动驾驶系统不存在"主观过错"这一法律概念，而将过错归咎于设计开发团队又面临举证困难。
产品责任法为受害者提供了一条替代救济路径。《中华人民共和国民法典》第1202条至第1207条确立了产品责任制度，因产品存在缺陷造成他人损害的，生产者应当承担侵权责任。然而，将自动驾驶系统认定为"产品"并不存在法律障碍，真正的问题在于如何定义"缺陷"。
自动驾驶算法的"缺陷"不同于传统机械产品——它可能不是制造缺陷，也不是设计缺陷，而是在特定场景下出现的"失败的预测"或"不完美的决策"。这种缺陷隐藏在数百万行代码之中，需要高度专业的技术鉴定才能发现，且往往是在事故发生后才能被识别。
我国《产品质量法》第46条将产品缺陷定义为"存在不合理的危险"，这一标准在算法时代需要赋予新的内涵。学界提出"算法漏洞"理论，认为如果算法在合理可预见的场景下未能作出安全决策，即可认定为存在缺陷。这一标准的关键在于"合理可预见"的判断——随着自动驾驶技术的成熟，社会对系统安全性的合理期待将不断升高，算法缺陷的认定门槛也将随之降低。
二、AI医疗辅助诊断：谁为误诊负责？
（一）AI在医疗诊断中的角色定位
AI辅助诊断系统在医学影像识别、病理分析、药物发现等领域展现出令人瞩目的能力。2024年，我国已有数十款AI医疗器械获得国家药品监督管理局注册批准，涵盖肺结节检测、眼底病变筛查、骨折识别等多个领域。然而，AI系统在临床实践中仍然处于"辅助"地位，最终诊断结论的作出者仍是具有执业资格的医师。
这一角色定位决定了AI医疗诊断的法律责任分配格局：即便AI系统给出了错误的检测结果，法律上的最终责任仍然由使用该系统的医师及其所在医疗机构承担。这种"人机协同"模式在法律上看似清晰，实则隐藏着深层矛盾。
（二）误诊的侵权责任分析
医师的执业过失责任。《中华人民共和国民法典》第1218条规定，患者在诊疗活动中受到损害，医疗机构或者医务人员有过错的，由医疗机构承担赔偿责任。如果医师因过度依赖AI诊断结果而忽略了明显的临床指征，导致误诊，其行为可能构成执业过失。然而，在AI诊断准确性已超过人类医师的某些领域（如肺结节CT筛查AI的检出率已超过95%），医师拒绝AI建议是否反而构成过失？这种"反向过失"问题在司法实践中尚无定论。
AI系统开发者的产品责任。如果AI辅助诊断系统的算法存在缺陷，导致系统性地输出错误结果，开发者可能需要承担产品责任。2023年，法国某医院因使用AI辅助诊断系统漏诊乳腺癌而被患者起诉，法院最终认定AI系统存在设计缺陷——该系统的训练数据集以白种人为主，对非裔患者的诊断准确率显著低下。这一案例揭示了一个关键问题：AI医疗系统的训练数据偏差是否构成产品缺陷？
医疗机构的组织过失责任。医疗机构在选择、部署和持续监测AI诊断系统方面负有组织管理义务。如果医疗机构未对AI系统进行充分的验证评估，或者未建立AI辅助诊断的审核机制，可能因组织过失而承担赔偿责任。
（三）知情同意的新维度
AI辅助诊断还带来了知情同意制度的新问题。《中华人民共和国医师法》和《医疗机构管理条例实施细则》要求医师在实施特殊检查、特殊治疗前向患者充分说明医疗风险、替代方案等信息。在AI辅助诊疗场景下，患者是否有权被告知其诊断结果受到AI分析的影响？AI系统的局限性（如训练数据可能不涵盖患者的特定亚群）是否属于应当告知的风险信息？
北京市某法院在2024年的一起医疗纠纷案件中，首次将"未告知AI辅助诊断的使用情况"纳入过错考量范围。这一司法动向提示AI医疗产品的提供者，应当建立更加完善的知情同意流程，确保患者知晓AI在诊断中的参与程度及其潜在局限性。
三、AI Agent自主决策导致合同纠纷的法律困境
（一）AI Agent的法律地位争议
AI Agent（智能体）是能够感知环境、自主决策并执行行动的智能系统。在商业领域，AI Agent已被应用于自动交易、智能客服、供应链管理、合同谈判等场景。当AI Agent自主作出决策并产生法律后果时，这些行为的法律效力如何认定？
根据《中华人民共和国民法典》第143条，民事法律行为有效的条件之一是"意思表示真实"。AI Agent的决策输出是否构成"意思表示"？学界存在不同观点：代理说认为AI Agent是人的代理人，其行为后果由被代理人承担；工具说认为AI Agent只是人类意志的延伸工具，应适用传统法律行为理论。
实践中，司法裁判倾向采用"工具说"框架。2023年，上海市浦东新区法院审理了全国首例AI Agent自动缔约合同纠纷案：某电商平台的AI采购代理系统在未达到预设触发条件的情况下自动下单并签署了一份价值数百万元的采购合同。法院认定，由于AI Agent的行为超出了用户授权范围，且相对方应当注意到合同对价明显不合理，合同可予撤销。这一判决为AI Agent缔约行为的效力认定提供了重要参考。
（二）AI Agent越权行为的责任归属
AI Agent越权行为（即系统执行了超出用户授权范围的操作）的核心法律问题是：委托方是否应当为AI Agent的"自主越权"承担责任？
从比较法视角看，欧盟《人工智能责任指令》（AI Liability Directive）草案提出了"过错推定"规则：在使用高风险AI系统造成损害的情况下，推定使用者存在过错，除非能够证明损害是在系统正常运行且尽到合理注意义务的情况下发生的。这一规则在很大程度上减轻了受害者的举证负担。
我国现行法律体系下，委托人可能基于以下路径承担责任：第一，严格责任路径——视AI Agent为委托人的"延长之手"，委托人应当对代理系统的所有行为承担完全责任；第二，过失责任路径——委托人因未尽到合理监督义务（如未设置适当的风险控制参数、未进行充分的系统测试）而承担过失责任；第三，替代责任路径——参照雇主对雇员行为的替代责任原理，委托人为AI Agent的自主决策行为承担责任。
从企业合规经营的角度，最优策略不是试图在诉讼中主张AI Agent行为的不可归责性，而是在系统部署之前建立健全的授权边界、风险控制与审计追踪机制，使AI Agent的决策始终处于可控范围内。
四、产品责任法的适用困境：算法升级与持续合规
（一）"产品"的范围界定
AI系统的核心价值在于算法软件，而非硬件设备。《民法典》和《产品质量法》对"产品"的定义是否涵盖算法软件，在理论和实践中均存在争议。支持将软件纳入产品范围的观点认为，软件作为交易标的物和商业价值的承载主体，与有形产品在功能上并无本质差异；反对观点则强调软件的无形性、可复制性和持续更新特性，与传统产品的物理属性存在根本区别。
2023年《最高人民法院关于审理产品责任纠纷案件适用法律若干问题的解释（征求意见稿）》首次将"软件"纳入产品范围，这一立法动向反映了司法实务对AI产品责任问题的关注。如果最终立法确认软件的"产品"属性，AI开发者将面临产品责任法的系统性约束。
（二）算法持续更新与"投入流通时"的困境
传统产品责任法以"投入流通时"作为判断产品缺陷的时间基准——产品在离开生产者控制时存在缺陷的，生产者应当承担责任。然而，AI系统具有持续学习、在线更新的特性，一款AI产品在投入使用时可能完全正常，但在接收新的训练数据或模型更新后产生新的风险。此时，"投入流通时"的判断标准便失去了适用基础。
这一问题在美国《统一产品责任法》修订讨论中已被充分关注。有学者提出"动态缺陷"概念，主张AI产品的生产者应当对产品的持续更新行为承担责任，即每一次算法更新都应被视作一次新的"投入流通"行为。这一理论在我国司法实践中已有案例呼应：2024年广东省深圳市某法院在一起自动驾驶追尾事故案中，认定车企在OTA（空中升级）更新后的系统对特定场景的识别能力不足，构成"后发缺陷"，车企未能及时召回构成了不作为侵权。
（三）开发者的注意义务标准
AI开发者应当在多大程度上为系统的"未知缺陷"承担责任？这一问题的核心在于确立开发者的注意义务标准。传统产品责任法要求生产者遵循"行业标准"或"合理安全期待"标准。但在AI领域，"行业标准"本身尚在形成之中，而"合理安全期待"又因技术快速发展而不断变化。
建议从以下维度构建AI开发者的注意义务标准：第一，训练数据质量义务——确保训练数据具有充分的代表性、准确性和时效性；第二，模型测试义务——在部署前进行充分的场景模拟、边界测试和对抗测试；第三，持续监测义务——建立产品部署后的性能监测和风险预警机制；第四，及时修正义务——发现潜在缺陷后及时发布补丁或召回产品。
五、结论：构建AI分层责任体系
AI责任认定难题的核心在于：传统侵权法以人类行为为调整对象，而AI系统既非传统意义上的"行为人"，也非纯粹的"物"。要有效应对AI带来的责任认定挑战，需要构建一个兼具灵活性和确定性的分层责任体系。
第一层：设计开发端责任。AI开发者应当承担产品安全设计、充分测试、持续监测的基本义务。因算法设计缺陷、训练数据偏差、安全防护不足导致损害的，开发者应当承担产品责任。对于高风险AI系统（如自动驾驶、医疗诊断），建议适用过错推定原则或严格责任，以减轻受害者的举证负担。
第二层：部署运营端责任。AI系统的使用者和运营者，应当为自身的选择、部署、使用和管理行为承担责任。包括：选择适当AI产品的义务、进行风险评估的义务、保障运行安全的义务、建立人工干预机制的义务。
第三层：使用者行为责任。AI系统的终端使用者（如自动驾驶汽车中的驾驶员、AI辅助诊断中的医师）应当在使用AI系统的过程中尽到合理注意义务。如果使用者不当操作、过度依赖或未尽监督义务，应当依过错程度承担相应责任。
第四层：保险与基金制度。鉴于AI事故可能导致的高额损害赔偿，建议建立AI强制责任保险制度和AI损害赔偿基金，作为各方责任无法完整覆盖时的兜底保障机制。
从更宏观的视角看，AI责任认定不仅是法律技术问题，更是社会治理问题——如何在鼓励技术创新与保障公众权益之间找到平衡点，是立法者、司法者和法律实务工作者必须共同面对的长期课题。随着我国《人工智能法》的立法进程加速推进，构建具有中国特色的AI责任规则体系，已成为数字法治建设的核心任务之一。
法律永远是技术进步的守护者而非阻碍者。面对AI自主决策带来的责任认定挑战，完善法律规则不是为了扼杀创新，而是为技术创新提供可预期的法律环境，让负责任的AI创新者获得公平的保护，让受到损害的公众获得充分的救济。