AInspiro
政策法规

最高法给 AI 纠纷定了 24 条规矩:换脸、幻觉、智驾都判明白了

AInspiro 编辑部·
部分内容由 AI 辅助创作。

9 月 7 号,最高法把 AI 纠纷的裁判规则写成了文

最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》,分 5 个部分、共 24 条。这是首部由国家最高审判机构发布的涉 AI 司法裁判规则文件。背景是我国目前还没有专门的《人工智能法》,实务中大量新类型案件缺少统一尺度,这份意见就是先补上这个空缺。

覆盖的面很广:AI 换脸拟声、AI 复活逝者、AI 幻觉侵权、网络开盒、大数据杀熟、仿冒名人带货、自动驾驶与辅助驾驶交通事故、模型训练中使用已公开个人信息、开源软件、AI 产品责任、AI 生成证据等。下面挑跟从业者关系最大的几条说。

换脸拟声:可以用,但得先拿到授权

意见明确,利用生成式 AI 处理特定自然人或者死者的姓名、肖像等,不得违反法律法规,不得违背公序良俗。除法律另有规定外,未经自然人同意,用 AI 生成能够识别该自然人的虚拟数字形象或合成人声,自然人主张侵权的,法院依法支持。

用数字人从事不当行为、发表不实言论并侵害到自然人的,同样构成侵权。清华智能法治研究院院长申卫星的解读是:可以用,但是要得到授权。

人格权侵害禁令:这次真的能用上了

第 8 条是这次被反复提到的一条。自然人、法人或非法人组织有证据证明行为人正在或即将利用 AI 侵害其人格权益,不及时制止将造成难以弥补损害的,可以向法院申请责令停止,或者责令网络服务提供者、生成式 AI 服务提供者停止提供服务。

最高法研究室相关负责人的说明很实际:AI 侵权的特点是成本低、传播快、影响广、损害难以逆转,等一场诉讼打完再救济,往往已经晚了。所以才需要禁令这种前置手段。举的例子是被 AI 换脸造黄谣的受害者,符合条件时可以申请人格权侵害禁令。

同时也留了平衡:法院作出禁令时要结合被侵害的人格权类型、行为方式、可能损害的范围和程度,采取相应措施,不得超出必要限度。禁令不是无限扩大适用。

AI 服务提供者的责任:避风港规则进来了

对生成式 AI 服务提供者,意见引入了民法典上的"通知删除"规则,也就是常说的避风港规则。逻辑是:AI 服务提供者难以事先预知所有用户输入的内容,加上生成内容数量庞大,无法要求它对生成内容是否侵权逐一预测、审查和拦截。

但接到合格通知后,应当及时采取必要措施,否则要对损害的扩大部分与用户承担连带责任。反过来说,及时采取了措施,通常不承担侵权责任。

这一条对做 AI 产品的团队是明确的行动指令:你必须有一个能用的投诉入口,和一套接到通知后能快速下架的机制。没有这两样,避风港不保护你。

产品责任和自动驾驶:缺陷怎么认,责任怎么分

第 9 条讲 AI 产品责任。以实物为载体的 AI 产品,依产品质量法关于"产品"的定义认定并适用相应规则;存在缺陷造成损害的,生产者、销售者承担产品责任。认定是否存在不合理危险时,要综合考量产品性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度、是否符合国标行标,并重点审查生产者销售者是否就适用场景、固有局限和可预见风险做了真实说明和明确警示。

最后这半句是重点。你的产品说明书里写没写清"这东西在什么情况下会出错",会直接影响责任认定。

第 11 条讲自动驾驶和辅助驾驶。这类车上路发生交通事故造成损害的,依民法典和道路交通安全法承担赔偿责任;因车辆存在产品缺陷导致事故的,当事人可以依民法典第七编第四章向生产者或销售者主张赔偿。申卫星的解读是,在具备辅助驾驶功能的场景下,实行的是"人机共担"。

此外还规制了大数据杀熟(用算法对交易价格等条件实行不合理差别待遇造成损害的,承担侵权责任)和仿冒名人带货(构成欺诈的,消费者可依消费者权益保护法第 55 条主张惩罚性赔偿)。以刺探隐私为目的用 AI 追踪分析公开信息获取私密信息,或者泄露公开、侵扰私人生活安宁的,认定构成侵害隐私权。

两个最大的争议,这次留白了

最高法明确说了,对目前难以形成共识的问题做留白处理,等积累经验、条件成熟时再明确。留白的两个核心问题是:AI 生成内容是否具有著作权,以及未经许可使用他人作品训练大模型究竟如何定性。

这两条恰恰是产业界最想要答案的。特别是第二条,直接关系到训练数据的合规边界。留白不等于不管,它意味着各地法院短期内可能判出不同结果,同类案件的不确定性还要持续一段时间。

跟你有啥关系

如果你在做 AI 相关产品或内容,有三件事现在就该检查:

第一,涉及人脸、声音、肖像的,把授权链路补齐并留痕。数字人、配音、换脸功能都在射程内,别等到被申请人格权侵害禁令才补材料。

第二,把投诉入口和快速下架机制做出来。这是接入避风港规则的前提条件,也是成本最低的一条自保。

第三,重写一遍产品说明。适用场景、固有局限、可预见风险,这三样写清楚,既是合规要求,出事时也是责任认定的依据。

至于那两个留白的问题,短期内别赌方向。训练数据的合规做法、AI 生成内容的权利归属,多留证据、多留记录,等规则明确时你至少能自证清白。