在百度搜索框输入自己的名字,南京律师李小亮看到的“AI智能回答”是:“李小亮律师因犯爆炸罪被判三年有期徒刑……”旁边还配着他身着律师袍的照片。此后数月,他反复投诉,得到的回复始终是“已转交对应工作人员跟进处理”。
AI时代,这样的烦恼并不少见:同一间酒店,老会员手机上的报价反而更贵;刷着短视频,突然看到自己喜欢的游戏角色“演”起了短剧。
近日,最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(以下简称《意见》),共5个部分24条,针对这些新问题逐一给出裁判规则。值得一提的是,这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。
AI“胡说八道”毁人名誉,平台不能装看不见
AI“幻觉”——人工智能一本正经地胡说八道——是普通人感受最直接的AI风险。
李小亮将百度诉至法院后,南京两级法院先后认定百度构成名誉侵权。此案被称为“全国人工智能大模型名誉侵权第一案”。庭审中,百度曾辩称“所有AI都会产生幻觉,平台无法预见”,法官则当庭追问:“为何在豆包、DeepSeek等同类AI上提问,没有出现这些评价?”
《意见》第7条为这类纠纷立下规则:AI自动生成的内容侵害名誉权等人格权益,经权利人通知,服务提供者未及时采取停止生成等必要措施的,应当对损害依法承担侵权责任;网络用户恶意诱导AI生成侵权内容的,该用户担责。
简单说,AI说错话,平台未必立刻有责——它确实无法预知每一句生成内容。但受害人“点名”之后还放任不管,就要对扩大的损害负责。AI生成内容侵权时,不能以“被诉侵权内容系人工智能生成为由免除相关主体责任”,而应坚持责任承担与控制能力、注意义务相匹配。
老用户反而更贵?算法“杀熟”要担责
山东居民吕先生经常通过某旅行平台预订酒店。他发现,同一间房、同一晚,用自己经常下单的账号显示的价格,比用同事从没用过的账号贵了将近30元。“平台说是‘个性化推荐’,但价格差那么多,怎么都说不通。”
这样的“杀熟”体验,不少人都遇到过。
《意见》第10条明确,针对同一商品或者服务,经营者利用算法在交易价格等交易条件上实行不合理的差别待遇,侵害他人合法权益造成损害的,应当承担相应的侵权责任。在认定是否构成不合理差别待遇时,法院会综合考量差别待遇是否对消费者的知情权、自主选择权、公平交易权造成实质性限制或损害,是否基于消费者的消费偏好、支付能力、浏览记录等信息形成针对其个人的交易条件等因素。
“我们不能奢求消费者都‘火眼金睛’,法律必须及时亮剑。”最高人民法院相关部门负责人这样说道。
此外,《意见》还明确,利用人工智能“仿冒名人带货”且构成欺诈的,消费者可主张惩罚性赔偿。
被AI换脸、偷声?受害者手里有了“紧急刹车”
“使用AI拟声技术,花几元钱就能‘偷声’,效果足以乱真。”最高人民法院研究室副主任司艳丽披露的细节令人警惕。AI换脸可以无差别“收割”所有人的肖像,普通人同样可能成为深度伪造的目标。
《意见》第4条对此作出规定:未经同意,利用AI生成、使用可识别特定自然人的虚拟数字形象或合成人声,即侵害姓名权、肖像权、声音权益;擅自制作“AI复活逝者”虚拟形象致死者人格利益受损的,近亲属可依法追责;利用AI追踪、分析他人公开信息实施“网络开盒”的,依法认定侵害隐私权。
对普通人来说,最实用的新工具是“人格权侵害禁令”。《意见》第8条明确,受害者有证据证明被AI换脸造“黄谣”等,如不及时制止将使合法权益受到难以弥补的损害,可以直接向法院申请禁令——不用等到官司打完,先让侵权停下来。
专家——
对普通人:维权方向更明确、更有抓手
遇到“AI换脸拟声”“网络开盒”“大数据杀熟”这些事,普通人最头疼的是:该告谁?拿什么告?对方不认账怎么办?
南京大学法学院教授、副院长,数字法治研究中心主任陈坤认为,《意见》的作用是把这些法律规定进一步落实到具体案件中去——“出现损害后,谁承担责任,依据什么判断,当事人如何举证,法院如何及时制止侵害。”
他梳理了三点普通人最用得上的内容。一是维权方向更明确了:遇到换脸、杀熟等问题,可以更清楚地识别自己被侵害了什么权益、该告谁。“使用了AI,不会让背后的开发者、提供者和使用者自动免于追责。”
二是面对技术上的不对等,有更具体的程序支持。当事人因客观原因拿不到证据的,可申请法院调查收集,掌握数据的一方不提交证据要承担不利后果。
三是自己用AI也有责任:恶意诱导AI侵害他人要担责;用AI辅助起草诉讼材料,也得核实内容并说明使用情况。“普通人既是受保护的权利人,也可能成为AI的使用者,二者都需要清楚行为边界。”
对产业:“定心丸”多于“紧箍咒”
大模型和AI应用企业最关心的是,这份《意见》到底是束缚还是护航?东南大学法学院副教授、江苏省法学会数字法学研究会副会长徐珉川明确判断——“定心丸”多于“紧箍咒”。他认为,《意见》最大的价值是划清了合法与非法的界限。“一方面对人工智能技术及其应用采取了包容的司法立场,准确区分了一般技术实践和恶意侵害行为的界限;另一方面,也有针对性地对人工智能研发和应用行为的合法性提出了要求,明确了安全合规底线。”他说,这为诚实良善经营的企业提供了稳定的制度预期,有利于产业长期健康稳定发展。
立法尚在推进,司法先行破题
AI技术迭代飞快,立法需要时间。最高法在这个时点率先出台裁判规则,解决了什么问题?
徐珉川认为,利用新技术的新实践往往存在合法性边界不清晰的问题,对利用AI侵害群众合法权益、破坏社会公平、扰乱社会秩序的行为,亟需有效治理的制度供给。他解释,我国是制定法国家,立法具有长期性和一定程度的滞后性,而“充分发挥司法保障的个案化、示范性功能,在制定法正式出台前及时、有效回应人民群众的利益关切,是维护社会公平正义的应有之意”。《意见》为统一裁判尺度提供了重要依据。
陈坤进一步指出,这份文件在现有治理体系中承上启下——“生成式人工智能服务、深度合成、内容标识等已有规范,《意见》在此基础上进一步明确的是司法层面的裁判规则。”
两个关键问题为何暂不明确?
AI生成的内容有没有版权?用别人的作品训练大模型算不算侵权?这两个问题《意见》都没有给出统一答案。
陈坤认为,这并非回避问题,而是体现了对复杂问题实事求是的态度。他解释,这两个问题背后涉及的利益关系远比看上去复杂:AI生成内容如果给一句提示词就拥有版权,可能让权利范围过度膨胀;但如果只要用了AI就一概不保护,又可能忽视人在构思、修改中的实际创作。训练数据的问题同样如此——研究用途和商业用途不同,不同的获取方式、不同的输出机制,法律事实也可能完全不同。“用一个简单结论覆盖全部情形,容易造成过度保护或者保护不足。”
但他特别强调,“暂不规定”不等于“无法可依”。发生具体纠纷,法院仍依据现行著作权法等法律审理,而且《意见》第十二条已经对生成内容侵害他人著作权时各方责任如何划分给出了指引。“后续更合理的路径,是通过具体案件和典型案例逐步形成规则,此次留白是为实践积累保留空间。”
新华日报·交汇点记者 应巧玲 王子钰












