从AI偷脸到大模型虚假输出，司法如何追赶技术

发布时间：2026-08-29 09:03:55 来源：FXCM福汇官网 作者：闲趣

　　每经记者 温沐夏 宋欣悦 每经编辑 董兴生

　　“AI（人工智能）时代人机协同的从A出司创作模式，彻底打碎了传统网络领域内容提供与技术服务的大模二元划分。AI换脸、型虚大模型幻觉、假输技术人机创作侵权等新型纠纷，法何不能再用旧有避风港规则简易一刀切裁判。追赶”日前，从A出司在“2026第二十五届中国互联网大会”——智能时代的大模司法挑战与应对圆桌讨论上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰指出行业问题。型虚

　　随后，假输技术王彦杰和杭州互联网法院政治部副主任王岩、法何广州互联网法院审管办（研究室）主任胡剑敏，追赶共同围绕当下AI偷脸、从A出司虚拟人商用、大模AI图文抄袭、型虚大模型虚假输出等热议话题展开深度对话。

　　《每日经济新闻》记者在现场获悉，AI工具大幅降低侵权成本，批量换脸、著作权侵权案件继续爆发，广州互联网法院近三年涉AI案件约700件。

　　而上述案件普遍存在技术黑箱难拆解、参与主体多层、责任边界朦胧等难点。那么，在技术高速发展之下，司法如何既呵护受害者，又避免扼杀创新？

　　传统维权模式应对乏力

　　对话现场，王彦杰分享的“春风案”引发关注。在该案中，原告利用AI绘画软件，通过输入提示词、历经多轮修正生成了图片，却被他人擅自使用。原告对涉案图片享有著作权法意义上的权利，被告未经许可使用涉案图片，构成侵权。享有权利的并非AI，而是通过智力投入进行选择和操控的人类创作者。这确立了“AI是工具，人是创作主体”的核心原则。

　　与确认“AI创作”权利陪伴的，是严峻的侵权风险。

　　记者知道到，近三年，广州互联网法院受理涉人工智能案件约700件。其中，商业维权现象较为突出，AI图文、短视频生成工具大幅降低侵权成本，批量抄袭、换脸商用案件继续攀升。

　　“我归纳了一下相关案件，存在以下特色。首先是存在着多重主体，而且法律关系特殊繁琐。因为整个人工智能涉及从数据的训练到提示词的输入，再到内容的输出以及智能体化平台的调取，执行任务的过程中会涉及不同主体，包括工具的使用者、服务的提供者等多层主体，甚至涉及内容平台。”胡剑敏表示，同时技术解构难度大，算法黑箱、模型训练流程超出传统法官认知，再加上商业侵权规模化，AI工具让批量侵权实现高效率、低成本，导致传统维权模式应对乏力。

　　不能将一切责任推给技术

　　当AI换脸干扰肖像权、大模型搜索输出误导结论引发名誉侵权时，责任链条在用户、应用方、模型提供方之间如何切分？

　　对话现场，胡剑敏提到的广州互联网法院近期一起已经生效的“AI幻觉案”极具代表性。据其介绍，当事人用AI查询“某机构是不是正规机构”，AI给出的回答是：“不是正规机构。”相关机构认为这一回答干扰了自身权益，因此向法院提起诉讼。

　　法院审查发现，用户提出的属封闭式问题，答案非黑即白，而“正规”本身定义朦胧，用户在输入提示词时，实际上已经对回答方向施加了一定引导。

　　最终，法院认为，输出结果与提示词结构存在亲密关系。提示词的设计直接影响了答案的真实性和准确性，责任不能全部由服务提供者承担。

　　这给用户敲响了警钟，不能将一切责任推给技术。胡剑敏表示：“从用户角度看，审查其注意义务时，除了要看用户是否存在规避平台审查的行为，还要判断用户是否进行了误导性发问。”

　　对于服务提供者，责任划分远非“技术中立”可以豁免。胡剑敏表示，在上述案件中，广州互联网法院考察了服务提供者的注意义务，主要涵盖数据来源是否可信、平台是否符合当前通行技术水平、输出结果是否存在人工干预等方面。

　　而在王彦杰看来，AI时代的人机协同创作模式，已打破传统网络内容提供与技术服务的二元结构，在具体侵权场景下，应兼顾其作为内容生产者和平台服务者的双重角色来认定责任。

　　为应对技术审理难点，胡剑敏透露，广州互联网法院目前也在尝试建立数字技术管理中心，或将于8月底正式挂牌成立。区别于传统知识产权法院技术调查官制度，该机构专司解构数据训练、输出逻辑等专业化知识鸿沟。

　　三方共识在于：责任分担必须锚定控制力度与过错程度。在AI换脸黑灰产中，不能因算法黑箱让平台背负无限连带责任，也不能让用户以“机器自动生成”为挡箭牌脱责。

　　正如王岩所言，责任最终要综合侵权后果，若服务提供者尽到注意义务则不需承担，且不能以技术不可操作或不可预知性推卸；而使用AI的当事人，必须为自己的不当输入与诱导发问承担不利后果，这才是智能时代司法定分止争的底层法理。

相关文章