当AI开始“一本正经地胡说八道”，甚至凭空给人编造罪名，法律该如何回答这个时代的棘手问题？

什么是AI“幻觉”？

打开手机问AI一个问题，它可能给出一个看起来煞有介事、实际上完全错误的答案——这就是“AI幻觉”。所谓AI幻觉，是指大语言模型在生成内容时，编造出模型认为真实存在、但实际上与客观事实或用户指令不符的信息。这种现象并非模型有意欺骗，而是其在面对信息不确定性时，基于训练数据中的统计规律进行“填补”的结果。

当AI产生的内容涉及具体的人名、职业、罪名，甚至自动合成个人照片与虚假信息一同展示时，就不再是简单的“技术失误”，而可能构成对他人名誉权的侵害。

【真实案例一】李小亮律师案：全国人工智能大模型名誉侵权第一案

2024年9月，江苏南京执业律师李小亮在百度搜索“李小亮律师”“南京李小亮律师”等关键词时，发现平台“AI智能回答”模块直接显示其“因爆炸罪被判刑3年”，还配有他的职业照片。李小亮多次通过发律师函、拨打政务热线投诉，但核心造谣内容迟迟未被清除，遂将百度公司诉至法院。

百度公司的抗辩：百度辩称，“AI幻觉”是行业共性、技术固有局限，属于生成式AI正常运作的内生现象，不可预见、不可避免，平台无主观过错；百度仅为技术服务提供者，受“技术中立”原则保护。

判决结果：法院认定百度“AI智能回答”非简单搜索结果展示，而是平台通过算法对文字和图片主动加工、合成、推送的内容生产行为，百度系内容生产者与发布者，非单纯技术提供者。法院判决百度构成名誉侵权，于判决生效10日内向李小亮书面道歉；因无充分损失证据，驳回经济赔偿诉求。二审维持原判。

该案被称为“中国人工智能大模型名誉侵权第一案”，法院明确指出了平台责任的认定逻辑：同期的同类产品未出现同类严重错误，就不能将指向特定自然人的诽谤性内容归咎为技术发展的“必然代价”，AI的“不可预见性”无法成为平台治理责任的免责金牌。

【真实案例二】黄贵耕律师案：AI篡改新闻报道捏造罪名

2025年5月，北京律师黄贵耕在为一起刑事案件担任代理律师时，被告人家属在百度平台搜索他的名字，竟发现百度AI自动生成多条关于黄贵耕的虚假负面信息，内容涉及威胁法官、介绍贿赂、伪造公司印章、非法吸收公众存款等多项刑事犯罪。

经核实，这些虚假信息来源于对真实新闻报道的恶意篡改——恐吓法官被罚一事，实际是《人民法院报》报道的四川成都天府区法院案例，原文中“律师黄某”被直接替换成了“黄贵耕”；伪造公司印章一事，同样是将媒体报道中的“法律顾问黄某”改成了“黄贵耕”。

黄贵耕于2025年11月起诉百度公司，索赔100万元，案件正在审理中。

【真实案例三】财经博主案：使用者不能以“AI生成”免责

除了平台责任，AI内容的使用者也难逃法律责任。2025年8月，财经博主曹某将其自行编写的1700字不实文档输入AI，指令AI生成一篇逾1.5万字的“深度长文”，在个人公众号发布，曝光某上市公司高管的“3.2亿犯罪细节”，阅读量超1.1万次。经法院查明，曹某输入AI的1700字文档中涉及原告公司及案涉高管的内容，均无合法有效证据佐证，内容不实。

曹某辩称文章为AI生成，相关内容来源于网络公开信息，并非其本人捏造，不构成侵权。

法院判决：广州互联网法院认定，基于生成式AI的技术原理和当前发展水平，AI模型存在固有“幻觉”风险，因此网络用户使用并传播AI生成内容，负有合理注意义务。曹某未尽到合理注意义务，存在较大的主观过错，判令曹某在公众号上赔礼道歉、赔偿经济损失1万元。

律师说法：被AI编造罪名，法律如何为你“撑腰”？

一、AI平台的“技术中立”抗辩为何不成立？

在司法实践中，AI平台最常见的抗辩理由是“技术中立”和“AI幻觉不可预见”。然而，法院对此不予支持，核心理由有两个层面：

第一，AI平台不是单纯的“技术工具”，而是内容生产者。 法院在李小亮案中明确认定，AI智能回答不是简单的搜索结果显示，而是平台通过算法对文字和图片进行主动加工、合成、推送的内容生产行为，平台是“内容生产者与发布者”，而非单纯的技术提供者。AI不是“虚空之物”，它的背后是相应的企业主体，生成内容是服务商训练、算法、运营的延伸行为，不能以“技术中立”免责。

第二，同行业其他模型未出现同类“低级错误”，说明平台“可防而未防”。 在黄贵耕案中，黄贵耕曾使用豆包、腾讯元宝、阿里千问、DeepSeek等其他AI平台进行互动，均未出现类似严重失实的虚假犯罪信息生成情况。既然同行业的其他模型有能力避免此类错误，就足以证明百度未尽到达到行业合理水平的防范义务——有能力防范却没有防范，那就应当承担法律责任。

二、AI平台的法律义务来自哪里？

AI平台对生成内容负有注意义务，法律依据主要包括：

《生成式人工智能服务管理暂行办法》 明确规定，提供和使用生成式人工智能服务，不得侵害他人名誉权、荣誉权、隐私权和个人信息权益，服务提供者应当“采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”。

《民法典》侵权责任编 同样适用于AI侵权场景。AI平台对自身生成内容造成的侵权，需依据过错责任原则承担相应法律责任。当AI平台在可预见、可防控的高风险领域（如涉及特定自然人犯罪、违法犯罪记录等信息）疏于采取合理审核措施，放任错误信息传播，即构成过错，应当承担侵权责任。

三、平台“避风港”原则能适用吗？

“避风港原则”是指网络服务提供者在收到权利人通知后及时采取必要措施（如删除、屏蔽等）制止侵权行为的，可免于承担侵权责任。针对AI生成的侵权内容，平台能否以此主张免责，司法实践仍在探索，但核心逻辑已经清晰：平台不能仅靠“事后删除”规避责任，还需在事前预防“可防而未防”的高风险侵权内容。

也就是说，如果AI生成的内容属于可预见、可防控的高风险信息（如针对特定自然人的罪名、违法记录等），平台有能力建立真实性校验机制（如关联权威司法平台核实判刑信息）却没有建立，法院可能会认定平台存在过错，需要承担侵权责任。

被AI编造罪名，如何维权？

被AI“误伤”后，建议按以下步骤维权：

第一步：固定证据。 对AI生成的不实内容、搜索结果页面、时间戳等进行截屏、录像和公证保全，这是后续维权的核心证据。

第二步：向平台投诉。 通过平台的投诉举报渠道（如违法和不良信息举报入口、客服邮箱等）发送正式通知，要求平台删除不实内容。部分平台还支持“批量举报”功能，一次授权可阻断相同侵权内容重复出现，大幅降低投诉成本。

第三步：发送律师函。 若平台拖延处理或处理效果不佳，可委托律师向平台发送律师函，明确要求其删除侵权内容、赔礼道歉，并说明法律依据。

第四步：向主管部门举报。 可以通过国家网信办违法和不良信息举报中心举报，或通过各地网信办的AI技术滥用治理举报渠道反映情况。

第五步：提起诉讼。 在穷尽上述途径后仍无法解决问题时，可向人民法院提起名誉权侵权诉讼，要求平台停止侵害、消除影响、赔礼道歉，并可主张经济损失和精神损害抚慰金。

特别提示：名誉权诉讼中，经济损失和精神损害抚慰金的赔偿需要充分的证据支持。从现有司法实践来看，法院对经济赔偿的主张持审慎态度——李小亮律师案和南京李某案均因无充分损失证据而未支持经济赔偿诉求。建议在受到名誉侵害时，尽可能保存因不实信息造成的实际损失证据（如业务流失记录、客户流失沟通记录等），以提高获赔可能性。

结语

技术的边界，不应当成为侵权的灰色地带。AI的发展固然需要包容与鼓励，但以“技术中立”“AI幻觉不可避免”为由，在涉及公民人格权的高风险领域放弃必要的审核与管控，既不符合法律精神，也难以获得司法支持。治理AI幻觉，不能甩锅给技术——如果“可防而未防”，那就是过错。唯有将责任边界清晰地划在“可预见且可防控”的红线上，AI技术的向善发展才有坚实的法治保障。