生成式AI已深度融入日常，查信息、写文案、做咨询…… 但你是否遇到过AI一本正经编造虚假信息的情况？这就是AI领域典型的“幻觉”问题。当AI因“幻觉”输出错误信息误导用户，责任该由谁承担？AI随口承诺的“赔偿”有效吗？
案例引入
2025年6月，一位姓梁的用户通过某人工智能公司的对话式AI程序查询云南某职业高校的报考信息。AI不仅给出了关于该校主校区的错误信息，在用户指出错误后，仍坚持己见，甚至主动生成所谓解决方案，承诺“若内容有误，赔偿10万元”，还建议用户到杭州互联网法院起诉。直到用户上传高校官方招生信息，AI才最终“认错”。梁某认为AI的错误信息误导了自己，产生了额外核实成本和维权支出，遂将该AI公司诉至杭州互联网法院，索赔9999元。
2026年1月，法院一审判决驳回全部诉讼请求，原被告均未上诉，判决已生效。
法院的核心结论是：AI公司已尽合理注意义务，不存在主观过错，用户未遭受实际损害，依法不构成侵权。
焦点分析
一、AI不是“人”！无民事主体资格，“赔偿承诺”无效
法院明确：依据《民法典》，民事主体仅包括自然人、法人、非法人组织三类，人工智能不具备民事主体资格，无法作出意思表示。
本案中AI生成的“10 万元赔偿承诺”，不能视为运营公司的意思表示，不具备法律效力。原因有四：
1.AI无法作为意思表示的传达人、代理人；
2.人工智能公司并未通过该AI模型设定或传达该赔偿承诺的意思表示；
3.普通用户无合理理由信赖AI随机生成的“承诺”；
4.没有证据表明人工智能公司曾作出愿受人工智能生成内容约束的外在表示。
二、AI侵权不“一刀切”，使用过错责任原则
本案关键法律认定：生成式AI属于“服务”，而非《产品质量法》意义上的“产品”，不适用无过错责任，而应适用一般过错责任原则——有过错才担责，无过错不担责。
法院考量依据：
1.AI服务无统一、可行的质检标准，不符合产品核心特征；
2.AI生成信息通常不具高度危险性，无需严格无过错规制；
3.现有技术下，平台无法完全预见、控制AI输出内容；
4.适用无过错责任会过度加重平台责任，扼杀技术创新。
三、平台如何免责？尽到“三层注意义务”即无过错
法院认定AI公司不侵权，核心是其已履行法定三层注意义务，这也是AI平台合规的核心标准。
1.违法信息严格审查义务：坚决杜绝有毒、有害、违法内容，这是不可触碰的红线；
2.显著提示说明义务：在欢迎页、用户协议、交互界面醒目位置，提示AI内容可能不准确，仅供参考；
3.功能可靠性保障义务：采用检索增强生成（RAG）等行业通行技术，提升输出准确性。
同时，梁某未举证证明实际损害，也无法证明AI错误信息影响其报考决策，无法律上的因果关系，故索赔不成立。
实务指引
一、对AI平台：合规是底线，尽责可免责
1.必须醒目提示AI局限性，避免用户过度信赖；
2.持续优化技术，降低幻觉发生率，高风险领域（医疗、教育、金融）强化审核；
3.严格过滤违法信息，坚守内容合规底线；
4.无需为AI不可控的随机错误承担无限责任，创新有合理容错空间。
二、对普通用户：理性用AI,审慎核信息
1.AI内容仅作参考，绝非权威依据，升学、医疗、理财等重大决策，务必核实官方信息；
2.主张AI侵权需举证三大要素：AI存在错误、自身有实际损害、错误与损害有因果关系；
3.别轻信AI“随口承诺”，避免因盲目依赖AI导致自身损失。
结语
全国首例AI“幻觉”侵权案的落槌，标志着我国司法对人工智能时代的积极回应。它既没有因技术风险而“一刀切”地加重企业责任，也未因鼓励创新而牺牲基本权益保护。对于法律实务工作者而言，这一判决提供了清晰的裁判逻辑与合规指引：以“过错”为锚，以“注意义务”为尺，在技术的不确定性中，寻找法治的确定性。
