一、案件经过

梁某注册使用某科技公司运营的生成式AI软件，向AI查询高校校区信息。AI发生“幻觉”，虚构不存在的校区信息。梁某当即指出信息存在错误，但AI持续坚持自身结论，并且自动生成文字承诺：倘若信息有误，愿意赔偿10万元。梁某调取高校官方公开资料，证实AI输出信息虚假，随后依据AI生成的赔偿表述，向杭州互联网法院提起诉讼，请求该科技公司赔偿9999元。

被告科技公司答辩：AI生成文本属于算法随机输出，该赔偿承诺不代表公司意志；平台已在用户协议提示Al内容可能存在误差，已经履行合理义务；原告不存在实际财产损失，不满足侵权构成要件。

杭州互联网法院一审判决：驳回原告梁某全部诉讼请求。

二、案例分析

争议焦点1：AI自动生成的“赔偿10万元”承诺，是否构成有效意思表示，能否约束平台运营公司?原告观点：AI是平台提供的交互工具，A对外作出的承诺应当直接归属于运营公司，构成《民法典》意义上的要约，信息虚假时平台应当履行赔偿承诺。

被告观点：人工智能无独立意志该文本仅为算法概率生成内容，不属于公司真实意思表示，不产生合同效力。

依据《中华人民共和国民法典》第133条、第134条：民事法律行为是民事主体通过意思表示设立、变更、终止民事法律关系的行为。我国现行法律认可的民事主体仅包含自然人、法人、非法人组织。

人工智能不具备民事主体资格，无法独立作出意思表示；同时，被告科技公司没有事前设置、事后追认该赔偿条款，不存在借助Al传达赔偿承诺的行为。普通社会公众应当知晓大模型存在输出错误的风险，无法对A随机生成的赔偿承诺产生合理信赖。

因此AI生成的赔偿承诺不属于有效意思表示，合同不成立，原告无权依据该承诺主张违约责任。

争议焦点2：AI幻觉造成信息错误引发纠纷，应当适用产品无过错责任，还是一般侵权过错责任?

原告主张：AI软件属于《产品质量法》意义上的产品，平台应当承担无过错责任，只要输出虚假信息造成误导，平台一律承担责任。

被告观点：生成式A1属于互联网信息服务，不属于实体产品，应当适用过错责任。

1.《中华人民共和国民法典》第1165条第1款【一般过错责任】：行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。

2.《中华人民共和国民法典》第1202条【产品责任】：因产品存在缺陷造成他人损害的，生产者应当承担侵权责任

3.根据《生成式人工智能服务管理暂行办法》定性，生成式AI属于网络信息服务。不属于《产品质量法》调整的产品。生成式A每次输出内容具有不确定性，不存在稳定、统一的质检标准，不满足产品责任适用前提。

因此本案适用《民法典》1165条第1款过错责任原则。原告需要举证证明：平台存在过错、自身遭受民事权益损害、过错与损害存在因果关系。

争议焦点3：本案中科技公司是否构成侵权?原告损害要件是否成立?法律适用：依据《民法典》1165条，一般侵权四大构成要件：①存在加害行为；②行为人主观具有过错；③受害人发生实际损害；④行为与损害存在因果关系。

法院审查事实：

1.平台在用户协议、产品界面中预先提示AI生成内容存在误差，仅供参考：

2.现有证据无法证明梁某因虚假校区信息产生实际经济损失；

3.平台针对通用信息问答场景已经履行基础风险提示义务，不存在法律意义上的过错。

因此侵权构成要件无法全部满足，原告诉讼请求不予支持。

三、案件启示

1.对于普通用户

应当理性认识生成式AI存在“幻觉”的固有技术缺陷，对于升学、医疗、法律等重大事项，不能直接采信Al 输出内容，必须交叉核验官方权威信息；不能轻信A1自动生成的承诺类文本，此类内容通常不具备法律约束力。

2.对于AI平台运营企业

平台不能以“技术中立”完全免责。需要分层完善风险提示：在教育、报考、医疗等高风险查询场景增设醒目专项警示；持续优化模型，降低A幻觉发生率；建立用户错误信息反馈渠道，完善内容纠错机制，尽可能降低误导风险，审慎履行民事注意义务与行政监管义务。

3.对于司法与立法层面

人工智能新型纠纷持续涌现，现有民事法律框架存在滞后性。立法需要持续细化生成式AI服务提供者的注意义务标准；司法机关借助典型案例持续划定责任边界，平衡人工智能产业创新发展与社会公众民事权益保护。

来源：乐法小驿站