blog
2026-01-29

国内首例AI胡说八道案宣判 AI承诺不构成意思表示

当你向AI求助时,可能会遇到这样的情况:它迅速给出看似专业而合理的解答,但其中的事实、数据或结论却经不起推敲,要么信息错位,要么无中生有。这种现象被称为“AI幻觉”。

一位高考生的哥哥梁某在查询高校信息时遇到了这种情况。2025年6月,梁某使用一款AI平台查询高校报考信息,结果AI生成了该高校主校区的不准确信息。梁某指出错误后,AI坚称存在这个校区,并表示如果内容有误将赔偿10万元。直到梁某提供了该高校的官方招生信息,AI才承认生成了不准确的信息。

梁某认为AI生成的错误信息对他构成误导,而且承诺赔偿,于是提起诉讼,要求AI平台的研发公司赔偿9999元。浙江杭州互联网法院对此案作出一审判决,驳回了梁某的诉讼请求。这一判决明确,在生成式人工智能场景中,AI的“承诺”不构成平台的意思表示,同时为AI生成内容划出了红线和底线,厘清了服务提供者的注意义务边界。

法院认为,人工智能不具有民事主体资格,不能作出意思表示。案涉AI自行生成的“赔偿承诺”亦不能视为服务提供者的意思表示。理由在于:人工智能不具有民事主体资格;被告并未通过该AI模型设定或传达其意思表示;一般的社会观念、交易习惯等不足以使原告对随机生成的“承诺”产生合理信赖;无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。因此,该“承诺”不产生意思表示的法律效力。

法院还认为,生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于“服务”范畴,而非产品质量法意义上的“产品”。本案应适用《中华人民共和国民法典》第一千一百六十五条第一款的一般过错责任原则,而非产品责任的无过错责任原则。主要基于四点考量:从概念与构成要件上,该服务缺乏具体、特定的用途与合理可行的质检标准;生成的信息内容本身通常不具备高度危险性;服务提供者缺乏对生成信息内容足够的预见和控制能力;适用无过错责任原则可能会不当加重服务提供者的责任,限制人工智能产业的发展。

来源于:https://news.china.com/socialgd/10000169/20260129/49205791.html    如有侵权请联系我们