4月17日,浙江嘉善的史先生接到家里电话:母亲突发疾病过世了。他连夜赶回江苏沭阳老家。兄妹五个凑在一起商量后事,头一件事是定下葬的日子。家里请的风水先生算出4月20日,宜下葬。
史先生不认。当地习俗是过世3天下葬,20日是母亲过世的第4天,逢双,不行。他打开一个天天在用的软件,问了「豆包」一个问题:「妈妈今天去世,什么时候下葬最合适?」
豆包的回答是:按照当地习俗和黄历吉日,最稳妥的推荐是4月19日。
史先生后来对记者说:「我比较相信豆包,平时就依赖它,觉得它什么都懂。」他把这套说法转述给长辈,长辈们相信了,照办了。他的父亲90岁,「当时心里特别难受,管不了这些了」。
葬期就这么定了。然后,事情开始一段一段地松开。
两次回答,两个19日
丧事安排妥当之后,史先生又问了一次豆包:「几点下葬合适?」这次的回答是7点到9点——并且在这个回答里,豆包提到,4月19日不是黄道吉日。
史先生懵了。他又问了好几遍,豆包的答复维持改口后的版本:19日不是下葬的黄道吉日。可是亲戚朋友已经全部通知到位,改期来不及了。他硬着头皮把母亲的丧事办完。
办完丧事不久,家里一位亲戚出了交通事故,伤得很重。家里人有怨言:是安葬的日子不对,破坏了风水。日子是谁定的?是史先生。史先生定日子的依据是什么?是豆包。
于是他投诉豆包的运营公司,没有收到回复。然后他起诉了这家公司,诉求是赔礼道歉、赔偿损失。嘉善县人民法院已经开庭审理了这起案件。起诉状,是豆包帮着写的;怎么告、告谁、一步一步怎么做,也是豆包教的。
在展开法律层面之前,先把时间停在这里,看一眼这场纠纷里最关键的一分钟:同一个软件,先说19日是吉日,后说19日忌安葬。用户看到的是「改口」,甚至可能看到「欺骗」。机器那边发生的事情,和这个感受完全是两回事。
豆包在你眼里,和豆包在机器里
| 你以为的豆包 | 实际的豆包 |
|---|---|
| 知道答案,在告诉你答案 | 每次现算,预测下一个最可能的字 |
| 记得之前说过什么 | 每次回答基本独立,没有需要维护的事实清单 |
| 有立场,改口说明错了 | 前后不一致是常态,概率采样本来就没有承诺一致性 |
| 说话这么肯定,应该有把握 | 语气流畅度和内容正确度零相关 |
大语言模型回答「妈妈今天去世,什么时候下葬最合适」这类问题时,它对「当地习俗」和「黄历吉日」没有任何实在的掌握。它做的是把训练语料里人类关于黄历、习俗、安葬的讨论模式重新编织一遍,输出一段格式上像权威解答的文字。4月19日这个具体日期,是采样采出来的,不是查出来的。
问题在于,输出是同一种口吻。「按照当地习俗和黄历吉日,最稳妥的推荐是……」——这句话流畅、笃定、结构完整。人类几百万年的社交经验里,这样的口吻只属于有把握的人。豆包用这个口吻说出一个采样的日期,史先生用它推翻了风水先生和全体长辈的意见。
权威不是被抢走的,是口吻递过去的。
车祸、风水,和一个需要理由的家
现在把归因链完整摆出来。亲戚车祸,和下葬日期之间,不存在任何已知的因果机制——这是现代人的常识。但在这个家庭的叙事里,两件事被牢牢锁住:日子错了,风水破了,车祸是报应。
这套逻辑是不是迷信,可以从两个方向看。往大里看,风水本身就是一套归因装置:把随机的坏事解释成可追溯的过错,从而让无序的世界恢复秩序。往小里看,这场归因有一个非常现实的动机——伤痛需要一个责任人。死人不能追责,车祸司机隔着一层,最方便的锚点就是把日子改错的那个人。
史先生完全可以不接受这个锚点。但他的处境很微妙:决策是他做的,依据是豆包给的。他大概率真心相信过那个日期,于是责任顺着他信任的方向流动,最终落在豆包头上。他起诉的那家公司,用户协议显示是北京春田知韵科技有限公司。协议里写得很清楚:生成内容仅供参考,不作为专业建议,据此操作的后果由用户自行承担。
史先生一方的反驳是:这些条款是格式条款,加重用户责任,通用警示不足,对信息来源没有审查。
这就是本案在法律上的真实对垒。顺便补一个背景:类似的辩护,企业打过一次,输过。
2024年初,加拿大不列颠哥伦比亚省民事审裁处裁定,加拿大航空公司要为自家网站聊天机器人的错误回答买单。那位旅客问丧亲票价能不能事后补申请,机器人说可以,航空公司说不行,旅客多花了650加元。公司最著名的辩词是:聊天机器人是「独立的法律实体」,应该自己对自己负责。审裁处没有客气——网站上的信息就是公司的信息,照赔。
同一套逻辑的两面,在两个国家的法庭上各占一边:企业说「仅供参考」,用户说「我信了你的话」。加拿大审裁处站在了用户那边。嘉善法院怎么判,会是一个有分量的样本。
不过报道里受访律师的判断很冷:维权难度大。要赢,得证明服务提供商存在过错,且过错与损害之间有因果关系。「如果只是AI提供了一个错误答案,这个显然是不够的。」风采水、日子犯冲、车祸报应,这些在法律上连「损害」的因果关系门槛都摸不到。这个案子即使败诉,也不会让人意外。
被告、原告律师,都是它
这个案子最扎眼的部分,其实不在法庭上。
史先生是豆包的忠实用户,天天用,合同、文件都交给它整理。选错日子之后,他没有卸载豆包。投诉没有回音,他问豆包该怎么办,豆包告诉他可以起诉,教他步骤,帮他把起诉状写了出来。
于是整个事件绕了一圈:被告是豆包背后的公司,原告律师是豆包,原告本人依然是豆包的忠实用户。一个人对AI的信任在某一个点上撞碎了,但整块信任结构没有塌——他只是就事论事地要一个说法,说法还得让AI帮忙要。
这里藏着一个很少被说破的人机关系事实:AI已经站到了「顾问」的位置上,而用户和产品之间,没有任何一份对应「顾问责任」的契约。医生说错话有医疗责任托底,律师有职业责任,风水先生至少要对着熟人社会低头。AI说错话,托底的只有一行用户协议,而这条协议的法律效力恰恰是本案的争点之一。
信任是单向流动的:用户把权威递过去了,产品没有把责任接过来。
「仅供参考」扛不住每天打开它的人
回到最开头那个问题:史先生做错了什么?
他做的事情每个人都在做。一个工具天天在用、屡试不爽、连合同都能整理,人生大事问一句,有什么不合理的?产品以助手的姿态进入生活的每个缝隙,按助手的标准使用它,在产品逻辑上毫无破绽。破绽出在另一个地方——产品的责任设计和它的实际社会角色对不上。
豆包的日活以千万计。这几千万人里,有把合同交给它的,有拿它写起诉状的,也一定有人在人生更重的关口问过它更重的问题。「生成内容仅供参考,不作为专业建议」是纸面上的免责声明,接不住日用品级的真实依赖。这个落差不会永远存在下去,它只有两条收敛路径:
一条是产品侧承担与口吻匹配的责任。在医疗、法律、丧葬这类高风险场景做明确的拦截和转介,对事实型输出标注信息来源,把「确定性」的输出和「对应义务」绑在一起。另一条是模型侧学会暴露不确定性。「我不知道」「这个领域我没有可靠依据」,这几句是大语言模型最该学会、也最难学会的话——因为用户问卷显示,用户讨厌含糊,流利的产品留存率更高。
嘉善法院会怎么判,赔不赔、赔多少,可能都算不上这个案子的主要遗产。它真正摆上台面的是一个此前只存在于讨论中的问题:当一句话的口吻像权威,听的人就有权按权威的标准要求它。史先生要求豆包负责的样子看起来荒诞,把镜头拉远一点看,那只是几千万人日常信任的一次结算,赶巧发生在了一场丧事和一场车祸之间。
参考链接:
- 浙江嘉兴市新闻传媒中心《小新说事》栏目报道(2026-09-15)
- 齐鲁晚报、今日头条转载:家人埋怨安葬日不对破坏了「风水」,男子起诉豆包要求赔礼道歉
- 加拿大不列颠哥伦比亚省民事审裁处 Moffatt v. Air Canada 裁决(2024)