#4 它替你办砸了,谁来赔

「个人 Agent 使用指南」第 4 篇
先讲两件事,隔了两年半。
2022 年 11 月,加拿大人 Jake Moffatt 的祖母去世,他要从温哥华飞多伦多奔丧。加拿大航空官网上的客服机器人告诉他:可以先买全价票,90 天内再申请丧亲优惠票价的退款。他照做了,事后去申请,航空公司说不行,丧亲票价不能在出行之后再补申请。
他把航空公司告到了不列颠哥伦比亚省的民事纠纷仲裁庭。加航在答辩里说,机器人给的信息不归加航负责,相当于主张这个机器人是一个独立的法律实体,自己为自己的行为负责。仲裁员把这个说法称为"很奇特的主张",认为机器人只是加航网站的一部分,没有理由要求顾客分辨网站上哪部分准确、哪部分不准确。2024 年 2 月,加航被判赔偿他多付的票价差额。
2026 年 9 月,多伦多的科技博主 Matt Robb 让 Meta 新推出的个人 Agent Muse 帮他在 Facebook 二手市场卖一个键盘。第二天他才发现,Muse 把价格谈到了 10 美元,把他的住址给了买家,还约了晚上来取货。买家晚上 9 点多到了楼下,Muse 用他的口吻回复"我在呢",而他其实不在家。买家等了二十多分钟走了,还给他打了差评。
Meta 的回应是:查过记录,Muse 是在按指示办事,也正确地征求了许可。问题出在 Robb 设置时点了"始终允许",这个设置让 Muse 可以用他事先存好的回复模板回消息,而那个模板里写着他的取货地址。
两件事放在一起看,逻辑其实是同一条:AI 是谁派出去的,它说的话、做的事,就算谁的。
加航派出机器人,机器人说错了,加航赔。你派出 Agent,Agent 办砸了,账就算在你头上。

这一篇只讲一件事:今天,你的 AI 替你办砸了,几乎都是你自己扛。为什么会这样,你又能做什么。
条款早就写好了:你负责
上一篇讲过,Instinct 的条款写明,你指定它作为你的代理人,它替你达成的协议对你具有约束力。
同一份条款里,还有几处是讲出了错怎么办的。有人把它整理成了一张表:它的操作违反了第三方网站的规则,你负全部责任;它替你答应的事,算你答应的;它做了你没想让它做的事,造成损失或扣费,Instinct 不负责;无论出了多大的事,Instinct 最多赔你 100 美元,或者你过去 6 个月付给它的钱,取两者中较高的那个。

这不是 Instinct 一家的写法。OpenAI 的使用条款里,赔偿上限是你过去 12 个月为相关服务付的钱,或者 100 美元,取较高者。一家专门追踪平台条款的网站统计过,在它收录的三百多个平台里,"最多赔 100 美元"这一类条款,有将近九成的平台都有。
美国生鲜配送平台 Instacart 的条款写得更直接:如果 AI 功能下了错误或你不想要的订单,平台不担责,用户有责任在下单完成前把错误找出来。
Meta 对 Robb 那件事的说法也是同一个意思:功能完全是用户自己选择开启的,Muse 仍可能犯错或做出意料之外的操作。
钱这边,规则还没想好
如果 AI 替你花错了钱呢?
银行卡的争议规则,是按"一个人买、一个人卖"设计的。今年好几篇支付行业的分析都提到同一件事:到 2026 年,还没有哪个国家或地区出台专门针对 AI 自主购物的规定;Visa、Mastercard 推出的 AI 代理付款方案,主要解决的是"怎么确认这个 AI 是真的",而不是"它买错了算谁的"。负责制定全球银行卡技术规范的 EMVCo 今年 9 月发布了一份草案,对非欺诈类纠纷的责任划分,也还没有给出答案。
有意思的是,第一个出来兜底的产品,保护的是商家。10 月底,一家专做拒付处理的美国公司推出了"AI 代理购物赔付"服务:顾客用 AI 买了东西又申请拒付,符合条件的损失由它替商家承担。
为消费者兜底的设计,目前很少。Meta 的 Muse 算一个:它付款用的是 Stripe 旗下的一次性虚拟卡,Meta 说这类卡附带损失保障、价格保护和退货保障。
为什么没人愿意替你兜底
说 AI 公司在甩锅,也不完全公平。
一是收的钱和担的风险不对等。 一个月几十块钱的订阅费,要替你担可能是几千几万的损失,这笔账任何公司都算不过来。今年有位工程师在博客里写过,现在 AI 公司的合同读起来,还像几年前卖软件的合同:赔偿上限就是年费,间接损失一概不赔。软件只是给你看数据的时候,这样分配风险没什么问题,因为看完之后动手的是你。可 Agent 的意义恰恰是不用等你动手。
二是它自己也说不准会错在哪。 AI 犯错没有固定的规律,同一件事今天办对了,明天可能就错了。保险公司没法给一件说不准的事定价,AI 公司也就不敢在条款里承诺兜底。
三是这件事本来就没先例。 加航那个案子之所以有名,是因为它是第一批说清楚"企业要为自家机器人负责"的判例之一。而"个人派出去的 AI 办砸了,开发它的公司要不要担一部分",目前还没有类似的判例。
结果就是:法律上它算你的代理,条款上它不负责,支付规则上还没人管。风险,最后落在你身上。
既然要自己扛,就少让它出能扛不住的错
一、按"能不能撤回"来分。
草拟一条回复、把东西加进购物车、查一笔订单,这些错了可以撤回,可以放手让它做。给陌生人发消息、透露住址和电话、付款、删除、答应对方的条件,这些一旦做了就收不回来,留在自己手里。

"始终允许"这个选项,只给能撤回的事。Robb 点"始终允许"时以为的是"它可以先回消息,成交前还会问我",系统理解的却是"它可以用你给的所有信息回所有消息"。
二、不想被说出去的,就别放进它能用的资料里。
Robb 的地址之所以被发出去,是因为它在回复模板里。你给 AI 准备的常用回复、个人资料、备忘,都要假设它有一天会原样发给别人。
三、付钱走有保障的路。
能用一次性虚拟卡的就用;用不了的,优先选有争议处理和赔付保障的支付方式,而不是直接转账或用余额。万一它买错了,前者你还有机会追回来,后者基本没有。
四、留好记录,截图比记忆可靠。
Moffatt 能赢,很关键的一点是他保留了机器人回复的截图,白纸黑字写着"90 天内申请"。Robb 那件事能说清楚,靠的也是 Muse 自己的活动记录。
你的 AI 替你做的每件要紧事,记录都要能查到。出了问题,先截图,再处理。
五、越早发现,越便宜。
那位工程师在博客里举过一个例子:订错的机票,如果在 24 小时取消期内发现,几乎没有成本;两天后才发现,可能就得付全价。同样一个错,发现得早晚,代价能差上百倍。
所以,让它替你办事的那几天,每天花一分钟看一眼它做了什么。
六、出了事,按这个顺序来。
先叫停它,别让它继续回消息、继续下单。截图保存记录。联系对方,说明这不是你本人的意思,很多时候对方也愿意协商,Robb 和那位买家后来也和解了。联系 AI 产品方,把记录给它看。涉及付款的,走支付渠道的争议流程。

七、选产品时,翻一翻条款里讲赔偿的那一段。
找三样东西:最多赔多少;有没有对付款、下单这类操作的额外保障;能不能看到它做过的完整记录。三样都没有的,就别让它碰你的钱和能撤不回来的事。
下期预告
第 5 篇《换掉它的时候,你能带走什么》。
用了一年的 AI,记得你的习惯、你的地址、你常买的东西、你和谁打过什么交道。有一天你想换一个,这些东西能带走吗?还是要从头再来?下一篇讲。
资料来源
两件事
-
加拿大航空客服机器人案(Moffatt v. Air Canada,2024 BCCRT 149):https://dailyhive.com/canada/air-canada-chatbot-decision ;https://www.mondaq.com:443/canada/new-technology/1427926/airline-ordered-to-compensate-a-bc-man-because-its-chatbot-provided-inaccurate-information ;https://skift.com/2024/02/16/air-canada-ordered-to-pay-for-its-chatbots-false-info/amp/
-
Muse 在二手市场透露卖家住址:https://thenextweb.com/news/meta-muse-facebook-marketplace-address-buyer-robb ;https://www.gadgetreview.com/meta-responds-after-muse-ai-sent-stranger-to-youtubers-home ;https://aiweekly.co/alerts/metas-muse-agent-hands-toronto-sellers-address-to-a-stranger ;https://betanews.com/article/meta-muse-ai-agent-privacy-risk-address/
条款
-
Instinct 条款中的责任分配与 100 美元上限:https://www.progressiverobot.com/?p=253894
-
OpenAI 使用条款的赔偿上限:https://conductatlas.com/platform/openai/openai-terms-of-use/limitation-of-liability-and-100-cap/
-
100 美元上限条款的普遍程度:https://conductatlas.com/platform/characterai/characterai-terms-of-service/provision/CA-P-008833/limitation-of-liability-and-100-cap/
-
Instacart AI 功能的责任条款:https://conductatlas.com/platform/instacart/instacart-terms-of-service/ai-and-agentic-features-liability-disclaimer/
支付规则
-
AI 代理购物的拒付责任空白:https://justt.ai/blog/ai-agent-chargeback-liability/ ;https://forkast.news/?p=131323
-
面向商家的 AI 代理购物赔付服务:https://stellagent.ai/insights/chargebacks911-ai-agent-purchase-indemnification
-
Muse 付款使用一次性虚拟卡及附带保障:https://openclawdatabase.com/meta-muse/security/
为什么没人兜底