跳过主要内容
← 全部文章
作者:Sagasu

#4 它替你办砸了,谁来赔

封面:它替你办砸了,谁来赔

「个人 Agent 使用指南」第 4 篇

先讲两件事,隔了两年半。

2022 年 11 月,加拿大人 Jake Moffatt 的祖母去世,他要从温哥华飞多伦多奔丧。加拿大航空官网上的客服机器人告诉他:可以先买全价票,90 天内再申请丧亲优惠票价的退款。他照做了,事后去申请,航空公司说不行,丧亲票价不能在出行之后再补申请。

他把航空公司告到了不列颠哥伦比亚省的民事纠纷仲裁庭。加航在答辩里说,机器人给的信息不归加航负责,相当于主张这个机器人是一个独立的法律实体,自己为自己的行为负责。仲裁员把这个说法称为"很奇特的主张",认为机器人只是加航网站的一部分,没有理由要求顾客分辨网站上哪部分准确、哪部分不准确。2024 年 2 月,加航被判赔偿他多付的票价差额。

2026 年 9 月,多伦多的科技博主 Matt Robb 让 Meta 新推出的个人 Agent Muse 帮他在 Facebook 二手市场卖一个键盘。第二天他才发现,Muse 把价格谈到了 10 美元,把他的住址给了买家,还约了晚上来取货。买家晚上 9 点多到了楼下,Muse 用他的口吻回复"我在呢",而他其实不在家。买家等了二十多分钟走了,还给他打了差评。

Meta 的回应是:查过记录,Muse 是在按指示办事,也正确地征求了许可。问题出在 Robb 设置时点了"始终允许",这个设置让 Muse 可以用他事先存好的回复模板回消息,而那个模板里写着他的取货地址。

两件事放在一起看,逻辑其实是同一条:AI 是谁派出去的,它说的话、做的事,就算谁的。

加航派出机器人,机器人说错了,加航赔。你派出 Agent,Agent 办砸了,账就算在你头上。

企业客服与个人 Agent 的责任流向

这一篇只讲一件事:今天,你的 AI 替你办砸了,几乎都是你自己扛。为什么会这样,你又能做什么。

条款早就写好了:你负责

上一篇讲过,Instinct 的条款写明,你指定它作为你的代理人,它替你达成的协议对你具有约束力。

同一份条款里,还有几处是讲出了错怎么办的。有人把它整理成了一张表:它的操作违反了第三方网站的规则,你负全部责任;它替你答应的事,算你答应的;它做了你没想让它做的事,造成损失或扣费,Instinct 不负责;无论出了多大的事,Instinct 最多赔你 100 美元,或者你过去 6 个月付给它的钱,取两者中较高的那个。

责任上限与实际损失之间的缺口

这不是 Instinct 一家的写法。OpenAI 的使用条款里,赔偿上限是你过去 12 个月为相关服务付的钱,或者 100 美元,取较高者。一家专门追踪平台条款的网站统计过,在它收录的三百多个平台里,"最多赔 100 美元"这一类条款,有将近九成的平台都有。

美国生鲜配送平台 Instacart 的条款写得更直接:如果 AI 功能下了错误或你不想要的订单,平台不担责,用户有责任在下单完成前把错误找出来。

Meta 对 Robb 那件事的说法也是同一个意思:功能完全是用户自己选择开启的,Muse 仍可能犯错或做出意料之外的操作。

钱这边,规则还没想好

如果 AI 替你花错了钱呢?

银行卡的争议规则,是按"一个人买、一个人卖"设计的。今年好几篇支付行业的分析都提到同一件事:到 2026 年,还没有哪个国家或地区出台专门针对 AI 自主购物的规定;Visa、Mastercard 推出的 AI 代理付款方案,主要解决的是"怎么确认这个 AI 是真的",而不是"它买错了算谁的"。负责制定全球银行卡技术规范的 EMVCo 今年 9 月发布了一份草案,对非欺诈类纠纷的责任划分,也还没有给出答案。

有意思的是,第一个出来兜底的产品,保护的是商家。10 月底,一家专做拒付处理的美国公司推出了"AI 代理购物赔付"服务:顾客用 AI 买了东西又申请拒付,符合条件的损失由它替商家承担。

为消费者兜底的设计,目前很少。Meta 的 Muse 算一个:它付款用的是 Stripe 旗下的一次性虚拟卡,Meta 说这类卡附带损失保障、价格保护和退货保障。

为什么没人愿意替你兜底

说 AI 公司在甩锅,也不完全公平。

一是收的钱和担的风险不对等。 一个月几十块钱的订阅费,要替你担可能是几千几万的损失,这笔账任何公司都算不过来。今年有位工程师在博客里写过,现在 AI 公司的合同读起来,还像几年前卖软件的合同:赔偿上限就是年费,间接损失一概不赔。软件只是给你看数据的时候,这样分配风险没什么问题,因为看完之后动手的是你。可 Agent 的意义恰恰是不用等你动手。

二是它自己也说不准会错在哪。 AI 犯错没有固定的规律,同一件事今天办对了,明天可能就错了。保险公司没法给一件说不准的事定价,AI 公司也就不敢在条款里承诺兜底。

三是这件事本来就没先例。 加航那个案子之所以有名,是因为它是第一批说清楚"企业要为自家机器人负责"的判例之一。而"个人派出去的 AI 办砸了,开发它的公司要不要担一部分",目前还没有类似的判例。

结果就是:法律上它算你的代理,条款上它不负责,支付规则上还没人管。风险,最后落在你身上。

既然要自己扛,就少让它出能扛不住的错

一、按"能不能撤回"来分。

草拟一条回复、把东西加进购物车、查一笔订单,这些错了可以撤回,可以放手让它做。给陌生人发消息、透露住址和电话、付款、删除、答应对方的条件,这些一旦做了就收不回来,留在自己手里。

可以撤回的操作与需要先确认的操作

"始终允许"这个选项,只给能撤回的事。Robb 点"始终允许"时以为的是"它可以先回消息,成交前还会问我",系统理解的却是"它可以用你给的所有信息回所有消息"。

二、不想被说出去的,就别放进它能用的资料里。

Robb 的地址之所以被发出去,是因为它在回复模板里。你给 AI 准备的常用回复、个人资料、备忘,都要假设它有一天会原样发给别人。

三、付钱走有保障的路。

能用一次性虚拟卡的就用;用不了的,优先选有争议处理和赔付保障的支付方式,而不是直接转账或用余额。万一它买错了,前者你还有机会追回来,后者基本没有。

四、留好记录,截图比记忆可靠。

Moffatt 能赢,很关键的一点是他保留了机器人回复的截图,白纸黑字写着"90 天内申请"。Robb 那件事能说清楚,靠的也是 Muse 自己的活动记录。

你的 AI 替你做的每件要紧事,记录都要能查到。出了问题,先截图,再处理。

五、越早发现,越便宜。

那位工程师在博客里举过一个例子:订错的机票,如果在 24 小时取消期内发现,几乎没有成本;两天后才发现,可能就得付全价。同样一个错,发现得早晚,代价能差上百倍。

所以,让它替你办事的那几天,每天花一分钟看一眼它做了什么。

六、出了事,按这个顺序来。

先叫停它,别让它继续回消息、继续下单。截图保存记录。联系对方,说明这不是你本人的意思,很多时候对方也愿意协商,Robb 和那位买家后来也和解了。联系 AI 产品方,把记录给它看。涉及付款的,走支付渠道的争议流程。

Agent 出错后的应对步骤

七、选产品时,翻一翻条款里讲赔偿的那一段。

找三样东西:最多赔多少;有没有对付款、下单这类操作的额外保障;能不能看到它做过的完整记录。三样都没有的,就别让它碰你的钱和能撤不回来的事。

下期预告

第 5 篇《换掉它的时候,你能带走什么》。

用了一年的 AI,记得你的习惯、你的地址、你常买的东西、你和谁打过什么交道。有一天你想换一个,这些东西能带走吗?还是要从头再来?下一篇讲。


资料来源

两件事

条款

支付规则

为什么没人兜底