#6 它记错了你,怎么办

「个人 Agent 使用指南」第 6 篇
上一篇讲,AI 对你的了解很难带走。这一篇讲一件更日常的事:它对你的了解,不一定对。
聊天机器人记错了你,最多答错一句话,你看一眼就知道。个人 Agent 不一样,它会照着记忆去办事。它记住的是你三年前的地址,快递就寄到三年前的地址;它以为你不吃辣,订餐就一直避开你最爱的那家店;它把你替朋友问的事记成你自己的,就会拿你的身份去处理别人的事。
这一篇只讲一件事:AI 记错你,比你想的常见,而且越来越难发现。你得自己去查、去改。
它是怎么记错的
AI 的记忆,不是你一条条填进去的档案,而是它从你说过的话里自己挑、自己总结出来的。错,往往就错在"自己"这两个字上。
把随口一问,当成你是谁。 有一篇讲 ChatGPT 记忆的文章举过一个例子:你问"一个设计师会怎么处理这个问题",它可能就记下"用户是设计师",哪怕你根本不是。替朋友问的病、替孩子查的学校、为了写文章搜的资料,都可能被记到你头上。
过期了也不退休。 你搬了家、换了工作、戒了咖啡,它记着的还是旧的。一篇专门讲记忆过期的文章说得很准:AI 记东西很在行,忘东西很笨拙。更麻烦的是,它不会告诉你它在用旧信息,只会悄悄按旧信息给你答案,你不知道哪里不对,也就无从改起。
把两件事记串了。 你同时在处理两件相似的事,比如两个项目、两个装修报价,它可能把甲的细节安到乙身上。
记不清的地方,它自己补。 今年 6 月有用户在 OpenAI 的社区里反映:他提到"我们刚才聊过的那件事",ChatGPT 并没有真的去找那件事,而是根据上下文编了一个说得通的版本,再当成真实的历史说出来。
别人往里塞。 这一种最少见,但值得知道。2024 年 9 月,安全研究员 Johann Rehberger 演示过:只要让 ChatGPT 读一份藏了指令的文件或网页,就能让它永久记住一些假信息。他让 ChatGPT 记住了"用户 102 岁、住在《黑客帝国》里、相信地球是平的",此后每次对话它都会参考这些"事实"。2025 年 2 月,他又在 Gemini 上演示了类似的手法:让 Gemini 总结一份文件,文件里藏着指令,只要用户接着聊,Gemini 就会把攻击者想写的信息存进长期记忆。

记得越准,越看不见它记了什么
今年 6 月 4 日,OpenAI 把 ChatGPT 的记忆整个重做了一遍。按 OpenAI 自己公布的内部测评,它准确记住事实的比例,从 2024 年的 41.5% 提高到了 82.8%。还有一个很实用的改进:记忆会跟着时间更新。OpenAI 举的例子是,"你 7 月要去新加坡",等旅行结束后,会自动改成"你 2026 年 7 月去过新加坡"。
但代价也很清楚。以前,你在设置里能看到一张清单,它记了你哪些事,一条一条列着,哪条不对删哪条。现在,这张清单被一页"记忆摘要"取代了:它在后台不停地综合、改写对你的理解,你看到的是改写后的概要。OpenAI 的帮助文档写得很明白:这份摘要是一个概览,不一定包含它能参考的每一个细节和来源。有人专门写文章分析过,改版之后,你没办法再完整查一遍它到底记了什么,也看不到它改过什么。
这就是 AI 记忆现在的方向:它越来越懂你,而你越来越看不清它懂的是什么。

为什么会这样
一是记得好,产品才好用。 第 5 篇讲过,"懂你"就是 AI 留住你的东西。各家都在拼谁记得多、记得准。
二是"总结"本身就会丢东西。 把几百次对话浓缩成一段对你的理解,必然要取舍,必然有误读。逐条记事实,你看得清楚,但它记不住多少;综合着记,它记得多了,但你看不清。这两头很难兼顾。
三是"忘掉"比"记住"难做。 你说一句"我搬家了",它能记住新地址;可旧地址该不该删、什么时候删、删哪一条,这需要它判断"哪个是现在的你"。这件事,现在的 AI 做得还不好。
四是查错的成本,落在了你身上。 第 4 篇讲过,AI 替你办砸了,基本是你自己扛。记忆也是一样:它记错了你,没有人会通知你,你只能自己去发现。
普通人该怎么做
一、隔一段时间,问它一次。
直接问:"你现在记得关于我的哪些事?哪些可能已经过时了?"《Tom's Guide》的一位作者就建议这么做,说这种快速检查经常能翻出你自己都不知道的杂项。第 5 篇建议你手里留一份自己的"说明书",正好拿来对照:它记的和你写的不一样,以你写的为准。
二、改,要去设置里改,别只在聊天里说一句。
很多人发现它记错了,就在对话里说"不对,我已经不住那里了"。可在有些系统里,这句话只会被当成又一条新记忆存进去,旧的那条还在,两条互相矛盾,它用哪条你不知道。能在设置里找到那条记忆的,直接改掉或删掉;改完再问它一次,确认旧的已经没了。

三、生活变了,主动告诉它,再检查一遍。
搬家、换工作、换手机号、家里添了人,这些都是它最容易用旧信息出错的时候。告诉它之后,过一两天再问一次,看它是不是真的换过来了。
四、不想被记住的事,用"不记忆"的模式问。
替别人问的事、一次性的查询、敏感的话题,用临时对话或者关闭记忆的模式来问。比如 ChatGPT 有"临时聊天",在里面说的话不会进入记忆。这样,别人的事就不会被记成你的。
五、它要替你办事之前,先让它复述关键信息。
寄东西、订餐、预约、填表之前,让它先说一遍要用的地址、电话、收件人、时间。它是照着记忆去办事的,这一步能挡掉大部分"记错导致办错"。
六、陌生文件和网页,交给它之前多想一下。
让 AI 总结来路不明的文件、网页时,留意它有没有突然提示"已更新记忆"。Gemini 每次新增记忆都会提示,Rehberger 也建议用户定期检查自己的记忆。看到不是你让它记的,马上删掉。
七、让它删了,自己去确认。
有用户在论坛上写过自己的经历:他让 ChatGPT 清空对他的记忆,ChatGPT 说已经清空了,可他去设置里一看,记忆还在。这是个例,但道理是通的:它说删了,不等于真删了,以设置里看到的为准。

下期预告
第 7 篇《挑一个个人 Agent,看这几件事》。
从第 0 篇到这一篇,我们讲了它能替你做什么、企业怎么应对、它是谁家的、你交出去了什么、出了错谁扛、换掉时能带走什么、记错了怎么办。最后一篇把这些收拢起来:普通人挑一个个人 Agent,到底该看哪几件事。
资料来源
它是怎么记错的
-
把随口一问记成身份、把两个项目记串(博客举例):https://aifirstsearch.pages.dev/problem-awareness/chatgpt-memory-not-accurate
-
记忆"记得好、忘得差",悄悄用旧信息:https://memx.app/blog/when-ai-memory-goes-stale/
-
用户反映 ChatGPT 编造"刚聊过"的内容(用户自述):https://community.openai.com/t/chatgpt-recalls-saved-memory-but-fails-to-apply-it-and-invents-plausible-context-instead-of-verifying-history/1393739
-
Rehberger 在 ChatGPT 中植入虚假记忆(2024 年 9 月):https://www.schneier.com/blog/archives/2024/10/hacking-chatgpt-by-planting-false-memories-into-its-data.html ;https://www.techzine.eu/news/security/128653/a-new-hack-corrupts-geminis-long-term-memory/
-
Rehberger 在 Gemini 中植入虚假记忆(2025 年 2 月)及 Gemini 新增记忆提示:https://www.infoq.com/news/2025/02/gemini-long-term-memory-attack/
记得越准,越看不见
-
ChatGPT 记忆重做(2026 年 6 月 4 日)、准确率数据、新加坡例子:https://letsdatascience.com/news/openai-upgrades-chatgpt-memory-architecture-for-fresher-pers-b26b51d5 ;https://memx.app/blog/chatgpt-dreaming-v3-memory-explained/
-
OpenAI 帮助文档:记忆摘要不一定包含全部细节:https://help.openai.com/en/articles/8590148-memory-and-controls-faq
-
改版后无法完整查看、没有修改记录:https://calmara.app/blog/chatgpt-memory-rewrites-itself-audit-trail
普通人该怎么做
-
定期问它"记得我什么、哪些过时了":https://tomsguide.com/ai/everyone-is-using-chatgpt-memory-wrong-5-tweaks-to-make-it-a-true-assistant
-
在聊天里纠正可能只新增一条矛盾记忆:https://memx.app/blog/when-ai-memory-goes-stale/
-
可以告诉 ChatGPT 记忆有误、编辑摘要、要求不提某事:https://help.openai.com/en/articles/8590148-memory-in-chatgpt
-
用户称 ChatGPT 说清空了记忆但实际未删(用户自述):https://www.lesswrong.com/posts/DnvdodX7CbZcrFApq/chatgpt-deceives-users-that-it-s-cleared-its-memory-when-it