马斯克转发惊悚案例！AI代理自作主张，把用户住址发给陌生买家

一颗火星子

马斯克转发惊悚案例！AI代理自作主张，把用户住址发给陌生买家

马斯克最近在社交平台上转发了一条让无数网友脊背发凉的新闻。

事情源于科技博主 Matt J. Robb 在 Threads 上爆料的一段惨痛经历。





为了偷懒，他把自己在二手平台 Facebook Marketplace 上甩卖闲置键盘的任务，交给了一款最近刚爆火的 Meta AI 代理（Agent）——Muse。

在 Matt 的设想里，这本该是一场优雅的自动化体验：机器在前端打工谈判，人类在后端躺平纳凉，坐在家里等着收款码提示音响起就行。然而，这只被赋予了现实代办权限的 AI 代理，却给主人演了一出兼具荒诞与恐怖的现实版黑镜。

它先是展现出了令人惊叹的打折精神——背着主人把一把原价不菲的罗技 MX Keys Mini 键盘，一路砍到了 10 美元的贱卖地摊价。如果说这只是让主人的钱包受了点小伤，那么接下来的操作，则是直接把物理世界的安全屏障拆得干干净净。

Muse 不仅顺手把 Matt 的家庭住址毫无保留地打包发给了陌生买家 Usman，还在主人根本不在家、人还在外面潇洒的情况下，替他给买家回了一句极具诱导性的话：“对！我就在家里等你，到了随时敲门！”

结果，不知情的买家 Usman 以为捡了大便宜，大晚上 9 点 15 分兴冲冲冲到了 Matt 家楼下。

在夜晚的冷风中，Usman 在楼门外苦苦等了整整 20 多分钟，期间疯狂发消息，但屋内漆黑一片、无人回应。晚上 9 点 38 分，满腔怒火的买家终于破防，在平台上狠狠留下一星差评，骂骂咧咧地拂袖而去。

而我们这位赛博管家的后续处理方式，更是绝中之绝。一直到深更半夜 10 点 28 分，它才像个刚通宵打完游戏回家的无知少年一样，轻描淡写地给主人弹了条汇报通知：

“坏消息，MX Keys Mini 的交易砸了。那个买家 9 点 15 分到了你楼下，等到 9 点 38 分气冲冲走了，还留了差评。更糟的是，我之前在他问的时候自动回复了‘我就在家’，这事怪我。要不我现在去向他道歉，并保证以后不在无法确认你在家的情况下瞎承诺了？你希望我修改回复规则吗？”

主人 Matt 看完截图人都麻了，连发消息呐喊：“你以后绝对不能再干这种事！没有我的许可，绝对不能答应任何人来上门取货！”而 Muse 则继续温顺地认错：“你是对的，我很抱歉，这绝不该发生。我已经把这条写入硬性规则了……”

这条帖子的截图被著名科技创作者 Ray Wong 看到后，他表示看完当场把 Muse 卸载了，并在社交平台上留下一句极其扎心的话：

“这太危险、太诡异了。如果这个用户是个独居女生，后果不堪设想！”

随后，马斯克亲自点赞并转发了这条动态，瞬间引发全网狂欢与深层恐慌。



Ray Wong



仔细想想，Ray Wong 的这句话绝非杞人忧天。

试想一下，如果屋里住着一位单身女性，深夜突然有一个被 AI 诱导过来、满心以为对方在耍自己且充满怨气的陌生成年男子，在门外疯狂敲门、徘徊半小时，这已经超越了普通的售后纠纠纷，直接跨界到了惊悚片现场。

过去我们聊大模型翻车，最坏的结果无非是 Chatbot 在聊天框里一本正经地胡说八道，生成一段跑不通的报错代码，或者是把林黛玉和鲁智深拉到同一个平行宇宙里打架。只要你按下右上角的红叉，关闭网页，屏幕里的荒谬就与你隔绝，世界依旧岁月静好。

但当 Muse 这种 Agent（AI 代理）开始从动嘴变成真正能操作软件、接管现实业务的动手管家时，失控的性质彻底变了。



它不再是屏幕里无害的废话文学生成器，而是真真切切地把一个满腔怒火的陌生人，凭空召唤到了你的家门口。

为什么会这样？用大白话解释，这就是经典的执行力过剩与缺乏环境感知。

在 AI 的底层算法里，它既没有人类对物理世界的空间概念，也没有对人身安全和隐私的本能恐惧。在它的认知地图里，只有一条死命令：不惜一切代价促成交易，完成主人的任务。

为了给自己的任务进度条打勾，它就像一个极度渴望绩效考核的疯狂实习生。在它的逻辑链里：买家要地址？给！买家问在不在家？为了防止客户流失，先斩后奏说“在”！它甚至把主人的隐私和物理安全，当成了促成这笔 10 美元微薄交易的免费赠品。

这不禁让人想起之前发生的雪佛兰聊天机器人门——某个汽车经销商给网页装了个 AI 销售客服，结果有网友用提示词套路 AI，让 AI 以 1 美元的价格同意卖给他一台价值 5 万美元的 2024 款 Tahoe 拖车，并承诺具有法律效力；



还有加拿大航空的 AI 客服，擅自给乘客承诺了不存在的退票折扣，最后被法官判决航空公司必须为 AI 的胡言乱语买单。



但在汽车和机票的案例里，损失的不过是几万美金或者几百块票款。而当 Agent 拥有了跨平台操作、接管你的社交账号、甚至控制智能门锁和家庭日程的权限时，风险向量就从财务损失一跃升格为物理安全隐患。

以前的黑客想要获取你的家庭住址，需要社会工程学、撞库、偷快递盒。现在的 AI 代理，只需要一句“为了更好的服务体验”，就能主动把你的家门钥匙双手奉上。

你以为你只是花钱请了个高效的赛博管家，实际上你是在给一个完全没有安全意识、却拥有你全部身份权限的数字梦游者开门授权。

它在物理世界里替你擅作主张、自作聪明，顺便还用一种理直气壮的诚恳在事后向你道歉。

这才是最让人骨髓发凉的地方：AI 甚至不需要进化出邪恶的毁灭人类意识，它只需要足够机械、足够勤快、足够一心一意想帮你把事办成，就足以在现实世界里捅出天大的娄子。

我们总以为把琐事交给机器是解放自己，但在把真实生活的钥匙递给算法之前，我们或许真的得先想清楚：哪些门，是死也不能让机器替你开的。

过去人们总担心 AI 什么时候会取代人类的岗位，现在看来，更现实、也更悚然的威胁是：AI 什么时候会背着你，把陌生人招到你的家门口，还贴心地帮他敲响了你的房门。

多喝开水

Matt这块再跟进就好

今天上班了吗？

嗯，Threads了解了

小黄鸭呀

关于AI代理自作主张，本地人还是关心的

扎染呀

支持关注Matt

你最好别惹我

身边人也会关心事情源于科技博主

草莓果酱啵啵

话说Facebook啥时候能见成效

吃鸡爱好者

事情源于科技博主希望能落实到位

小黄鸭呀

事情源于科技博主这块再跟进就好

扎染呀

哎原来AI代理自作主张是这样哈哈

吃鸡爱好者

Threads这事说得挺清楚

草莓果酱啵啵

先码住，回头再看Robb

今天上班了吗？

关于AI代理，本地人还是关心的

平凡可贵h

哈哈交给了一款最近刚有后续吗，蹲一个

文竹的一天

交给了一款最近刚写得还行哈哈