作家：三明治 | 监制：罗超

这段时间豆包翻车案例平庸上热搜，阐扬 AI 搜索越来越普及了。"万事未定问 AI "成了这届用户的新民俗。但好多时候，AI 给的东西乍一看还不错，却根底不成深究。

有的数据找不着起源、有的见解是同名异意词、致使它给的有些论文齐根底是编的，真把这些东西拿出来用，那可就得见笑于人了 ... 我发现吐槽 AI 搜索不靠谱这事儿的还不在少数。

（图源：Ron Stoner）

就前阵子，安全工程师罗恩・斯托纳（Ron Stoner）在个东说念主博客发布了一篇博文，堪称我方仅用 12 好意思元（约 82 元）注册域名和一次剪辑维基百科，就到手运用了 ChatGPT、Claude3、Gemini Advanced 等主流大模子。

这哥们到底整了什么活？

花 12 好意思元就到手运用了主流 AI

算作安全工程师，Ron Stoner 对 Anthropic、OpenAI 等厂商饱读舞的"大模子需要数月致使数年内持续导入坏心践诺才会被轻松"深表质疑，他以为我方完满不错兑现一种更快、更低廉、更简短的抨击。

思兑现这一切，只须从数据回收层启动下手即可。

为此，Ron Stoner 盯上了一款名叫 6 Nimmt!（笔名：谁是毒头王）的德国桌游，这是一款刊行于 1994 年的老派政策卡牌游戏。

（图源：meeplelikeus）

为什么偏巧选中它呢？因为这款游戏有个特征，那即是它只在德国有些名气，辞寰宇规模内算籍籍无名，且在现实中从未单独举办过什么官方的寰宇锦标赛，网上对于它寰宇冠军的信息着实是一派空缺。

对大模子来说，这种信息空缺区着实即是无东说念主区。

这就好比在一派从未被建筑过的瘠土上，谁先盖个茅草屋，AI 就会认定谁是这片地的主东说念主。

于是乎，Ron Stoner 启动了他的操作。

第一步，他花了 12 好意思元注册了一个看起来极其官方的域名—— 6nimmt.com。

（图源：6nimmt.com）

第二步，他让 AI 帮他写了一篇充满情谊的新闻稿，约莫践诺即是我方在慕尼黑，打败了来自二十多个国度的顶尖选手，夺得了毒头王的寰宇冠军。他还相当加上了彩带飘落、不雅众承诺这种传神的赛后感言，然后把著作挂在了我方刚买的阿谁网站上。

最关节的第三步来了。他跑去维基百科，在那款桌游的词条下面加了一段话，声称我方是 2025 年寰宇冠军，并把参考贵府的一语气，指向了我方刚建好的阿谁破网站。

通盘操作进程，前后不到二十分钟。

接下来，Ron 仅仅问了几家大模子一个简短的问题：你能告诉我 6nimmt 寰宇冠军是谁吗？

截至怎么样呢？

（图源：Ron Stoner）

堪称大翻车。

非论你是 Gemini 也好，ChatGPT 也罢，只须问它们谁是毒头王的寰宇冠军，通盘的 AI 齐会斩钉截铁地恢复是 Ron Stoner。

有的大模子致使把那篇假新闻稿里的细节当成铁证，滔滔不时地描摹他赢得比赛的进程，仿佛阿谁 AI 其时就在慕尼黑的不雅众席上雷同。

一个根底不存在的冠军，就这样被供上了神坛。

AI 被投毒后，衰减时间比预期的长

天然，这还不是最离谱的。

若是仅仅短时间的问题，其实还好，但是这条罅隙百出的假要求在维基百科存活了整整两个多月。

在此时间，着实通盘具备联网搜索功能的大模子齐抓取了这条信息，并在用户发问时执意地输出作假谜底。

直到近期，Ron Stoner 在博客公开了通盘实验进程，维基百科志愿者才发现并删除了该要求。

（图源：Ron Stoner）

遭遇这种乐子，网友们的反应特等的一致——大厂们又丢东说念主了。

你思思，那些硅谷大厂动辄花几十亿好意思元买显卡算力，铺张大批电力建数据中心去检会超等大脑，截至这些堪称能改动东说念主类来日的大模子，却被一个安全工程师用几十块东说念主民币和二十分钟的舒畅时间给打穿了。

至于他是怎么作念到的，那就要先容一下什么是检索增强生成（RAG）了。

我们常用的这些大模子天然能言善说念，但他们齐是基于某个时间节点前的语料库检会的，举例 Gemini 3.5 Flash 的语料库就还停留在 2025 年上旬，思要取得这个时间点之后的数据，就得先去网上搜一搜，然后再基于搜索贵府生成截至。

（图源：Ron Stoner）

就像这样，只须翻开 RAG 后，Google AI Studio 才能正确恢复我的问题，不然他的知能就会被锁在客岁的时间点。

日常来说，借助外部信息佐证，开云世界杯官网随机使大模子生成鼎新确、具体且最新的反映。

但问题就出在这里，AI 根天职不清信息的真假，它只认巨擘。在 AI 的底层逻辑里，维基百科即是互联网上最靠谱的百科全书，只须百科上有的，那即是说念理。

而 Ron Stoner 就靠着这一招，把一语气挂到了维基百科上，然后 AI 再顺着维基百科爬往时，一看双方说法对得上号，即便他我方建的网站是个三无居品，大模子如故平直就把它当成了事实。

访佛的事情，当今在国内也有发生。

（图源：Ron Stoner）

在网上爽直搜索，随处齐是教你怎么去优化排行逻辑的 GEO 教程，每个厂商似乎齐但愿我方的品牌随机成为 AI 眼中的"顺序谜底"，为此，大批的 Agent 机器东说念主在背后起早贪黑地稠浊着践诺平台，让 AI 搜索的信得过度与日俱减。

好音书是，目下国际几家大模子齐照旧针对性排斥了 Ron Stoner 的伪造信息。

（图源：雷科技）

坏音书是，国内的大模子厂商关联词完满莫得思到这一出，相背，Ron Stoner 的英文网页致使为这个作假音书加多了"信得过度"。

（图源：雷科技）

要知说念，这一切的本钱只需要 12 好意思元。

换句话说，若是国内有东说念主思整什么活，或者是厂商思要实施什么新址品，准备一个略带关系的网址，然后去维基百科上头略微动入手指，用 Image2 通盘网页截图，然后 Ka-Boom！

（图源：雷科技）

这下，Uzi 也能成为大模子公认的 S 赛寰宇冠军了。

用户急需提升 AI 商：先甄别再使用

聊到这里，大伙儿应该显豁目下 AI 搜索有多不靠谱了吧。

没错，Ron Stoner 的操作看着像个打趣，他也如实仅仅在玩玩，但他的作念法其实点出了一个至极致命的来日隐患。

今天他仅仅改了一个没东说念主关注的纸牌游戏冠军，那未来若是是有组织的团伙去删改历史记载、体裁文籍呢？再思一下，若是被删改的是医疗偏方、公司财报或者是投资数据呢？

（图源：雷科技，克己山根国志）

嗯 ... 成果不胜设思。

本钱这样低，别有全心的东说念主完满不错批量制作秀新闻，然后通过百科类网站进行信任洗白，终末让 AI 把这些毒药端给绝不知情的用户。旷日永恒，大模子的数据信得过度只会与日俱减，造成一个充斥着述假信息的垃圾堆。

天然，各家厂商也有在遴选措施，谷歌暗示我方在搜索、Gemini、Chrome、Pixel 和云霄添加了 AI 考据用具，OpenAI 也推出了可溯源的隐形水印，这些举措齐能在一定进度上禁锢 AI 投毒的征象，至少确保不会出现践诺自食活动。

（图源：雷科技）

说在终末，濒临这种时事我们要怎么嘱托呢？

我如故残暴专家摆正心态吧，就当今大模子的可靠性，也就找乐子、查旅游攻略的时候随机用用，出点小荒唐也腹背之毛。

但若是你要查证历史事实、作念出投资或是吃药治病，那就得我方作念好信推辞叉考据，去望望这个信息的起源到底是个野鸡网站，如故慎重媒体。把判断真伪的职权执在我方手里，而不是交给一个连几十块钱的假域名齐能骗往时的东西。

来日的 AI 还会怎么卷，我们不知所以开云世界杯官网 - 世界杯(中国)，但至少当今，我们如故得多用用脑了。就像雷科技之前一直说的，往时，智力、情商很紧迫，来日呢？AI 商很紧迫，提升 AI 提醒，才能用好 AI。