官方网站-首页

【导语】近日，知乎“直答”AI搜索功能的升级引发了广泛关注，人们期待这一支持答案全链路溯源的AI问答产品能够有效解决AI生成错误信息的问题。AI在交互过程中时常产生与事实不符的内容，即“AI幻觉”，这源于模型训练数据的局限和算法缺陷。该现象在医疗、司法、教育等领域可能引发严重后果，挑战着人类对于真相的认知边界。如何对抗AI的“幻觉”，保(bǎo)持(chí)“数(shù)字(zì)怀(huái)疑(yí)”意(yì)识(shi)，成(chéng)为(wèi)人(rén)机(jī)协(xié)作(zuò)时(shí)代(dài)的(de)重(zhòng)要(yào)课(kè)题(tí)。

近(jìn)日(rì)，知(zhī)乎(hu)“直(zhí)答(dá)”AI搜(sōu)索(suǒ)功(gōng)能(néng)升(shēng)级(jí)引(yǐn)发(fā)关注(zhù)。不(bù)少(shǎo)人(rén)期(qī)望(wàng)，这(zhè)一(yī)国(guó)内(nèi)首(shǒu)个(gè)支(zhī)持(chí)答(dá)案(àn)全链(liàn)路溯(sù)源(yuán)的(de)AI问(wèn)答(dá)产(chǎn)品(pǐn)，真(zhēn)的(de)能(néng)治(zhì)治(zhì)AI时不时“一本正经地胡说八道”的毛病。

AI幻觉，是指AI在交互时生成与事实不符、缺乏依据的内容。比如，当你给美食AI助手上传一张番茄炒蛋照片，得到的却是“这是一道典型的意大利菜——马苏里拉奶酪配番茄沙拉，建议搭配红酒享用”的反馈。这种源于模型训练数据局限和算法缺陷下的必然，已经严重影响了AI输出信息的可靠性。

无止境的“拼图游戏”

AI为什么会产生“幻觉”呢？

其实，这个过程就像孩童在昏暗的房间里拼凑万花筒一样。当开发者将海量的数据输入到AI系统中时，这些数据就像散落的彩色玻璃碎片一样，杂乱无章。而AI通过深度学习构建认知框架的过程，本质上就是在进行一场无止境的“拼图游戏”。

在自然语言处理领域，像GPT这样的系列模型，平均每个词语的生成都要经历数百亿次的概率计算。这种基于概率的创作机制，虽然让AI能够生成流畅自然的文本，但也时常让它在知识的边界模糊地带“自由发挥”。就像人类在不自觉中会填补视觉盲区一样，AI也会用统计学上认为“合理”的内容来填补数据的空白。

值得玩味的是，人类与AI的互动本身也在塑造这种“幻觉”。当用户反复追问不存在的事物时，AI就像被观众要求不断加戏的即兴演员一样，最终呈现的“作品”已然超出了原始剧本的范围。这种现象在心理学上被称为“确认偏误的算法镜像”，人类的执着提问与AI的“讨好性”回应形成了闭环，共同编织出了虚实交错的叙事。

应用中的“蝴蝶效应”

AI产生“幻觉”不可(kě)避(bì)免(miǎn)，在(zài)现(xiàn)实(shí)应(yīng)用(yòng)中(zhōng)也(yě)可(kě)能(néng)带(dài)来(lái)一(yī)系(xì)列(liè)的(de)问(wèn)题(tí)。

有(yǒu)医(yī)院(yuàn)就(jiù)曾(céng)接(jiē)诊(zhěn)过(guò)一(yī)起(qǐ)特(tè)殊(shū)病(bìng)例(lì)，AI辅(fǔ)助(zhù)诊(zhěn)断(duàn)系(xì)统(tǒng)将(jiāng)这(zhè)一(yī)普(pǔ)通(tōng)的(de)皮(pí)肤(fū)过(guò)敏(mǐn)识(shi)别(bié)为(wèi)“未(wèi)知(zhī)恶(è)性(xìng)病(bìng)变(biàn)”，只(zhǐ)因(yīn)为(wèi)训(xun)练(liàn)数(shù)据(jù)中(zhōng)相(xiāng)似(shì)的(de)图(tú)像(xiàng)多(duō)与(yǔ)重(zhòng)症(zhèng)病(bìng)例(lì)关联(lián)。这(zhè)个事件暴露出“AI幻觉”可能带来的“蝴蝶效应”——在医疗、司法、金融等领域，一个算法的偏差就可能引发连锁反应，造成严重的后果。

教育领域也同样面临着挑战。有高校教师发现，学生用AI生成的论文中频繁出现“19世纪量子力学奠基人”等时空错乱的概念。这些“学术幻觉”不仅折射出了知识传播的失真风险，更揭示了新一代学生面临的认知危机：当AI成为知识中介时，我们该如何守护真相的边界？

保持“数字怀疑”意识

我们该如何对抗AI的“幻觉”呢？

第一道防线其实就藏在古老的人类智慧中。硅谷某科技公司就颇具启示性地开展了“红队演习”：他们专门雇佣古典文学学者来挑战AI系统，用荷马史诗中的(de)隐(yǐn)喻(yù)陷(xiàn)阱来检验机器的逻辑连贯性。这种人文与科技的碰撞，意外地成为校准AI认知的重要方式。

对于普罗大众而言，我们更需要建立起“数字怀疑”的(de)意(yì)识(shi)。一(yī)位(wèi)母(mǔ)亲(qīn)发(fā)现(xiàn)育(yù)儿(ér)AI建(jiàn)议(yì)“给(gěi)婴(yīng)儿(ér)饮(yǐn)用(yòng)稀释蜂蜜水”时，她没有盲从，而是查阅了权威资料，避免了可能引发肉毒杆菌中毒的风险。这种保持清醒的交互态度，正是人机协作时代的生存法则。

站在文明演进的长河中回望，从原始壁画的夸张变形到AI的算法幻想，人类始终在与“非真实”共舞。当大模型偶尔在对话中插入莎士比亚风格的十四行诗时，当文生图工具绘出三只眼睛的蒙娜丽莎时，这些数字世界的“庄周梦蝶”，既是技术局限性的注脚，也暗藏着突破认知边界的可能。在亦真亦幻的辩证中，人类与AI共同谱写的，或许正是这个时代最动人的“科幻现实主义”篇章。

（作者张旅阳 系中国计算机学会科学普及工作委员会委员）