AI不會(huì)說"我不知道"，這才是最可怕的

最近經(jīng)常刷到豆包一本正經(jīng)胡說八道的段子。

比如昨天高考，有網(wǎng)友問了豆包兩個(gè)問題，豆包給出了特別溫暖人心的答案。

豆包不僅在胡說八道時(shí)理直氣壯，而且認(rèn)錯(cuò)的態(tài)度還特別誠懇，秒慫滑跪。

比如有網(wǎng)友安排祖國人問豆包，對(duì)面那仨人（孫悟空、楊戩、哪吒）戰(zhàn)斗力如何，豆包告訴祖國人，他們都是小卡拉米，隨便打。

鏡頭一轉(zhuǎn)，豆包蹲在祖國人靈前懺悔，對(duì)不起是我搞錯(cuò)了……

但是，千萬別把這些段子當(dāng)笑話看。

AI的胡說八道只有在你的認(rèn)知范圍內(nèi)是笑話，可要是答案脫離了你的認(rèn)知范圍之外，你無法辨別真?zhèn)危强删筒皇切υ捔恕?/p>

去年我寫一篇論文，讓AI給我找?guī)灼獏⒖嘉墨I(xiàn)，它一口氣給我羅列了5篇論文，角度新穎，內(nèi)容詳實(shí)。

還好我留了個(gè)心眼，去網(wǎng)上檢索了一下，結(jié)果這5篇論文，只有一篇是真的，還有一篇標(biāo)題和作者是真的，內(nèi)容是假的。剩下三篇全是AI瞎編的。

我要是真信了AI，那這篇文章就砸了。

一本正經(jīng)的胡說八道當(dāng)然不只是出在豆包身上，而是人工智能的通病，這種現(xiàn)象還有個(gè)專有名詞叫做“AI幻覺”。

關(guān)于AI產(chǎn)生幻覺的原因，專欄作家李南南總結(jié)說：大模型是基于海量數(shù)據(jù)訓(xùn)練的，這些數(shù)據(jù)中原本就有垃圾信息。比如，醫(yī)學(xué)、金融等領(lǐng)域的過時(shí)論文，都會(huì)導(dǎo)致大模型輸出錯(cuò)誤結(jié)論。而且大模型的語料是有時(shí)間節(jié)點(diǎn)的，有些大模型的訓(xùn)練數(shù)據(jù)滯后，對(duì)于最新發(fā)生的事情就會(huì)胡編。

對(duì)于AI幻覺，很多人會(huì)有一個(gè)困惑，為啥AI就不能直接說“我不知道”呢？

這源于大語言模型的訓(xùn)練方式。因?yàn)橛?xùn)練數(shù)據(jù)里，“我不知道”出現(xiàn)的場景太少。人類現(xiàn)實(shí)對(duì)話中，我們更傾向于給出答案，而不是承認(rèn)無知。

AI有樣學(xué)樣——它把“給出回應(yīng)”當(dāng)成了比“給出正確回應(yīng)”或“我不知道”更高的優(yōu)先級(jí)。主打一個(gè)有問必答，對(duì)不對(duì)別管。

另外，AI沒有元認(rèn)知——它不知道自己知道什么、不知道什么。它不像你，遇到盲區(qū)會(huì)心虛、會(huì)猶豫。AI的輸出過程是黑箱，連它自己（如果它有“自己”的話）也說不清某個(gè)詞是回憶起來的，還是編出來的。

而這種“理直氣壯”又增強(qiáng)了AI的說服力，畢竟在人類社會(huì)，理直氣壯的背后往往是胸有成竹，但AI從來不知道什么叫心虛。

了解了AI幻覺的成因，解決辦法也就呼之欲出。對(duì)普通用戶來說，就記住一條：AI是工具，不是結(jié)果。

聊閑天、寫草稿、找靈感，用它很合適。但涉及醫(yī)療、法律、投資、學(xué)術(shù)引用這些，必須交叉驗(yàn)證。它給的法條、論文、數(shù)據(jù)，你得自己去源頭查一遍。

然而這些工作恰恰是很多人不愿去做的。

人們?cè)絹碓搅?xí)慣把記憶和判斷“外包”給設(shè)備。電話號(hào)碼不記了，交給手機(jī)；行車路線不記了，交給導(dǎo)航；現(xiàn)在連知識(shí)判斷也想交給AI。

這種“認(rèn)知卸載”一旦形成依賴，人就會(huì)逐漸喪失“自己查證”的能力和意愿——不是不想，而是不知道該怎么查、查什么、信什么。

AI幻覺之所以危險(xiǎn)，不在于它騙了人，而在于它讓人停止了自己思考的過程。

哪怕AI這次碰巧說對(duì)了，人也只是得到了答案而不是理解了答案。長期下來，人會(huì)變成信息的消費(fèi)者，而不是知識(shí)的生產(chǎn)者。

這不是道德缺陷，是設(shè)計(jì)層面的不對(duì)稱——AI被優(yōu)化來“給出令人滿意的回答”，而人沒有被訓(xùn)練來“識(shí)別令人滿意的謊言”。

要破局，不單要靠人更努力或更警惕，還得改變?nèi)藱C(jī)交互的規(guī)則。

比如強(qiáng)制AI標(biāo)注不確定性、要求它給出信息來源、在關(guān)鍵領(lǐng)域設(shè)置“人類必須復(fù)核”的門檻。讓AI的“自信”變得可見、可質(zhì)疑，才能打破這個(gè)幻覺的閉環(huán)。

而在此之前，我們始終要提醒自己——千萬別把AI當(dāng)成人，尤其別把它當(dāng)成你自己。