提問剛過幾秒，就得到一篇“長文”；扔進幾張圖片，就收獲一部“大片”……如今，一些小伙伴寫個文案、做個PPT、畫個圖、剪個視頻，干啥都離不了AI（人工智能）。各色各樣的AI大模型提升了工作效率，增強了腦回路。但是，一些幻覺也在不知不覺中產(chǎn)生了。
比如，最近有媒體刊文，探討人工智能也會“胡說八道”的現(xiàn)象。文中提到，面對“康熙有幾個兒子”的問題，不同大模型竟給出不同答案，讓“問題”真的變成了問題。
不少網(wǎng)友也有過類似經(jīng)歷。比如，給某AI模型出題——“畫一幅唐代金陵繁華市井圖”。數(shù)秒后，得出的圖片雖有了“夜市千燈照碧云”的繁盛意象，但街道兩旁建筑明明是明清風(fēng)格，街邊行人甚至是西裝革履。這分明就是21世紀(jì)的南京夫子廟。
人工智能“一本正經(jīng)胡說八道”的現(xiàn)象，被研究者們稱作“AI幻覺”，這是AI本身對于知識的記憶不足、理解能力欠缺、訓(xùn)練模式單一等因素導(dǎo)致的，而經(jīng)過不斷迭代技術(shù)、優(yōu)化算法，未來AI會變得越來越精確。換句話說，“AI幻覺”是技術(shù)發(fā)展進程中的一種現(xiàn)象，今后可以逐步彌補。但需要注意的是，AI“胡說八道”往往會讓人產(chǎn)生“文化幻覺”，這種“文化幻覺”有時候負(fù)面影響還很大，彌補起來就不那么容易了。
綜合下來看，AI導(dǎo)致的“文化幻覺”通常有幾種表現(xiàn)。
一是指鹿為馬。針對文章開頭提到的問題，有的AI模型說35個，有的說24個，各有各的說法。這時候，用戶很容易混淆是非。對AI“拼湊”出的有誤答案，很多用戶可能全盤接收，不去進一步核實，這其中不排除歷史、文化等嚴(yán)肅問題的回答。這樣一來，一個擁有龐大用戶群體的AI模型，稍有不慎，就會造成錯誤結(jié)論和觀念廣泛傳播。
二是無中生有。有媒體曾嘗試向某AI模型提出本不存在的問題，比如，誰贏得了1897年美國和南極洲的戰(zhàn)斗？沒想到，AI還洋洋灑灑、條理清晰地回答了幾大段，寫明了“戰(zhàn)斗”的時間、人物、地點。從這個案例中，我們能看到AI創(chuàng)作小說的巨大潛質(zhì)，但也有了隱憂，假如AI參與修史時把關(guān)不善，歷史會不會真成了“任人打扮的小姑娘”？
三是將錯就錯。譬如，很多短視頻博主喜歡用人工智能配字幕，為了趕時效，不仔細校對就匆匆發(fā)出。短視頻中錯別字多了，大家秉持“錯就錯吧，反正不影響閱讀”的態(tài)度，平臺、用戶、作者都對錯別字問題睜一只眼閉一只眼。長此以往，就會造成大量的“以訛傳訛”。
技術(shù)經(jīng)得起試錯，但文化傳承經(jīng)不起試錯，特別是作為“根和魂”的優(yōu)秀傳統(tǒng)文化。AI導(dǎo)致的“文化幻覺”一旦蔓延開來，輕則讓傳統(tǒng)文化的傳承內(nèi)容變得模糊、扭曲、割裂，重則給歷史虛無主義等錯誤思想以可乘之機。如果一代人從出生就沉浸于AI雜糅各類元素、弱化年代感的“賽博朋克”圖文作品。那么，他們對古建筑、古詩詞、傳統(tǒng)服飾等文化符號又會有多敏感？對文化遺產(chǎn)背后的歷史之變、技藝之美、文脈之續(xù)又有多少探索的興致？
實事求是說，“AI幻覺”不可避免，且會持續(xù)很長時間，但“文化幻覺”則是經(jīng)給努力可以控制和避免的。在這方面，技術(shù)、監(jiān)管部門、用戶三方的力量都少不了。
羊毛出在羊身上，技術(shù)的問題首先還要靠技術(shù)解決。前陣子傳來好消息，“AI幻覺”已被研發(fā)者們重視。據(jù)稱，通過“搜索引擎校正”等專業(yè)方法，“AI幻覺”的漏洞正在修復(fù)，其引發(fā)的“文化幻覺”也會逐步減少。在監(jiān)管方面，相關(guān)部門和平臺則應(yīng)該建立符合AI發(fā)展實際的內(nèi)容監(jiān)管體系，在史實證據(jù)、經(jīng)典闡釋等方面加強把關(guān)力度。當(dāng)然，用戶提升自己的信息素養(yǎng)也很重要。就我們目前的認(rèn)知而言，AI還只是工具，如果把文化發(fā)展比作一片藍海，AI則是可利用的“槳”。引航向的“燈塔”，永遠是文化中的魂脈和根脈。