在使用AI工具時(shí)，你是否發(fā)現(xiàn)這個(gè)問(wèn)題揮之不去——AI幻覺(jué)，一種“看似真實(shí)、實(shí)則虛構(gòu)”的內(nèi)容生成現(xiàn)象，正滲透進(jìn)我們的生活。（4月1日中新網(wǎng)）

虛構(gòu)事實(shí)，語(yǔ)焉不詳，在邏輯上自相矛盾，并夾雜無(wú)意義的內(nèi)容……這些問(wèn)題的出現(xiàn)，讓人不由得對(duì)AI的未來(lái)生出一絲隱憂。在醫(yī)療領(lǐng)域，使醫(yī)學(xué)檢查更敏銳的AI也會(huì)加重患者的焦慮，引發(fā)新的“過(guò)度診療”?！癆I幫你一分鐘搞定問(wèn)診開(kāi)藥”在有的地方已被叫停。在法律領(lǐng)域，律師因輕信AI助手而援引未發(fā)生的判例，最終遭受司法處罰。種種指鹿為馬、無(wú)中生有、以訛傳訛，無(wú)疑給那些對(duì)AI產(chǎn)生依賴癥的人敲響了警鐘。畢竟，幻覺(jué)可能是一種病態(tài)表現(xiàn)，時(shí)間長(zhǎng)了會(huì)誘發(fā)知覺(jué)障礙，甚至侵蝕人與人之間的信任。

AI幻覺(jué)只是禍患？答案卻不盡然。在游戲開(kāi)發(fā)、動(dòng)漫設(shè)計(jì)、小說(shuō)創(chuàng)作等領(lǐng)域，不合常理的AI幻覺(jué)閃現(xiàn)著奇思妙想的光華，可以充當(dāng)創(chuàng)作者的靈感之源。對(duì)其一棒子打死的判斷，未免簡(jiǎn)單化了。但無(wú)可否認(rèn)的是，AI并非無(wú)所不能。它更像是一個(gè)泡在語(yǔ)料海洋中的學(xué)習(xí)者，而不是擅長(zhǎng)深度推理的智者。

實(shí)際上，AI幻覺(jué)的存在再次印證了科技的雙刃劍屬性。反復(fù)拷問(wèn)之下，一條原則清晰可見(jiàn)：對(duì)待AI應(yīng)用創(chuàng)新，既要鋪設(shè)“快車道”，又要安好“緩沖帶”。對(duì)AI幻覺(jué)導(dǎo)致的信息污染，須保持警惕；對(duì)AI的能力短板，要給予充分考量。同時(shí)，要包容和鼓勵(lì)創(chuàng)新，在動(dòng)態(tài)平衡中尋求治理的最優(yōu)解。

時(shí)下，AI幻覺(jué)正變得越來(lái)越復(fù)雜和隱蔽，怎么治呢？

不妨分類施策。在低容錯(cuò)率領(lǐng)域，如醫(yī)療、法律、金融領(lǐng)域，要強(qiáng)制激活“嚴(yán)謹(jǐn)模式”。譬如，強(qiáng)制調(diào)用權(quán)威知識(shí)庫(kù)，創(chuàng)建白名單知識(shí)庫(kù)，確保信息的準(zhǔn)確與可靠。反之，則可以允許AI“大開(kāi)腦洞”。監(jiān)管部門要善用“生成即標(biāo)注”的強(qiáng)制性規(guī)則，幫助公眾迅速有效地識(shí)破AI幻覺(jué)。

用AI治理AI。搜索引擎平臺(tái)要把AI技術(shù)與人工審核結(jié)合起來(lái)，掌握給AI做“腦部掃描”的技術(shù)，為生成式內(nèi)容祛“毒”。譬如，健全溯源審查機(jī)制，建立強(qiáng)有力的防火墻，對(duì)信息實(shí)施實(shí)時(shí)監(jiān)控、分類和過(guò)濾，確保更高質(zhì)量、更潔凈的數(shù)據(jù)供給。

學(xué)會(huì)揚(yáng)長(zhǎng)避短。身處智能時(shí)代，每個(gè)人對(duì)AI要保持清醒，學(xué)會(huì)在人機(jī)協(xié)作中發(fā)揮好人自身的優(yōu)勢(shì)。譬如，掌握優(yōu)化提問(wèn)、驗(yàn)證信源、培訓(xùn)AI的工作方法，使自己成為人機(jī)協(xié)作的主導(dǎo)者。

(編輯： 吳嘉祺)