有人這樣形容現(xiàn)在的生活：信息看手機(jī)，娛樂靠微信，購物用快遞，吃飯點(diǎn)外賣，我們的生活越來越“宅”。12月2日，在2025年“讀懂中國”國際會議（廣州）的平行論壇上，第十四屆全國政協(xié)委員、經(jīng)濟(jì)委員會委員，中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良分享了他對人工智能發(fā)展中存在的潛在風(fēng)險的思考。

趙澤良認(rèn)為，我們應(yīng)該善用人工智能而不是過度依賴人工智能，要關(guān)注AI帶來的結(jié)構(gòu)性權(quán)力風(fēng)險、信息退化、網(wǎng)絡(luò)生態(tài)改變、責(zé)任斷裂失衡等現(xiàn)實(shí)問題。

記憶力、社交能力等或退化

“大腦用則進(jìn)，退則廢?！壁w澤良認(rèn)為，過度依賴AI可能會帶來記憶力退化、方位感退化、文字能力退化、認(rèn)知偏差和社交能力退化等隱憂。

“以前讓你記住10個以上電話號碼，小菜一碟；現(xiàn)在能記住10個以上電話號碼的人，是不是不多了？”趙澤良解釋道，有心理學(xué)研究表明，越容易獲得的信息，大腦越傾向于遺忘。如今，智能手機(jī)已經(jīng)成為我們大腦的“外存”，這可能會導(dǎo)致大腦的“內(nèi)存”變小。

“智能GPS導(dǎo)航出現(xiàn)前，出門靠記路；現(xiàn)在，離開導(dǎo)航軟件，我們寸步難行。為什么？”他提出，有研究表明，長期依賴導(dǎo)航的人，在陌生環(huán)境中定位、辨別方向、找路徑的能力明顯下降。他特別提醒，要注意對兒童、青少年的影響，“過早依賴導(dǎo)航會導(dǎo)致海馬體發(fā)育不足。”

你是不是經(jīng)?！疤峁P忘字”？除了網(wǎng)絡(luò)熱梗，你還知道怎么表達(dá)自己的想法嗎？趙澤良指出，對生成式人工智能（以下簡稱“GAI”）的依賴，會讓個性化的語言風(fēng)格被同化；通過書寫來鍛煉的大腦與手部精細(xì)動作的協(xié)調(diào)配合控制能力也會受到影響。

“遣詞造句的過程是讓我們的想法思路變得更清晰的過程。如果跳過這個過程，我們的想法就會變得碎片化、模糊化，很難形成深度洞見?！壁w澤良說。

認(rèn)知偏差和社交能力退化也是不容忽視的現(xiàn)實(shí)問題。

在線上學(xué)習(xí)、工作、娛樂已經(jīng)高度便捷化、個性化、實(shí)景化的今天，趙澤良認(rèn)為，長期沉迷于短視頻、專注于聊天APP會弱化我們長時間專注、親近、交流的能力，導(dǎo)致注意力碎片化，真實(shí)場景的社交靈敏度、共情能力、交往能力等也可能變?nèi)酢?/p>

趙澤良認(rèn)為，廣泛閱讀和深度閱讀是鍛煉、訓(xùn)練大腦思維能力的重要途徑。如果人們長期習(xí)慣被動接受GAI生成的要點(diǎn)、結(jié)論，自身的批判性思維、創(chuàng)造性思維能力可能會下降，從而形成信息繭房、認(rèn)知偏差。

人工智能的發(fā)展有哪些風(fēng)險？

從技術(shù)角度分析，人工智能的發(fā)展可能面臨哪些風(fēng)險？趙澤良提出，算法權(quán)力不透明、集中化，應(yīng)該引起重視。“我們已經(jīng)出現(xiàn)算法、算力、數(shù)據(jù)、模式等基礎(chǔ)設(shè)施被少數(shù)企業(yè)壟斷的苗頭，模型參數(shù)等不透明也讓技術(shù)標(biāo)準(zhǔn)很難做到公平公正，監(jiān)管部門也缺乏有效介入手段?！?/p>

此外，GAI信息污染帶來的影響也不容忽視。他提出，隨著AI生成內(nèi)容成本的持續(xù)降低，人的“聲音”在網(wǎng)絡(luò)空間的“密度”正在下降，驗(yàn)證區(qū)分“AI數(shù)據(jù)”和人的真實(shí)“聲音”的難度在增加。

“當(dāng)假圖、假視頻、假信息、假歷史大量涌現(xiàn)時，它將會對社會認(rèn)知、公信力、公共治理帶來不利影響?！壁w澤良認(rèn)為，這些“垃圾內(nèi)容”“信息霧霾”可能會影響整個社會，一旦真相被噪音淹沒，信任基石就可能崩塌。

此外，AI醫(yī)生、AI智駕的潛在隱患也應(yīng)引起重視。“AI決策一旦出錯，該誰負(fù)責(zé)？”他提出，要解決AI發(fā)展中已經(jīng)出現(xiàn)或可能出現(xiàn)的問題，必須要進(jìn)一步推進(jìn)AI的良性發(fā)展，以防范、避免、解決這些隱患。

羊城晚報記者 張璐瑤