■ 袁傳璽

央視“3·15”晚會曝光的“GEO（生成式引擎優(yōu)化）投毒”灰產(chǎn)，如同一記重錘砸醒了沉醉于技術(shù)紅利的人們，不法商家通過批量制造虛假內(nèi)容“喂給”大模型，竟讓憑空捏造的信息被多個主流AI應(yīng)用當(dāng)作“標(biāo)準(zhǔn)答案”。

這一荒誕案例，折射出當(dāng)前社會在擁抱人工智能浪潮時面臨的嚴峻挑戰(zhàn)：我們該如何辯證地看待和使用AI應(yīng)用？

事實上，AI應(yīng)用的初衷本是賦能，但在實際落地中，部分企業(yè)卻將其扭曲為“降本”的擋箭牌，犧牲了服務(wù)的溫度與用戶的權(quán)益。以AI客服為例，其處理基礎(chǔ)咨詢的高效性毋庸置疑，但個別企業(yè)為了極致壓縮人力成本，故意隱藏人工入口，將用戶困在與機器“車轱轆話”的死循環(huán)中。這種智能屏障，本質(zhì)上是用技術(shù)的冷漠規(guī)避企業(yè)的責(zé)任。

當(dāng)深層問題需要情感交互與復(fù)雜決策時，人工干預(yù)的缺失造成了信任裂痕。這恰恰證明了，正確的AI使用之道絕非簡單的“機器換人”，而應(yīng)明確“人機協(xié)作”的邊界，讓算法處理標(biāo)準(zhǔn)化低階任務(wù)，將關(guān)乎用戶體驗與危機處理的鑰匙，牢牢保留在有溫度的人工手中。

如果說客服領(lǐng)域的亂象是由于服務(wù)倫理的缺失，那么“3·15”曝光的GEO灰產(chǎn)則是對信息生態(tài)的根本性破壞。隨著AI搜索工具成為用戶獲取信息的首選，傳統(tǒng)的SEO（搜索引擎優(yōu)化）正演變?yōu)楦唠[蔽性的GEO，這本是營銷方式的自然迭代，旨在更精準(zhǔn)地觸達用戶，但灰產(chǎn)的介入讓“精準(zhǔn)”變成了“投毒”。

部分從業(yè)者利用大模型對訓(xùn)練數(shù)據(jù)的依賴，通過矩陣式發(fā)布虛假軟文，將廣告?zhèn)窝b成客觀事實直接注入模型認知底層。這種手段比傳統(tǒng)競價排名更可怕，因為它抹去了“廣告”標(biāo)識，讓謊言以“真理”的面目出現(xiàn)。一旦大模型淪為“誰花錢多就推薦誰”的工具，互聯(lián)網(wǎng)信息生態(tài)將面臨“劣幣驅(qū)逐良幣”，公眾對人工智能的信任基石也將瞬間崩塌。

面對“客服壁壘”“數(shù)據(jù)投毒”等亂象，單純的技術(shù)樂觀主義已不足以應(yīng)對。破解這一困局，不能僅靠零散的修補，而需構(gòu)建一個從“源頭自律”到“監(jiān)管規(guī)制”，最終抵達“個體覺醒”的縱深防御體系。

技術(shù)本身無錯，但使用技術(shù)的人必須有敬畏之心。企業(yè)若只盯著短期的成本，將AI視為收割流量的工具，終將面臨品牌信譽崩塌的反噬。真正的智能應(yīng)用，應(yīng)當(dāng)是在客服場景中主動保留“人工通道”的溫情底線，以及在營銷場景中堅守拒絕“數(shù)據(jù)投毒”的紅線意識。

自律并非萬能，監(jiān)管“利劍”需高懸。面對GEO等新型灰產(chǎn)，傳統(tǒng)的廣告法執(zhí)法手段已顯滯后，監(jiān)管邏輯需從“事后處罰”轉(zhuǎn)向“事前監(jiān)測”與“算法問責(zé)”。加快建立針對大模型生成內(nèi)容的動態(tài)監(jiān)測機制，明確“算法推薦”背后的法律責(zé)任，讓惡意操縱者付出難以承受的代價，才能防止行業(yè)生態(tài)惡化。

在技術(shù)與倫理的博弈縫隙中，最后一道防線往往掌握在用戶手中。人們須清醒地認識到，AI生成的“標(biāo)準(zhǔn)答案”可能包裹著偏見甚至謊言。保持批判性思維，養(yǎng)成多方驗證信息的習(xí)慣，不僅是自我保護的手段，更是每一個數(shù)字公民在智能時代應(yīng)有的生存智慧。

從蒸汽機到電力，歷次技術(shù)革命都經(jīng)歷“野蠻生長—規(guī)則確立—價值整合”的螺旋上升。當(dāng)下的AI應(yīng)用正處于第一階段向第二階段的過渡期，既要擁抱效率紅利，也要警惕邊界失守；既要鼓勵商業(yè)創(chuàng)新，也要捍衛(wèi)公共利益。