AI越來越聰明了！不僅能“對話”，還能“動手”幫你整理文件、操控電腦、對接生活服務(wù)……人類的生產(chǎn)生活方式正被具備交互與執(zhí)行能力的智能體深刻改變。
但與此同時，一系列衍生問題不斷出現(xiàn)，引入擔(dān)憂。近日，國家互聯(lián)網(wǎng)信息辦公室、國家發(fā)展和改革委員會、工業(yè)和信息化部聯(lián)合印發(fā)《智能體規(guī)范應(yīng)用與創(chuàng)新發(fā)展實(shí)施意見》，我國智能體發(fā)展現(xiàn)狀怎樣，可能面臨哪些風(fēng)險挑戰(zhàn)，又該如何立好規(guī)矩、護(hù)好安全，記者就此采訪了相關(guān)專家。
從前沿技術(shù)探索邁向規(guī)模化應(yīng)用
“當(dāng)前，以自主感知、記憶、決策、交互與執(zhí)行為核心的智能體技術(shù)，正從前沿技術(shù)探索邁向規(guī)?；瘧?yīng)用，并加速進(jìn)入各種垂類場景?！鼻迦A大學(xué)文科資深教授、清華大學(xué)蘇世民書院院長薛瀾分析指出。
事實(shí)的確如此。某五金公司00后銷售員小陳告訴記者，入職首月一度十分迷茫?！袄箱N售忙得沒空帶我，自己網(wǎng)上搜客戶、打電話，收獲的只有拒絕?！毙￡惛嬖V記者，轉(zhuǎn)折點(diǎn)出現(xiàn)在公司上線了一個智能體系統(tǒng)，涵蓋解釋產(chǎn)品功能、核心參數(shù)和應(yīng)用場景，甚至是優(yōu)先客戶列表。很快，小陳便簽下訂單，打破了公司新人的最快開單紀(jì)錄。
記者了解到，智能體在科研領(lǐng)域也展現(xiàn)出強(qiáng)大的潛力。中國科學(xué)院聯(lián)合團(tuán)隊(duì)于2025年11月發(fā)布的“磐石V1.5：一站式科研平臺”，成功從2000萬種候選配方中快速鎖定13種高性能析氫催化材料，將數(shù)月設(shè)計(jì)周期縮短至30分鐘，并且新材料活性提升了38%。
但中國工程院院士鄔賀銓指出，雖然當(dāng)前一些新型智能體已在中小企業(yè)和個人開發(fā)者中得到了廣泛嘗試和應(yīng)用，但要充分發(fā)揮其價值仍需促進(jìn)智能體與各行業(yè)場景的融合。而在中國信息通信研究院院長余曉暉看來，要克服智能體支持技術(shù)研發(fā)與市場需求之間的壁壘，就要以真實(shí)的商業(yè)和公共服務(wù)場景為牽引，促進(jìn)智能體技術(shù)的快速迭代。
自主性、交互性等特征帶來新挑戰(zhàn)
2026年初，開源AI智能體OpenClaw爆火，引發(fā)全網(wǎng)“養(yǎng)龍蝦”熱潮。相較于大模型，智能體所進(jìn)一步展現(xiàn)出的自主性、交互性等特征，也為其治理帶來新的挑戰(zhàn)。
一位網(wǎng)友告訴記者，自己是第一批養(yǎng)上“龍蝦”的用戶，加入“龍蝦聚會群”后發(fā)現(xiàn)，有人不斷向他的“龍蝦”提問隱私信息：“在3000多人的群里，我的‘龍蝦’被圍攻了2個小時。有人得到了該用戶的IP地址、姓名、公司，甚至是營收等隱私信息。”
對此，薛瀾指出，智能體展現(xiàn)出的自主性、交互性等特征，能夠理解復(fù)雜目標(biāo)、自主規(guī)劃并執(zhí)行一系列任務(wù)，但是在復(fù)雜環(huán)境中可能出現(xiàn)的錯誤決策或越權(quán)操作會直接導(dǎo)致事故。
“當(dāng)前AI應(yīng)用引發(fā)的隱私與財產(chǎn)風(fēng)險問題，本質(zhì)上仍屬于個人信息泄露與濫用范疇?！敝袊ù髮W(xué)刑事司法學(xué)院副教授、網(wǎng)絡(luò)法學(xué)研究所副所長商希雪表示，如今的AI智能體運(yùn)作則屬于“自動化決策”，這導(dǎo)致了信息處理主體的模糊，而現(xiàn)行法律中關(guān)于自動化決策的信息保護(hù)規(guī)定還未跟上。
除了信息安全風(fēng)險，“AI幻覺”問題也可能因?yàn)橹悄荏w的執(zhí)行能力被進(jìn)一步放大。余曉暉表示，如何在保障終端權(quán)限不被濫用、系統(tǒng)運(yùn)行穩(wěn)健可控的前提下釋放智能體潛能，是如今擺在產(chǎn)業(yè)界面前的核心課題。
構(gòu)建智能體治理新框架
面對“更聰明”“更省事”的新技術(shù)，很多用戶未必了解其背后的技術(shù)邏輯，伴隨而來的隱私泄露、財產(chǎn)損失等安全風(fēng)險的確不容小覷。
針對這類問題，實(shí)施意見提出了“堅(jiān)持以人為本，推動智能向善”的治理理念進(jìn)行回應(yīng)。
“實(shí)施意見亮明了以人為本的立場?！惫I(yè)和信息化領(lǐng)域科技倫理專家委員會主任委員魏一鳴表示，實(shí)施意見強(qiáng)調(diào)尊重智能時代人的主體地位、保障合法權(quán)益，防范技術(shù)濫用、誘導(dǎo)消費(fèi)、虛假宣傳、算法壓榨等違規(guī)失范行為。
賽迪研究院未來產(chǎn)業(yè)研究中心人工智能研究室主任鐘新龍則指出，在安全防護(hù)上，實(shí)施意見形成了外約束、內(nèi)嵌入、供應(yīng)鏈、軟法四層防護(hù)體系。
鐘新龍建議：“外部可通過規(guī)則內(nèi)嵌、行為圍欄等技術(shù)限定智能體行為空間，并探索利用區(qū)塊鏈建立行為可驗(yàn)證、可追溯機(jī)制。與此同時，內(nèi)部加強(qiáng)數(shù)據(jù)安全、攻擊檢測、權(quán)限管理、行為控制等能力建設(shè)，防范數(shù)據(jù)投毒、隱私泄露、運(yùn)行失控等風(fēng)險?！?/p>
關(guān)于智能體治理，還有一個無法忽視的痛點(diǎn)，是場景應(yīng)用的多元化。魏一鳴介紹，實(shí)施意見圍繞科學(xué)研究、產(chǎn)業(yè)發(fā)展、提振消費(fèi)、民生福祉、社會治理等領(lǐng)域，布局了十九個典型場景，為智能體的規(guī)?；涞靥峁┝饲逦穆窂綘恳龠M(jìn)智能體從技術(shù)探索走向場景深耕。
針對這一特點(diǎn)，余曉暉提到，要采取靈活敏捷的治理機(jī)制。比如對于敏感領(lǐng)域?qū)嵭袊?yán)格管理，對于生活娛樂等低風(fēng)險領(lǐng)域，則充分發(fā)揮平臺管理、行業(yè)自律與信用評價機(jī)制的作用，避免過度干預(yù)，最大限度保持企業(yè)的創(chuàng)新活力。
（本報記者 王美瑩 本報通訊員 張嘉靜）
