一張貼在手機(jī)背后的卡片，能進(jìn)行錄音和多語(yǔ)種翻譯；一只感音空氣架子鼓，只需敲擊空氣就能發(fā)出美妙聲音：一款“AI莊稼醫(yī)院”，只需拍照就能識(shí)別莊稼病蟲(chóng)害，并精確開(kāi)出處方……

人工智能（AI）不斷與時(shí)代同頻共振，在技術(shù)演進(jìn)與商業(yè)化落地雙輪驅(qū)動(dòng)下，正展現(xiàn)出前所未有的發(fā)展?jié)摿?，同時(shí)也引發(fā)了人們對(duì)未來(lái)趨勢(shì)的更多思考。工業(yè)和信息化部部長(zhǎng)李樂(lè)成5日在十四屆全國(guó)人大四次會(huì)議首場(chǎng)“部長(zhǎng)通道”上表示，“要努力推動(dòng)AI電腦、AI手機(jī)、智能家居更好滿足人民群眾對(duì)美好生活的需求?！?/p>

技術(shù)創(chuàng)新步履不停，智能如何向善而行？從今年政府工作報(bào)告中明確部署“完善人工智能治理”，到兩會(huì)會(huì)場(chǎng)內(nèi)外關(guān)于“AI+教育”“AI+安全”的熱烈討論，“AI向善”成為今年全國(guó)兩會(huì)科技領(lǐng)域的高頻詞。

法治筑基：劃定AI發(fā)展清晰邊界

去年10月中旬，不少愛(ài)茶人士刷到一條視頻，鏡頭里的老人自稱“活到108歲，試茶80多年”，傾情推薦一款茶葉，吸引了眾多茶友下單。殊不知，視頻中的老人是畢生推廣茶學(xué)的專家張?zhí)旄?，早已?017年離世。企業(yè)這一不當(dāng)行為引發(fā)廣泛爭(zhēng)議，逝者親屬也已通過(guò)法律途徑介入。今年3月，某社交平臺(tái)發(fā)布打擊利用AI仿冒名人引流虛假宣傳的公告，處置違規(guī)賬號(hào)1200余個(gè)。

這些案例正是AI技術(shù)快速發(fā)展下，各類風(fēng)險(xiǎn)問(wèn)題的縮影。全國(guó)人大代表、海爾集團(tuán)董事局主席周云杰認(rèn)為，AI技術(shù)爆發(fā)式增長(zhǎng)伴生的安全、隱私與倫理挑戰(zhàn)日益凸顯，已成為制約人工智能健康發(fā)展的關(guān)鍵瓶頸。

當(dāng)前，我國(guó)已出臺(tái)網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法等法律，還頒布了《人工智能科技倫理管理服務(wù)辦法（試行）》等針對(duì)性舉措，但如何在進(jìn)一步提升社會(huì)生產(chǎn)效率的同時(shí)降低風(fēng)險(xiǎn)，成為鞏固AI產(chǎn)業(yè)先發(fā)優(yōu)勢(shì)、提升國(guó)際競(jìng)爭(zhēng)力的必經(jīng)之路。

“AI合成名人虛假音視頻進(jìn)行虛假宣傳等現(xiàn)象，嚴(yán)重侵犯了公民的肖像權(quán)、名譽(yù)權(quán)。”全國(guó)政協(xié)委員、中國(guó)地震局原黨組書(shū)記閔宜仁在小組討論中直言，針對(duì)此類亂象，應(yīng)當(dāng)及時(shí)完善政策規(guī)范和監(jiān)管體系。

周云杰代表認(rèn)為，除了技術(shù)濫用，還有責(zé)任主體缺失的問(wèn)題。比如在自動(dòng)駕駛、醫(yī)療機(jī)器人等物理交互場(chǎng)景，算法的安全容錯(cuò)率極低，事故發(fā)生后的責(zé)任歸屬如何在開(kāi)發(fā)者、部署者、使用者之間界定，目前還是法律與倫理的真空地帶。

全國(guó)人大代表、中國(guó)工程院院士張伯禮對(duì)此深有同感，他表示：“一旦AI形成自主編程、修改程序的能力，更將帶來(lái)不可預(yù)估的安全隱患?！睆埐Y代表建議，要加快推動(dòng)國(guó)家層面人工智能綜合性立法，構(gòu)建以相關(guān)法律為統(tǒng)領(lǐng)，部門規(guī)章、技術(shù)標(biāo)準(zhǔn)、倫理指南相互支撐的制度體系；針對(duì)使用人工智能的侵權(quán)行為，強(qiáng)化流程追溯，盡快出臺(tái)認(rèn)定標(biāo)準(zhǔn)和賠償細(xì)則，凝聚社會(huì)共治合力。

技術(shù)賦能：筑牢AI安全防控防線

AI風(fēng)險(xiǎn)的技術(shù)屬性，決定了技術(shù)創(chuàng)新是防控工作的核心支撐。

“沒(méi)有安全的創(chuàng)新走不遠(yuǎn)、也走不穩(wěn)。從這兩年大模型、智能體、具身智能等各類AI形態(tài)遭受網(wǎng)絡(luò)攻擊的情況來(lái)看，為AI預(yù)設(shè)‘安全護(hù)欄’十分必要?！比珖?guó)政協(xié)委員、奇安信科技集團(tuán)董事長(zhǎng)齊向東表示，其帶領(lǐng)的團(tuán)隊(duì)圍繞AI安全防范形成了大模型衛(wèi)士、大模型安全護(hù)欄等創(chuàng)新成果，還探索構(gòu)建了“端-網(wǎng)-云-機(jī)”一體化的防御體系。

齊向東委員建議，要將安全能力嵌入AI應(yīng)用的全生命周期，實(shí)現(xiàn)縱深防御；明確合規(guī)紅線，壓實(shí)安全主體責(zé)任，強(qiáng)化權(quán)限與內(nèi)容管控；堅(jiān)持用AI對(duì)抗AI，讓安全能力始終領(lǐng)先于安全風(fēng)險(xiǎn)。

如今，“用AI對(duì)抗AI”已在多地落地實(shí)踐。上海外灘舉辦的Deepfake攻防挑戰(zhàn)賽，聚焦AI換臉問(wèn)題，匯聚了一群年輕的“AI打假師”；世界互聯(lián)網(wǎng)大會(huì)上的AI大模型攻防賽，通過(guò)雙向競(jìng)技的模式，讓“漏洞窮盡式發(fā)現(xiàn)”成為可能。

關(guān)于數(shù)據(jù)安全與保護(hù)問(wèn)題，全國(guó)政協(xié)委員、中國(guó)市場(chǎng)主體研究院院長(zhǎng)屈慶超認(rèn)為，在行業(yè)尚未成熟的早期探索階段，不應(yīng)過(guò)早鎖定或限制特定技術(shù)路線，應(yīng)鼓勵(lì)企業(yè)開(kāi)展差異化探索。但無(wú)論如何選擇，隱私、合規(guī)和責(zé)任都是不可逾越的底線。

當(dāng)前，國(guó)內(nèi)已有多個(gè)“用AI對(duì)抗AI”的成熟案例落地，尤其在金融風(fēng)控、身份核驗(yàn)、內(nèi)容鑒偽三大領(lǐng)域形成了技術(shù)閉環(huán)，還持續(xù)推動(dòng)著行業(yè)標(biāo)準(zhǔn)完善與監(jiān)管協(xié)同發(fā)展。圍繞這一思路，齊向東委員還建議大力發(fā)展安全大模型與安全智能體，將稀缺的專家經(jīng)驗(yàn)轉(zhuǎn)化為可復(fù)制的數(shù)字能力，實(shí)現(xiàn)7×24小時(shí)自動(dòng)化防護(hù)，全方位筑牢AI安全防線。

素養(yǎng)培育：夯實(shí)AI向善人才根基

“技術(shù)都是雙刃劍，重要的是引導(dǎo)好使用它們的人?！薄拔覀兛茀f(xié)界別可以和教育界別等聯(lián)合開(kāi)展調(diào)研?！痹诒本?huì)議中心，政協(xié)委員們圍繞AI的使用與引導(dǎo)展開(kāi)熱烈討論。

全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎表示，人工智能本質(zhì)是人類智能的延伸，是工具而非主體。“AI向善”，就是要在人的指導(dǎo)下，讓人工智能的設(shè)計(jì)、開(kāi)發(fā)與應(yīng)用全過(guò)程，始終堅(jiān)守服務(wù)社會(huì)公共利益的導(dǎo)向，確保技術(shù)發(fā)展方向與人類福祉保持一致。

周鴻祎委員以視頻制作為例，生動(dòng)闡釋了人工智能與人的關(guān)系：AI只是創(chuàng)作者能力的“放大器”，創(chuàng)作者依然主導(dǎo)創(chuàng)意和藝術(shù)表達(dá)，AI則協(xié)助完成大量技術(shù)性工作，讓創(chuàng)意更快轉(zhuǎn)化為作品。當(dāng)技術(shù)與人的智慧協(xié)同發(fā)力，人工智能不僅能提升生產(chǎn)效率，更在不斷拓展人類創(chuàng)造力的邊界。

而實(shí)現(xiàn)“AI向善”，全民AI安全素養(yǎng)的系統(tǒng)提升是重要基礎(chǔ)。全國(guó)人大代表、天津職業(yè)技術(shù)師范大學(xué)副校長(zhǎng)王勁松表示，提升全民AI安全素養(yǎng)，需要從三個(gè)層面系統(tǒng)推進(jìn)。

面向公職人員，作為政策制定、實(shí)施與落地的核心主體，必須具備扎實(shí)的AI安全意識(shí)與素養(yǎng)，既要為技術(shù)創(chuàng)新留出包容的試錯(cuò)空間，又能敏銳識(shí)別、有效防范AI帶來(lái)的各類風(fēng)險(xiǎn)；面向技術(shù)人員，要引導(dǎo)AI領(lǐng)域從業(yè)者正向運(yùn)用技術(shù)，倡導(dǎo)“技術(shù)向上”的理念，確保技術(shù)研發(fā)與應(yīng)用始終沿著服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展的正向軌道前行，平衡好技術(shù)發(fā)展與行業(yè)規(guī)制的關(guān)系；面向廣大公眾，每一位AI使用者都要建立對(duì)應(yīng)的安全素養(yǎng)，清醒認(rèn)識(shí)AI個(gè)性化服務(wù)背后的數(shù)據(jù)隱私風(fēng)險(xiǎn)，增強(qiáng)個(gè)人信息保護(hù)意識(shí)與自我防護(hù)能力，守住AI使用的安全底線。

平衡發(fā)展：讓AI在正軌釋放核心價(jià)值

如今，腦機(jī)接口、具身智能、AI教育、AI手機(jī)……一批優(yōu)秀的AI應(yīng)用切實(shí)改變著人們的生活，帶來(lái)可喜變化。AI的終極價(jià)值，在于服務(wù)實(shí)體經(jīng)濟(jì)、改善民生福祉、推動(dòng)社會(huì)進(jìn)步。為AI劃底線、立規(guī)矩，引導(dǎo)技術(shù)在合規(guī)中落地、在規(guī)范中創(chuàng)新，才能讓其真正成為“十五五”時(shí)期高質(zhì)量發(fā)展的新動(dòng)能。

如何平衡AI發(fā)展與安全的關(guān)系？全國(guó)人大代表、招商局資本投資有限責(zé)任公司董事李引泉說(shuō)：“監(jiān)管政策要平衡好規(guī)范安全和創(chuàng)新發(fā)展的關(guān)系，管得過(guò)嚴(yán)可能不利于新技術(shù)的發(fā)展，對(duì)于在人工智能技術(shù)方面具備趕超國(guó)外能力的企業(yè)，應(yīng)予以保護(hù)和扶持?！?/p>

齊向東委員則認(rèn)為：“安全和創(chuàng)新是一體兩翼。安全從來(lái)不是約束，而是助力新技術(shù)走向成熟的重要標(biāo)志。”他以智能網(wǎng)聯(lián)車為例，作為具身智能的重要形態(tài)，為保障其安全發(fā)展，我國(guó)已形成涵蓋法律法規(guī)、路政設(shè)施等方面的全面安全體系，如今智能網(wǎng)聯(lián)汽車發(fā)展迅速、市場(chǎng)份額持續(xù)擴(kuò)大?！癆I時(shí)代，我們勢(shì)必要建立同樣完善的體系和機(jī)制?！踩珟А嚼慰?，AI這輛‘疾馳的快車’跑得就越穩(wěn)健?！?/p>

政府工作報(bào)告提出深化拓展“人工智能+”，促進(jìn)新一代智能終端和智能體加快推廣。對(duì)此，工信部部長(zhǎng)李樂(lè)成在接受采訪時(shí)表示，要努力推動(dòng)AI電腦、AI手機(jī)、智能家居等產(chǎn)品發(fā)展，更好滿足人民群眾對(duì)美好生活的需求。

周鴻祎委員建議，要加快出臺(tái)行業(yè)統(tǒng)一標(biāo)準(zhǔn)，明確數(shù)據(jù)采集、模型調(diào)用、內(nèi)容生成的合規(guī)邊界，強(qiáng)化算法透明度與可解釋性；將安全智能體嵌入終端，主動(dòng)防御AI化攻擊、惡意利用等新型風(fēng)險(xiǎn)，讓安全成為AI終端的標(biāo)配，讓AI手機(jī)真正服務(wù)于民，成為智能經(jīng)濟(jì)新形態(tài)下可靠的普惠終端。

作為終端智能體的代表性應(yīng)用，AI手機(jī)助手的安全實(shí)踐為行業(yè)提供了可參考的范本。據(jù)悉，AI手機(jī)助手嚴(yán)格遵循用戶授權(quán)與合規(guī)原則，僅在用戶明確授權(quán)下調(diào)用必要能力；云端處理屏幕內(nèi)容嚴(yán)格執(zhí)行“不存儲(chǔ)、不訓(xùn)練”準(zhǔn)則，數(shù)據(jù)全程加密傳輸；涉及支付、密碼等高危操作，采用用戶授權(quán)+手動(dòng)確認(rèn)的雙重機(jī)制，從制度設(shè)計(jì)與技術(shù)實(shí)現(xiàn)上，牢牢守住用戶權(quán)益與安全底線。

今年的政府工作報(bào)告，首次寫入“完善適應(yīng)人工智能技術(shù)發(fā)展促進(jìn)就業(yè)創(chuàng)業(yè)的措施”。全國(guó)政協(xié)委員、中國(guó)民營(yíng)經(jīng)濟(jì)研究會(huì)副會(huì)長(zhǎng)李連祥說(shuō)，目前AI手機(jī)等行業(yè)處于發(fā)展初期，對(duì)于新技術(shù)形態(tài)，應(yīng)重視人才培養(yǎng)，秉持寬容的態(tài)度，但在監(jiān)管和法律保障上，更要精準(zhǔn)防控風(fēng)險(xiǎn)，為技術(shù)創(chuàng)新預(yù)留足夠的空間。

AI越來(lái)越聰明的時(shí)代，更應(yīng)是制度有溫度、技術(shù)有邊界、公眾有判斷的時(shí)代?！叭斯ぶ悄艿奈磥?lái)，歸根結(jié)底取決于人類如何使用它。”周鴻祎委員表示，只有堅(jiān)持以人為本、智能向善，讓技術(shù)創(chuàng)新與倫理治理同步推進(jìn)，人工智能才能真正成為推動(dòng)社會(huì)進(jìn)步、增進(jìn)人類福祉的重要力量。

（參與記者：白佳麗 宋瑞 張漫子）