嚴國萍
2026年11月16日08:45 來源:人民日報
222
訂閱取消訂閱已收藏
收藏
大字號
點擊播報本文,約
智能體是人工智能產品和服務的新形態。習近平總書記指出:“人工智能應當成為人類的可信工具。”近年來,隨著新一代人工智能技術演進,智能體快速發展。“十五五”規劃綱要提出:“鼓勵多模態、智能體、具身智能、群體智能等技術創新”。國務院印發的《關於深入實施“人工智能+”行動的意見》提出到2027年新一代智能終端、智能體等應用普及率超70%﹔相關部門印發的《“人工智能+制造”專項行動實施意見》提出到2027年推出1000個高水平工業智能體。這將進一步推動智能體技術創新和應用落地。把相關決策部署落到實處,要堅持發展和安全並重,以敏捷治理為智能體發展保駕護航。
智能體是具備自主感知、記憶、決策、交互與執行能力的智能系統。在人工智能技術推動下,智能體一方面正在向能夠自我學習和演化的方向演進,另一方面正在融入工廠、醫院、學校、社區和家庭,加速與物理世界深度融合,深刻改變人類生產生活方式。在實際應用中,智能體在帶來便利、提高效率的同時,也暴露出一些問題和風險。比如,智能體自主執行任務時,信息安全與隱私保護等問題相伴而生﹔部分智能體安全防護體系相對薄弱,在惡意指令誘導下存在安全隱患﹔智能體支付的興起可能帶來模型誤判、授權濫用等風險﹔等等。為此,要及時更新治理思路,積極探索符合智能體發展規律的敏捷治理路徑,推動治理體系與技術發展同向而行、協同演進。
近年來,我國出台《人工智能安全治理框架》等規范,持續加強人工智能治理,構建多層次、多維度的治理機制,在加強敏捷治理方面積累了一系列經驗做法。面向未來,應立足我國實際,積極適應人工智能技術快速迭代和智能體自主能力增強的趨勢,更好統籌發展和安全,及時動態調整治理方式,為新技術、新業態發展預留空間,在鼓勵創新與防范風險之間實現動態平衡。
構建分類分級治理框架。建立適應新業態發展的高效便捷准入機制,探索“沙盒監管”、觸發式監管等新型監管方式。根據應用場景和潛在影響,審慎穩妥開展智能體分級治理。對於敏感領域及重點行業,可根據相關法律法規、監管要求和安全防護標准,實行備案、檢測、問題產品召回等管理措施﹔對於低風險領域,可完善智能體評估測試工具,通過合規自測、信息報告、分發平台管理、行業自律等實現高效治理。同時,鼓勵行業組織、主要企業聯合制定行業自律規則,明確智能體功能合規、算法治理、知識產權保護、公平競爭等規范細則。
提升內生安全能力。加快突破關鍵核心技術,提升智能體系統安全保障能力,才能更好防范數據投毒、隱私泄露、算法篡改、系統漏洞、運行失控等安全風險。要注重前瞻預防和約束引導,在遵守法律法規、尊重社會公德和倫理規范前提下,明確智能體決策權限,厘清僅限用戶本人決策、需由用戶授權決策和智能體自主決策等各種決策方式的合理邊界及所需權限,確保智能體始終安全、可靠、可控。同時,強化智能體應用安全管理,避免智能體被用於自動化攻擊、隱私侵犯、虛假信息生成傳播、網絡詐騙等違法犯罪行為。
加強國際協作。當前,智能體的互信、互聯、互操作水平深刻影響全球數字經濟的融合程度與人類社會的未來。應堅持共商共建共享原則,加強政策協調與實踐合作,在充分尊重各國主權、安全關切、法律法規的前提下,共同打造開放、可信、安全、普惠的智能體生態。強化技術研發,驅動協同創新,推動多智能體從“可控交互”向“自主協同”演進,構建高效、可擴展、低延遲的跨平台互操作能力﹔促進標准互認,建立開放式標准驗証與迭代機制,避免技術壁壘與生態割裂,推動不同智能體無縫接入全球協作網絡。同時,制定智能體開發、部署、應用、維護等全周期安全規范,探索建立智能體供應鏈安全信息共享和預警機制,確保智能體運行始終不逾越安全底線。
(作者為中共浙江省委黨校(浙江行政學院)教授)
《 人民日報 》( 2026年11月16日 09 版)

微信“掃一掃”添加“學習大國”