給智能體應用裝上“制度護欄”

近日，國家網信辦、國家發展改革委、工業和信息化部聯合印發《智能體規范應用與創新發展實施意見》（以下簡稱《實施意見》），明確支持探索智能體在城市規劃、建設與治理環節的規范應用，同時將智能體安全、可靠、可信作為產業發展的底線要求。

當前，以手機助手、終端智能管家、雲端智能體等為代表的智能體產品加速涌現，呈現規模化應用態勢，極大便利了人們的工作生活。智能體的廣泛使用，使得各類風險能被快速感知、及時處置，城市也變得更加“聰明”、更有韌性。例如，上海警方首創的“交通治堵大模型”已在全市360個路口部署應用，平均車速提升12.9%﹔北京街道10萬余井蓋、地下6800余公裡管道全部接入智慧巡檢系統，智能井蓋一旦監測到異常沉降，30秒內自動報警﹔天津中新生態城搭建起智能感知網絡，可精准識別道路污染、建筑垃圾傾倒等行為，並實時上報預警信息，如同24小時在崗的“虛擬哨兵”。這樣的智能體應用，在全國各類城市已經越來越多了。

然而，技術跑得太快，也會讓人心有疑慮。智能體的權限會不會越界？決策是否有效？如果決策出了問題誰來負責？隱私數據會不會“裸奔”？這些問題，老百姓關心，城市管理者更得放在心上。技術更新迭代速度快，制度建設跟不上，就會產生大量隱患。城市治理不是智能體的實驗室，它關系著千家萬戶的切身利益，一旦出了問題，所帶來的破壞和損失往往難以估量。在這方面，國外已有前車之鑒。

這給我們提了個醒，智能體本身不是問題，真正的問題在於缺少“制度護欄”。當智能體幫我們提供服務時，它調用的數據是否必要、依據了什麼規則，決策錯了得糾偏問責﹔城市大腦調配信號燈時，算法偏差了得有人及時“踩剎車”﹔無人機飛越上空時，不能侵犯他人隱私和侵擾他人生活。也就是說，智能技術不能是“技術自運轉”，它的運行必須有規矩、有邊界。《實施意見》的出台，就是要及時填補技術應用與制度建設的“落差”。它不是給智能體創新“踩剎車”，而是給智能體“裝上方向盤、系上安全帶、畫好軌道線”。

智能體的應用，要遵循以人為本的理念。說到底，智能體是工具，它應該服務於人。《實施意見》明確要求“確保用戶對智能體自主決策享有知情權和最終決策權”，正是將人的主體性擺在了核心位置。近日，工業和信息化部辦公廳印發了《關於實施人工智能科技倫理審查與服務先導計劃的通知》，將在北京、上海、天津、廣東、山東等10個省市開展AI科技倫理審查。這些探索正是回歸到人的權利本位。城市管理者要讓智能技術從“無限運算”轉向“最小必要運算”，從“替人做主”轉向“助人決斷”，讓每一個被智能體服務的市民，享受得到服務、看得見規則、找得著說法。

智能體的效果，取決於“制度護欄”的保障。政府不能隻做智能技術的“使用者”，更要做智能體生態的“塑造者”。各地須統攬各類智能體，根據應用場景的風險高低，審慎劃定智能體“可為”與“不可為”邊界，同步建立算法備案與影響評估制度，讓每一套算法在上線前先“過審”﹔同時完善人工復核與申訴救濟機制，確保智能決策有據可查、有人負責、有地方說理。“制度護欄”不是為了束縛智能體，而是為了讓它在服務市民的軌道上跑得更穩。

智能體的生態，要靠多元共治的協同。智能體不是政府和企業的“專屬工具”，它連接著企業、社區和普通市民。《實施意見》強調“堅持以人為本、智能向善、多元共治、安全穩妥”，鼓勵行業自律、信用評價建設，引導公眾和企業、高校、科研機構積極參與，這就是共建共治共享。政府應從單一的“智能體使用者”轉向“多元共治的塑造者”。在這方面，國內已有鮮活實踐。

國務院國資委牽頭打造的“煥新社區”，由25家企業、高校和標准化機構共同發起，面向全社會開放了40個央企高價值場景，使AI創新成果惠及更多中小企業和開發者。這啟示我們，開放合作的智能體生態更有生命力。智能體的接口不僅應該開放給基層單位，而且應該向社會公眾開放，用以成為“眾包平台”，使政府內外的行動者能夠在此基礎上創新應用、共同治理。要讓居民對影響自己生活的算法有發言權，讓第三方機構參與評估認証，讓行業自律與政府監管形成合力。

（作者：吳曉林，系南開大學國家治理研究院院長、中國式現代化發展研究院高級研究員）