金融人工智能如何釋放潛能又守住底線

【光明時評】

近期，國家金融監督管理總局印發《關於銀行業保險業人工智能安全開發應用的指導意見》，從治理架構、開發應用、數據算力、風險防控等方面作出系統部署。在銀行保險業人工智能規模化應用的背景下，如何既釋放技術潛能，又守住安全底線，已成為數字金融高質量發展必須回答的現實問題。

金融是信息和數據高度密集的行業，也是人工智能具有廣闊應用前景的領域。從輔助信貸調查、識別欺詐交易，到優化保險定價、提升客戶服務質效，人工智能能夠處理海量非結構化信息，減少重復勞動，提高金融服務的可得性和精准度。《金融人工智能發展與安全白皮書（2025）》顯示，2024年我國金融行業人工智能投資規模達到196.94億元，預計2027年將增至415.48億元。技術迭代與成本下降相互疊加，正在推動人工智能從外圍輔助走向風險管理、投資研究、合規審查等關鍵環節。對金融機構而言，用不用人工智能已不是簡單的選擇題，怎樣用好、管好才是關鍵。

金融活動具有專業性強、關聯度高、風險外溢快等特點。模型輸出看似精准，但並不等於決策一定可靠。訓練數據存在偏差，可能造成算法歧視﹔模型缺乏可解釋性，可能使責任鏈條變得模糊﹔提示詞注入、數據投毒、工具濫用等新型攻擊，可能威脅客戶信息和業務連續性。人工智能越深入信貸審批、資金交易、承保理賠等關鍵環節，越不能把概率意義上的“答案”不加辨別地當成確定無疑的結論。

發展和安全並非此消彼長。安全不是創新的“減速帶”，而是創新行穩致遠的前提。缺少應用實踐，則難以及時發現真問題﹔沒有制度約束，技術創新則可能偏離服務實體經濟、維護群眾權益的方向。此次指導意見堅持“誰使用誰負責”，把人工智能風險納入全面風險管理，並明確高風險應用的准入、監測和人工干預要求，正是要把安全能力轉化為金融機構的治理能力和長期競爭力。

人工智能應用不是單純的技術項目，而是涉及業務、科技、數據、合規、風險管理等多個部門的系統工程。金融機構應壓實主體責任，完善跨部門協同機制，建立覆蓋需求分析、數據准備、訓練開發、部署運行、維護迭代、評估退出的全生命周期管理體系。尤其要避免“重上線、輕運營”，既在應用前做好准入測評和倫理審查，也要在運行中持續監測模型效能、數據漂移和異常行為，在模型不再適配業務時及時調整或退出，才能真正做到過程留痕、責任到人。

讓人工智能在安全軌道上運行，還要夯實數據和算力基礎。金融模型能力如何，很大程度上取決於數據質量。數據不准確、不完整，算法再精妙也難以產生可信結果。要加強數據全生命周期管理，建設與具體場景相適配的高質量數據集，提升非結構化數據治理水平，確保數據來源可追溯、使用有邊界、更新能持續。同時，統籌存量資源和實際需求布局算力，提升關鍵平台和軟硬件自主可控水平，防范對單一供應商和外部技術的過度依賴。自主可控並非關起門來重復建設，而是在開放協作中增強關鍵環節掌控力和供應鏈韌性。

把風險管住管好，重在分類分級、精准施策。人工智能應用場景不同，風險程度也不相同，對內部知識檢索、文稿輔助等低風險應用，可在明確數據權限和使用規范的基礎上提升應用效率﹔對資金交易、資產評估、信貸審批、承保理賠以及直接影響客戶權益的生成式人工智能應用，則應實行更嚴格的准入、測評和監測。要科學設定模型功能邊界，在關鍵環節保留人工監督、復核和干預機制，明確緊急停用條件和人工替代流程，防止將智能輔助異化為“機器說了算”。

金融科技最終要服務於人。人工智能可以提高服務效率，卻不能減輕金融機構對消費者應盡的責任。對模型生成內容，應做好顯著標識和必要說明﹔對涉及客戶權益或具有實質性財務影響的關鍵決策，應增強透明度和可解釋性，保障消費者的知情權、異議權和暢通申訴渠道。審慎評估算法對老年人、低收入者等不同群體的影響，及時糾正可能存在的模型偏見。技術越先進，越要守住公平、誠信和審慎經營的價值底線，讓數字化成果惠及千家萬戶。

人工智能為金融業打開了新的發展空間，也提出了新的治理難題。把安全要求貫穿創新全過程，把人的責任置於算法之上，把服務實體經濟和維護群眾權益作為根本價值遵循，才能使人工智能真正成為金融高質量發展的重要引擎。以制度筑基、以技術固本、以責任護航，推動創新活力與安全韌性相互促進，金融人工智能就能在安全軌道上走得更穩、更遠。

（作者：崔 冉，系廣西財經學院金融學院副教授）