多措並舉促進深度合成技術向善發展

“加快發展數字經濟，促進數字經濟和實體經濟深度融合”“構建新一代信息技術、人工智能、生物技術、新能源、新材料、高端裝備、綠色環保等一批新的增長引擎”，黨的二十大報告的重要部署，為以人工智能等新興技術驅動數字經濟發展提供了重要遵循。作為人工智能領域的創新應用，深度合成近年來風頭正勁，AI語音助手、虛擬人、數字人、AR購物、影像修復等在文藝、傳媒、醫療、社交等多個領域造福著社會，成為促進數字經濟“虛實融合”的關鍵性技術。

不過，正如很多科技突破都帶來了意想不到的“副產品”，深度合成在展露出可觀經濟價值的同時，也暴露出破壞性“潛力”，通過深度合成偽造的視頻、音頻進行誣陷、誹謗、詐騙、勒索等違法行為近年來層出不窮。尤其在互聯網經濟領域，深度合成技術能夠生成真偽難辨的虛假信息，帶來身份認証、信息存儲等環節的技術難題，導致數字經濟發展面臨新的安全隱患。要求加強監管的呼聲近年來日漸高漲。

為促進深度合成技術向上向善發展，世界各國紛紛出台法律法規，對深度合成技術進行規約。在《網絡信息內容生態治理規定》《網絡音視頻信息服務管理規定》等規章的基礎上，近日，國家網信辦等三部門聯合發布《互聯網信息服務深度合成管理規定》，並於今年1月10日起正式實施，其中明確了深度合成內容的用途、標記、使用范圍以及濫用處罰，這意味著深度合成將迎來規范化發展的關鍵期。為新興技術劃定適當的使用框架是一項“技術活”，容易陷入一管就死、一放就亂的困局。如何推動智能技術向善發展，最大限度地趨利避害，還需從幾個方向持續發力——

促進深度合成技術向善發展，需完善規則，強化技術風險防控的法治保障。應當圍繞國家信息安全和數字經濟安全、社會治理以及保護公民合法權益，對深度合成服務劃定合理開發使用的“綠線”和禁止性的“紅線”，建立分級分類制度。一方面，加大深度合成服務應用程序推廣前的審核力度，尤其是高風險產品和服務，確保技術應用的服務形式和服務范圍符合國家有關規定。另一方面，要明確互聯網平台尤其是社交媒體的內容審核義務，推動其建立虛假消息篩查機制，禁止上傳可能危害國家安全或造成負面社會影響的深度合成制品。此外，還要充分賦予用戶知情權和選擇權，通過用戶“投票”倒逼行業各類不規范行為的整治。

促進深度合成技術向善發展，需構建體系，實現技術應用安全的常態化監管。在以人工智能新興技術為主的算法服務安全應用監管中，普遍存在各主體之間權責不明確、數據信息傳遞過程不可控和缺乏社會監督等問題，亟須明確責任主體，貫徹常態化信息監管措施。首先，要確定深度合成服務提供者和使用者的主體責任，厘清界限，激活市場主動規約的積極性，使信息內容的生產源頭公開透明、權責分配公正公平。其次，要對深度合成內容進行合成前、合成后、發布后和傳播后的全流程監管，追蹤合成內容的真實性，控制信息傳遞的風險。再次，要完善深度合成技術的應用體系，引入理性中立的第三方專業機構，完善行業標准，推動行業自律。最后，還應暢通用戶投訴、舉報渠道，確保以主流價值觀為引領，強化信息內容的安全規范。

促進深度合成技術向善發展，還需探索機制，提升技術風險治理的整體水平。新興技術的敏捷、精准治理，需要多方合力、多措並舉，構建多方協同治理模式。對於政府部門，要推動從傳統管理向“包容審慎”治理轉變，倡導有所為有所不為，給予新技術必要的發展時間與試錯空間，以更為靈活的治理方式適應數字經濟的發展特點。對於從業人員，要加強科技倫理教育和法律法規培訓，建立系統性的科技倫理人才培養體系，鼓勵開展深度合成與深度檢測的技術對抗演練，以技術之道還治技術之險，從源頭防范深度合成的安全應用風險。對於公眾，要加強新興技術科普教育特別是對特定群體數字鴻溝的彌合，提升技術應用在公眾中的透明度，增強公眾對合成媒體防偽的警惕度和辨識能力。在全球經濟復蘇的當下，相信深度合成等新興人工智能技術必將邁著更加穩健的步伐迎接一個全面數字化的世界。

（作者：馬麗霞，系中國科學院大學經濟與管理學院高級工程師﹔汪壽陽，系中國科學院預測科學研究中心主任）