以網絡安全法治護航人工智能健康發展

人工智能技術的蓬勃發展，正帶來生產力的巨大躍升。從大語言模型的自然語言處理、即時問答，到智能體的資料整理、協助決策，人工智能應用已經深度融入生產生活，廣大人民群眾切實感受到了效率提升帶來的便利。但人工智能應用在帶來便利的同時，也催生了不少新問題。例如，AI換臉、AI擬聲等技術被不法分子用於電信網絡詐騙，動搖了“眼見為實”這一自古以來的社會信任基礎。

技術是一把雙刃劍，如何既讓人工智能的發展紅利充分釋放，又防范其帶來的風險，成為擺在治理者面前的現實課題。新修改的網絡安全法今年1月1日起施行，其中新增人工智能安全與發展專門條款，為相關治理提供了進一步的法律支撐。9月7日，最高人民法院公開發布《關於依法審理涉人工智能糾紛案件的意見》（以下簡稱《意見》），就AI換臉、AI擬聲等社會廣泛關注的問題明確了裁判規則。日益完善的網絡安全法治，正在成為護航人工智能應用健康發展的重要保障。

價值立場：

統籌發展和安全

新修改的網絡安全法第二十條第一款規定：國家支持人工智能基礎理論研究和算法等關鍵技術研發，推進訓練數據資源、算力等基礎設施建設，完善人工智能倫理規范，加強風險監測評估和安全監管，促進人工智能應用和健康發展。法律沒有把人工智能簡單地當作需要圍堵的風險源，也沒有把人工智能理解為可以豁免監管的優待區，而是將安全貫穿於創新發展全過程，以有效治理支撐人工智能應用和健康發展。此前，《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等相關規章已經確立發展和安全並重的治理原則，此次修法則進一步把此前散落在不同規章中的治理經驗，以法律的形式確認和固定下來。與此同時，此次修法還提高了違法行為的處罰力度，對不履行法定網絡安全保護義務、造成特別嚴重危害網絡安全后果的網絡運營者，最高可處一千萬元罰款，對相關直接責任人員最高可處一百萬元罰款。提高事后處罰力度的舉措也是發展和安全並重的表現之一。這一理念同樣延伸到了司法領域。最高人民法院9月7日發布的《意見》，也將“堅持發展和安全並重、促進創新和依法治理相結合”確立為審理涉人工智能糾紛案件應當秉持的理念。倘若隻強調發展，AI換臉擬聲亂象便會失去約束﹔倘若隻強調安全，智能客服、辦公助手等應用創新也會舉步維艱。從立法原則到司法政策，統籌發展和安全正在成為人工智能治理不同層面的共同價值理念。

立規明矩：

厘清義務與責任

統籌發展和安全的原則要真正落地生根，需要厘清人工智能服務參與各方的義務和責任。按照最高人民法院9月7日發布的《意見》，除法律另有規定外，認定人工智能侵權一般適用過錯責任原則，綜合考量應用場景、自主化程度、技術透明度等因素判斷責任歸屬。這為技術原理復雜、責任邊界模糊的人工智能糾紛，提供了一把可操作的司法標尺。例如，對AI換臉擬聲亂象，《意見》明確，未經自然人同意生成可識別該自然人的虛擬數字形象並使用、公開的，構成對該自然人姓名權、肖像權等人格權益的侵害。再例如，對生成式人工智能服務提供者，《意見》明確，生成式人工智能自動生成的內容侵害他人名譽權、隱私權等人格權益，經權利人通知，生成式人工智能服務提供者未及時採取停止生成侵權內容等必要措施的，應當對造成的損害依法承擔侵權責任。而關於責任追溯問題，施行一年多的《人工智能生成合成內容標識辦法》已經明確顯式標識、隱式標識及傳播環節的相關要求，為識別生成合成內容、追溯來源提供制度和技術支撐。如今司法規則與技術標識彼此銜接，為人工智能侵權責任認定提供了更加系統、明確的司法指引，也讓困擾公眾已久的“眼見不一定為實”的難題，有了科學的應對之策。

動態調整：

持續校准和完善

“法與時轉則治，治與世宜則有功。”以網絡安全法治護航人工智能應用健康發展，從來不是一次修法、出台一份意見就能一勞永逸，而需要根據人工智能發展的進程持續性地修改和完善相關規則。例如，隱式標識能為音視頻溯源提供技術支撐，但惡意工具也在同步迭代，標識與反標識的較量仍在繼續。再例如，司法規則雖然明確了過錯責任等基本原則，但人工智能應用場景日新月異，具體案件中如何認定“自主化程度”“技術透明度”，還有待案例逐步積累。這意味著，統籌發展和安全不是嚴了就安全、鬆了就危險的簡單線性關系，而是一個沒有終點的持續性的動態調整過程。從國際上看，這一課題也絕非隻有我國在獨自求解。歐盟《人工智能法案》第五十條規定的相關透明度義務自今年8月起生效，通過對人工智能服務提供者設置內容標記、交互告知、深度偽造披露等義務，降低公眾受到誤導的風險。美國已有30多個州出台專門法律規制選舉及政治傳播中的深度偽造風險，其採取的是各州分散立法應對的路徑。我國則以現行法律為基礎，通過部門規章、司法規范性文件和審判實踐不斷細化治理規則，並結合實踐經驗推進法律修改完善。

從AI換臉擬聲的亂象，到智能問答、辦公助手的日常應用，人工智能的兩面性，需要網絡安全法治的不斷與時俱進來回應。唯有如此，公眾才能既享受技術帶來的便利，又不必時刻提防技術帶來的風險。從立法、行政到司法，方向已經逐漸清晰：發展不是安全的對立面，安全也不是發展的絆腳石。隻有統籌發展和安全，為人工智能應用立規明矩，並根據形勢變化持續性地完善規則，才能讓人工智能這匹千裡馬，既跑得快又跑得穩。

（作者：鄒學庚，系中國政法大學民商經濟法學院副教授）