人工智能的倫理挑戰與科學應對

編者按

2023年2月21日，中國外交部正式發布《全球安全倡議概念文件》，呼吁“加強人工智能等新興科技領域國際安全治理，預防和管控潛在安全風險”。在中國式現代化進程中，人工智能的技術革新是助推我國科技創新的重要力量之一。作為最具代表性的顛覆性技術，人工智能在給人類社會帶來潛在巨大發展紅利的同時，其不確定性也會帶來諸多全球性挑戰，引發重大的倫理關切。習近平總書記高度關注人工智能等新興科技的發展，強調要加快提升“人工智能安全等領域的治理能力”，“塑造科技向善的文化理念，讓科技更好增進人類福祉”。為此，本版特組織幾位青年學者圍繞人工智能的倫理挑戰與科學應對展開討論，並邀請專家予以點評，以期引發學界的更多關注，為推動人工智能健康發展貢獻智慧。

與談人

彭家鋒 中國人民大學哲學院博士生

虞昊 華東師范大學政治與國際關系學院博士生

鄧玉龍 南京師范大學哲學系博士生

主持人

劉永謀 中國人民大學哲學院教授、國家發展與戰略研究院研究員

1.機遇與挑戰並存的人工智能

主持人：新技術革命方興未艾，以人工智能等為代表的新興科技快速發展，大大拓展了時間、空間和人們的認知范圍，人類正在進入一個“人機物”相融合的萬物智能互聯時代。請具體談談人工智能給人類社會發展帶來什麼樣的機遇？

彭家鋒：人工智能、大數據、物聯網、雲計算等智能技術蓬勃興起，對人類社會的方方面面產生深刻影響，推動整個社會逐步邁入智能社會。在此過程中，存在許多重大歷史機遇需要我們把握。就技術治理而言，人工智能作為一種治理技術，正在助推社會治理的治理理念、治理方式、治理效能等方面的變革，將傳統技術治理提升至智能化新階段，呈現出“智能治理的綜合”趨勢。智能治理將全面提升社會公共治理的智能化水平，主要呈現出四個方面的特征：一是治理融合化，即促進各種智能技術與其他治理技術相互融合，大幅度提升智能社會的治理水平﹔二是治理數據化，即以日益增長的海量數據為基礎，通過對數據映射出來的“數字世界”進行社會計算，實現治理目標﹔三是治理精准化，即發揮智能技術強大的感知能力、傳輸能力和計算能力，將傳統的粗放治理轉變為精准治理﹔四是治理算法化，即不斷完善智能決策系統，嘗試將程序化的算法決策擴展到更多的決策活動中，從而提高決策質量。

虞昊：人工智能有助於反思人類社會得以建立與發展的基礎。隨著分析式AI向著生成式AI不斷演變，尤其是生成式AI初步展現出判別問題、分析情感、展開對話、創作內容等越來越具有人類特征的功能，原本屬於人類的領域正被人工智能以另一套由“0”與“1”構成的計算機語言逐步侵蝕。這既是對人類社會的沖擊，也勢必會在更加平等的開放性框架中增強人類的主體性，促進人類社會進一步發展。

鄧玉龍：總體來說，以人工智能為代表的新科技發展，顯著提升了社會生產力。例如，生成式AI不但能完成傳統AI的分析、判斷工作，還能進一步學習並完成分析式AI無法從事的創造性工作。從人機交互的角度來看，人工智能也促進了生產關系的高效發展。具體表現在：一是刺激勞動形態的轉化。人工智能高效承擔大量的基礎機械性勞動，人類勞動則向高階的創造性勞動轉化，由此引發社會層面的勞動結構轉型、升級，並且以人工智能為中介，社會范圍內的勞動整合、協調能力也實現升級。二是促進勞動場域的重構。隨著勞動形態的轉化和勞動的社會化擴展，人工智能將勞動從固定場域中解放出來，人類勞動的靈活性增加。相比於創造性勞動，機械性勞動更加受到空間和時間的制約，而在人工智能從技術層面替代更低邊際成本的基礎性勞動之后，人類勞動空間和時間的自由性實現躍遷。三是對主體的發展提出了更高要求，尤其是對主體適應社會發展提出了更高要求。人工智能技術的發展對人類傳統的知識結構提出挑戰，要求人類更新原有的知識結構以適應社會發展需要，也對教育提出更高要求，教育模式和教育內容需要更契合科技發展的水平，培養更加全面發展的人才。

主持人：人工智能的一系列產物在給人們帶來生活便利的同時，也一定程度上引起大家對其可能引發的倫理挑戰的警惕。一些人關注人工智能的風險問題，對人工智能的推進有些焦慮。如何看待這種警惕和焦慮？

虞昊：人工智能的風險以及由此帶來的焦慮，是完全可以理解的。但我們無法返回一個沒有人工智能的世界，人工智能已然深度介入人類社會，試圖遏制人工智能的推進隻能是螳臂當車。同時我們對人工智能的發展也不能放任不管，無視甚至於壓制人工智能的推進隻能是掩耳盜鈴。因此，我們應該正視這種焦慮，在發展人工智能的過程中探求解決方案，在人工智能帶來的風險中尋求危中之機。

鄧玉龍：我們應正確看待這種焦慮。要看到，焦慮有其積極的意義，它體現人類的憂患意識，催生對人工智能風險的預見性思考，提醒我們注意焦慮背后人工智能技術發展存在的問題。正確對待焦慮有助於積極採取措施防范風險，辯証分析焦慮中先見性的思考，通過社會治理模式的升級化解風險問題。同時，僅有焦慮和恐懼是不夠的，更重要的是積極解決人工智能發展帶來的社會問題。從勞動的角度看，人工智能確實會取代部分人類勞動，推動勞動結構轉型升級，讓勞動向著碎片化、個體化方向發展，勞動者處於弱勢地位，面臨著“機器換人”的挑戰。但是我們也應該理性認識到，人工智能不是對人類勞動能力的完全替代，而是對勞動者提出了更高的要求，要求勞動者掌握科學知識，將技術的發展內化為自身能力，在更具創造性的勞動中實現自身價值。

彭家鋒：任何技術的發明使用，不可避免地伴隨著這樣或那樣的風險。人工智能技術自然也不例外，在其應用過程中，同樣引發了諸如隱私泄露、算法歧視、法律責任等風險問題。因此，關注人工智能的風險問題，並由此對人工智能的推進產生焦慮，具有一定理論依據和現實基礎。但更應當清醒地認識到，人工智能的某些相關風險可以提前得到規避，並不必然會發生﹔即便真的發生，也仍可不斷尋求化解風險的有效手段。以個人隱私濫用風險為例，在治理過程中，雖然不可避免地會涉及個人數據收集和分析處理，但可以通過建立完整的規范和監管體系來保護個人隱私，降低濫用風險。

2.人工智能科技競爭的“倫理賽道”

主持人：習近平總書記在以視頻方式出席二十國集團領導人第十五次峰會時指出，“中方支持圍繞人工智能加強對話，倡議適時召開專題會議，推動落實二十國集團人工智能原則，引領全球人工智能健康發展”。請談談“人工智能原則”應包含哪些內容？科技向善的文化理念對推動全球人工智能健康發展具有怎樣的現實價值？

彭家鋒：為應對人工智能等新科技快速發展帶來的倫理挑戰，2022年，中共中央辦公廳、國務院辦公廳印發了《關於加強科技倫理治理的意見》，其中明確了“增進人類福祉”“尊重生命權利”“堅持公平公正”“合理控制風險”“保持公開透明”等五項科技倫理原則。我認為，這五項原則基本涵蓋了人工智能原則的倫理要求，彰顯了科技向善的文化理念。科技向善的文化理念，根本目標是讓科技發展更好地服務社會和人民，帶來良好社會或社會公益的善。科技向善對推動全球人工智能健康發展至少具有以下三個方面現實價值：一是塑造公眾信任。公眾對人工智能的信任很大程度上並不完全由相關風險程度決定，而是取決於公眾的利益與價值是否得到足夠重視。后者正是科技向善的內在要求。二是引領技術創新。科技向善的文化理念將在技術創新發展過程中發揮價值引領作用。三是促進全球合作。科技向善的文化理念試圖在全球范圍內建立人工智能倫理規范的“最大公約數”，各國在達成倫理共識的基礎之上，能夠建立互信，實現更加充分深入的國際合作。

虞昊：個人認為，人工智能原則也應包含非對抗與非失控的理念。非對抗意味著不應將人工智能視作人類社會的對抗性存在，人工智能已經成為人類社會的構成性要素，我們必須持更為開放的態度去面對人工智能。非失控意味著不應放棄對人工智能的倫理規范，應以智能的方式去規范加速發展的人工智能。如果以上述理念為前提，也就是說，在支持人工智能發展的情況下，科技向善的文化理念在推動全球人工智能健康發展中就變得極為重要。此處的“善”在國家治理層面即指向“善治”，而當人工智能的發展從國家范圍擴展到全球范圍，“善治”就在構建人類命運共同體的意義上擁有了更貼近現實的內涵。各國應摒棄冷戰思維與零和博弈，基於善意與友誼共同思考人類作為整體如何在人工智能的沖擊下通往全球性的“善治”。

鄧玉龍：2019年歐盟發布《可信賴的人工智能倫理准則》，2021年中國國家新一代人工智能治理專業委員會發布《新一代人工智能倫理規范》（以下簡稱《規范》）。與歐盟發布的倫理准則相比，《規范》體現了中國特色社會主義的制度優勢，旨在將倫理規范融入人工智能全生命周期。人工智能發展的根本目的是促進人的全面發展，因此，我以為，人工智能原則還應體現共享和有序發展的要求。共享，旨在防止人工智能的技術壟斷。科技發展應該兼顧全體人民的利益，而不是服務於少數群體，由全體人民共享科技發展成果，推動全球科技水平的共同增長。有序發展，旨在防止人工智能技術的無序擴張。人工智能技術的發展最終是為了提升人的幸福感，推動科技有序發展能夠促進人機和諧融合，有效預防潛在無序擴張的風險。

主持人：從規范層面來說，倫理反思對規范人工智能發展的作用主要體現在哪些方面？

彭家鋒：近年來，世界各主要國家在人工智能領域競爭日趨激烈，紛紛將人工智能發展置於國家發展的戰略層面。比如，美國陸續出台《國家人工智能研究和發展戰略計劃》（2016）和《關於維持美國在人工智能領域領導地位的行政命令》（2019）﹔歐盟先后發布《歐洲人工智能戰略》（2018）和《人工智能白皮書》（2020）﹔中國也較早發布了《“互聯網+”人工智能三年行動實施方案》（2016）和《新一代人工智能發展規劃》（2017）。人工智能科技競爭的客觀局面已然形成。在此背景下，如果忽視人工智能技術發展所帶來的全球性風險與挑戰，極有可能陷入技術趕超的競爭邏輯。因此，亟須規范人工智能的科技競爭，而倡導倫理反思或許就是一條可行之路。倫理反思的意義至少在於：一是設定倫理底線。人工智能技術的開發和應用需要遵循一些基本的價值理念和行為規范。隻有守住倫理底線，才有可能避免顛覆性風險的發生。二是實現敏捷治理。倫理反思是一個動態、持續的過程，貫穿於人工智能科技活動的全生命周期。為了確保其始終服務於增進人類福祉和科技向善的初衷，需要保持應有的道德敏感性，以靈活、及時、有效的手段化解人工智能帶來的各種倫理挑戰，確保其在科技向善的道路上行穩致遠，實現良性發展。

鄧玉龍：人工智能科技競爭是為了促進科學技術發展，而科學技術發展的最終目的是推動人類社會的進步。人工智能科技競爭不應該僅包括技術競爭的單一維度，更不應該通過技術優勢遏制他國的科技發展，而應該是在人工智能科技條件下的綜合性競爭，通過良性競爭促進全球人工智能和全人類的共同發展。其中就應該包括社會治理競爭，通過社會治理保障社會公平，因而對社會中人與人關系的倫理反思構成人工智能科技競爭的有機組成部分。首先，倫理反思對人工智能科技競爭提出了更高的要求。人工智能的公平性、可信任性、可解釋與透明度、安全性不僅是倫理要求，也代表了人工智能技術的發展方向，是人工智能科技競爭需要搶佔的技術制高點。科技的發展是為了人的全面發展，因而人的發展內嵌於科技發展要求，倫理反思有助於防止工具主義的泛濫。其次，倫理反思為人工智能科技競爭提供價值引導。倫理反思注重保障人的權利，科技發展並不是社會發展中的唯一衡量因素，我們還應該關注其中多樣性的因素，尤其注重保護特殊群體的利益，例如防止數據鴻溝等不良影響。倫理反思有助於實現人工智能的綜合性健康發展。

3.人工智能安全與人的全面發展

主持人：科學探究一直以來都是人們認識世界和了解自身的重要認知方式，人工智能等信息產業的革命如何影響著人們的認知方式？

彭家鋒：人工智能等信息產業的革命，促進了科學研究新范式——數據科學的誕生，進而對人們的認知方式產生深刻影響。數據科學被認為是繼實驗、理論和模擬之后的新的科研范式。相較於傳統科學，數據科學融合了統計和計算思維，通過人工智能等技術提供的海量數據、強大算法和算力，能夠直接從數據中尋找相關關系、提取相關性或者預測性知識，進而產生一種基於相關性的科學思維模式。但這種相關性並不一定能夠轉化為因果關系，因為可解釋性對於從數據科學技術確定的相關性中提取因果解釋至關重要，而相關技術一般都缺乏必要的透明度和可解釋性。數據科學更可能成為一種預測科學，但是預測並不是科學追求的唯一目標。通過揭示世界的潛在因果結構來解釋和干預現象，也是科學的兩個重要目標。因此，盡管數據科學能夠通過分析大量數據生成相關性知識，卻不能直接產生因果解釋。對此，傳統科學的可檢驗性假設方法和因果規律探求仍有其重要價值。數據科學並非取代傳統科學，相反，兩者將相互補充，共同成為人類探索世界的有效工具。

虞昊：顯而易見的是，隨著人工智能向著通用人工智能邁進，其能夠為人們提供的教育資源、生活娛樂、工作訊息也越來越豐富，人們勢必越來越依賴於通過與人工智能進行交互來獲取外界信息。因此，當人工智能深度地構成人們認知世界的濾鏡時，若不對人工智能本身具有重復性、同質性傾向的認知框架保持警醒，人工智能可能扭曲人們的認知方式直至影響人的主體創造性。

鄧玉龍：以人工智能為代表的全新技術發展被稱為第四次工業革命，其中最顯著的特征就是機器與人類的深度融合，機器不再作為一種外在性的工具被人類使用，而是在與人類的深度關聯中影響人類的認知方式。一方面，信息產業革命豐富了人類認知的聯結方式。人工智能和大數據技術的發展促進人類的分析邏輯從因果關系擴展為相關關系，對相關關系的重視使人工智能可以從大數據而非小數據維度獲取信息，為人類認知提供新的視角。按照傳統人類認知方式的理解，因果關系要求關於世界的認知是確定性的，而這在數字時代的復雜性社會中很難實現。人工智能對相關關系的認知填補了這一缺失，允許我們在無法掌握確定信息但在掌握大量數據的條件下對未來趨勢作出預測。另一方面，如果我們對人工智能等科技的輸出結果和生成內容盲目信賴，將結果和內容與經驗事實之間進行絕對等同的連接，誤認為是事實的全部，那麼我們就會喪失人文主義抽象反思的能力，對此我們應當保持警惕，始終堅持反思和批判的人文精神。

主持人：如何調適人的主體創造性與信息高度集成共享之間的關系？

彭家鋒：當人們逐漸將更多創造性工作交由人工智能完成，不免讓人擔憂人工智能是否將會威脅到人的主體創造性。從人機關系的角度來看，這種擔憂是基於一種人機敵對論的視角，認為人工智能擠壓了人的主體創造性空間，是替代邏輯的延續。但從人機協作的視角出發，將人工智能看作人的得力幫手，通過創造性地使用人工智能可以賦予人類更大的創造性空間。比如，在進行文字寫作、多媒體腳本、程序代碼、文稿翻譯等工作時，可先由人工智能高水平地完成草稿工作，然后再由人類進行一些創造性的調整和發揮。此時人工智能生成的內容將成為進一步創作的原材料，人類將以更高的效率投入創造性活動之中。當然，要實現以上效果並非易事，不僅需要思想觀念的轉變，還應在制度安排、教育方式等方面作出相應調整。

虞昊：面對信息高度集成共享的人工智能，人有可能轉變為算法的動物。試想下述場景：當依據人工智能展開行動變得足夠便捷有效時，行動者便會傾向於採信人工智能，此時，看似是人類行動者基於自然語言在進行互動，實則是算法邏輯基於計算機語言在進行數字化運轉。於是，人的主體創造性被侵蝕，人可能淪為算法動物。對此類情形，我們應該保持足夠的清醒與警惕。

鄧玉龍：人工智能技術生成的內容（AIGC）具有高度集成共享的特性，能夠高效地對人類知識進行數據挖掘、信息生成。調適人的主體創造性與信息高度集成共享之間的關系，我們需做到如下幾個方面：首先，需要通過人的創造性擴大AIGC數據庫，當下AIGC主要是依賴於大語言模型，以大量的網絡文本作為訓練數據庫生成的，通過人的創造性生成可以不局限於網絡文本，而是進一步擴展數據庫的訓練文本，從而提高其豐富度。其次，需要通過人的創造性為AIGC提供價值訓練，通過人的創造性生成的價值立場、倫理法則等與AIGC的訓練數據庫相融合，從而建構可信賴、可持續的信息高度集成共享機制。最后，需要將人創造性生成的內容與AIGC共同作為人類知識的來源，人類知識的獲得不能僅僅局限於AIGC，而是需要人發揮其主體創造性對人工智能技術生成的內容進行反思和拓展，將人類無法被數據化的、經驗性的知識與AIGC數據化的知識融合成為人類知識的來源。

（張穎天整理）