人工智能的知識生產及弊病整治

【學術爭鳴】

編者按

本欄目相繼刊發陳浩《人工智能正在成為知識生產的新力量》、吳小坤《人工智能為何尚未產生真正的知識》、邱澤奇《略論人工智能與知識生產》等文后，圍繞“人工智能究竟能否產出真正意義上的知識”的學術爭鳴持續深入。近期，本版收到不少相關來稿，作者學科不同、領域有異，或聚焦技術能力，或追問知識本質，或關注倫理治理。本期精選兩篇，從功能論與治理論、知識論與主體論兩個角度，繼續推進這一討論。兩文立場有別，卻共同把問題引向深入：人工智能能否生產知識，不隻在於技術能力之爭，更在於知識定義、主體歸屬與治理路徑之辨。歡迎學界圍繞此議題繼續賜稿。

一

人工智能究竟能否產出真正意義上的知識？目前對這個問題有截然不同的看法。肯定者認為，人工智能正在從“處理既有知識”進入“生成認知對象”的環節，正在成為知識生產的新力量。（陳浩：《人工智能正在成為知識生產的新力量》，《光明日報》2026年7月10日）否定者指出，知識生產是一樁屬於主體的事業，今天的AI只是知識內容卓越的加工者與傳遞者，卻還不是知識的生產者。（吳小坤：《人工智能為何尚未產生真正的知識》，《光明日報》2026年7月10日）還有否定者提出，知識是人類認知的產出，人工智能參與其中的每一個環節，都可以追溯到某個人、某個共同體想要理解什麼，其生產主體不屬於機器。（邱澤奇：《略論人工智能與知識生產》，《光明日報》2026年9月4日）在實踐中，運用人工智能生成主題突出、觀點鮮明、邏輯清晰、文字清暢的文章，並非個例。在這個過程中，人工智能分析文本的內容、解讀文本的特色、挖掘文本背后潛藏的意蘊，多少可以彌補和充實人們對文本的理解。正如我們不能也無法否認工廠裡大量機器人代替人干活也是一種干活，十字路口安裝的智能攝像頭代替交通警察抓拍也是一種拍攝一樣，我們不應也不能否認人工智能輸出知識也是知識生產。

早在幾年前，人工智能尚未長出如今“三頭六臂”之時，用其續寫經典小說已經風行網絡，其續寫內容結構之緊湊、情節之曲折，常令人感嘆創意的出人預料和新穎獨到，以至於在一些文化社區和視頻網站引發熱議：人類大部分作家的飯碗是否會被人工智能端走？當前，不斷迭代升級、日新月異的人工智能，憑借其遠超人類的強大學習能力、數據收集整理能力和超強計算、辨別、篩選、歸納能力，已經能夠生成和輸出邏輯嚴密、具備相當應用價值的知識，在某些領域甚至展現出超越一般專家的水准。

上述人工智能知識生產在人文領域取得的成績，只是其強大能力“小試牛刀”的一面，它更突出、更亮眼、堪稱“大顯身手”的表現，是在科研領域破解一系列人類久未攻克和解答的知識難題。例如，人類基因組這本由30億個遺傳字母書寫的“天書”，藏著40億年生命演化的終極密碼，其中僅2%的編碼區能指導細胞制造蛋白質，是科學家已經讀懂的部分，而其他98%的非編碼區掌控著基因的開啟、鏈接與變異，是產生諸多疾病的“隱形元凶”，長期以來無法破譯。英國科學家德米斯·哈薩比斯等運用人工智能模型AlphaFold，成為打開這本“天書”的“超級翻譯官”。哈薩比斯領銜的團隊因對生命科學的“蛋白質折疊”難題取得重要突破，獲得2024年諾貝爾化學獎。

類似這種依靠人工智能模型攻克人類知識難題，遠非寥若晨星的少數現象，而是已呈繁星點點的亮麗景觀。近年來人工智能對數學高端疑難問題的密集突破便是顯例。2026年8月初，OpenAI披露其模型已解決或推動解決10道人類長期未解的數學難題，橫跨高維幾何、編碼理論、群論等多個領域。我國的騰訊混元AI攻克加法組合學難題的過程，已並非簡單依賴大規模文獻檢索或預設的搜索空間，而是由多個智能體分別獨立探索，定期交流各自的思路、反例和結果，再據此不斷調整方向，逐步形成完整的証明框架和研究結論。其過程所展現的，不隻具有驗証已有答案的能力，更有嘗試從不同路徑生成新的猜想、發現關鍵結構並建立論証思路和結論的能力。不得不說，這已經很接近人類數學家的思維特征和研究路徑。

“不管黑貓白貓，捉住老鼠就是好貓。”當人工智能不僅能幫你“捉鼠”，而且能捉到你捉不到的“老鼠”時，你說它不是“捕鼠者”，或說其所捕捉到的不屬於你所認定的“老鼠”，這不是視若無睹，就是罔顧事實。

二

從功能性的角度看，人工智能能夠從事知識生產，甚至能夠超越人類能力破解久懸未決的知識難題，已是無需爭辯的事實。現在分歧的焦點在於，從主體性的角度看，知識生產是人類的主體性行為，人工智能在功能上完成乃至超額完成本屬於人類的認知任務，是否意味著它由此就具有了知識生產的主體地位？

知識作為人類認識主客觀世界所形成的可靠成分及成果，是一個龐大而籠統的概念。它既涵蓋一般生活常識、手藝技能等，也覆蓋對事物的科學研究，即用嚴謹的學術話語對事物進行系統分析和理論闡釋。前者如烹飪技巧、健康養護、桌椅制作等各類生活實用認知，屬於簡單知識﹔后者包括物理定律、化學反應原理等自然科學知識，囊括經濟學理論、歷史發展規律等社會科學知識，屬於復雜知識。從簡單知識到復雜知識，人類知識是一片廣袤無際的星辰大海，不僅飽蘊眾多不同知識門類，以及每個門類的不同知識層次，而且每種知識又經歷了從古到今的漫長發展歷程，不同時段又有不同的內涵、規模和形態。

反對人工智能是知識生產者的觀點認為：知識生產必須有“與實在的接觸。知識不能凌空蹈虛，它要麼扎根於親身的經驗，要麼隨時接受現實的檢驗與修正”，“人要吃飯，於是觀察物候，積累起關於農時的知識。人要避險，於是記錄洪水與地震，積累起關於災害的知識”。他們主張，人工智能沒有這樣的處境和體驗，自然不能成為知識生產的主體。

作為對人類知識由來的追溯，這樣的概括敘說固然不錯，但這只是一種理論層面的總體性描述，落實到每個具體的人的知識由來，其破綻顯而易見。人生難逾百年，相對於歷史之悠久和世界之博大，個人親身經歷、體悟和檢驗的知識，不過是“寄蜉蝣於天地，渺滄海之一粟”。其知識的相當部分甚至大部分的來源，是通過廣泛閱讀學習，包括從小學到大學的學習，從而穿越漫長的時間隧道、打開遼闊的空間天窗，將古往今來的演化嬗變及憂患滄桑、聰明睿智及愚昧教訓等前人的知識積累，融入和吸收到自己腦海之中。也就是說，我們每個人所擁有的知識，並非都是源於親自感受和體驗的直接知識，其相當部分是來自前人積累和傳承的間接知識，人類的知識更新也多半是汲古開今和推陳出新的結果。

既然如此，為什麼人工智能接受人類已有知識信息，經過大數據篩選整合、海量試錯和自主驗証后輸出的內容，不能算是知識生產的結果呢？無人機沒有飛行員駕駛，但它能夠完成載貨運輸、信息傳輸、情報偵察、投彈打擊，以及人類無法完成的超時長巡航等一系列任務，難道我們能否認這是無人機在飛行和完成任務嗎？無可否認，無人機是執行人的指令和按照人規劃的線路飛行﹔但人類飛行員駕駛飛機升空執行各種任務，多半也並非其自主或擅自的行動，而是按照塔台或預警機的指揮航行（塔台和預警機背后可能還有指揮者），我們能由此否認飛機的駕駛者是飛行員嗎？如果我們脫離事物的具體環節和節點去追尋背后的動因，許多問題都可以被不斷地“刨根問底”，最終很容易落入“道生萬物”的虛境，或陷入“人是萬物的主宰”的泥沼。

知識是一種非物質性的文化產品，它雖然依賴刻石、竹帛、書籍、物件、網絡、U盤、數據庫等載體而存在，但在時間上可以永久流傳，在空間上可以無限復制、再現，並可以為不同接受主體共享。英國作家蕭伯納說過：“你有一個蘋果，我有一個蘋果，我們彼此交換，每人還是一個蘋果﹔你有一種思想，我有一種思想，我們彼此交換，每人便擁有兩種思想。”步入人工智能突飛猛進的時代，知識載體的網絡化和雲端化、獲取知識途徑的多元化與便捷化，不僅使知識的共享性特征越來越突出，而且學習和掌握知識不再是人類的專利，人工智能能在更快、更廣、更深的程度上學習和掌握知識﹔同時，生產知識也不再是人類的專有特權，人工智能能夠更高效、更便捷、更全面地生成和輸出不同人群所需要的不同知識——知識學習和生產的人類專屬性時代，正在向人機協同時代轉變。

人工智能早期主要協助學者檢索資料、整理文獻、分析數據、運行計算，扮演的是“外圍打工仔”的角色。當前，人工智能已經能夠自主生成假設、定義問題、規劃方案、實驗驗証，正如有論者指出的，“它開始改變什麼可以被看見、什麼值得被研究、什麼能夠成為知識”，從而成為學者離不開的“內場研究者”。人工智能成為知識生產的新生力量，以及知識快捷傳播和便捷獲取的方式，使人們不再簡單注重知識的擁有，下死功夫飽讀詩書、學富五車的熱情可能會降溫，而增加自己深思明辨的能力，增強向人工智能“提出問題”及運用人工智能“解決問題”的能力，正在成為學術文化界新的追求和潮流。由此，人類對知識的態度，正在從重視擁有向重視運用轉向，從重視賦權向重視賦能遷移。

三

今天，一大批生成式人工智能已經深入我們的日常生活和工作，它們作為人類的助手和伙伴，在極大提升效率和開闊視野的同時，也帶來了原創歸屬模糊、主體責任不清等諸多問題，其中尤以“AI幻覺”問題弊端突出、危害明顯。

“AI幻覺”是指人工智能系統有時會生成看似真實合理，實則虛假編造、無法驗証由來的內容的現象。如詢問某一偏冷門事件的歷史日期，它可能給出貌似准確實則錯誤的答案﹔索要論文引用出處，它可能編造一個根本不存在的文獻。這種無中生有、胡說八道的現象，極易形成以訛傳訛的漫長鏈條，成為信息安全的隱患。

“AI幻覺”之所以會產生，關鍵在於人工智能對於不知道或不確定的事實及問題，不會像人那樣誠實地承認“我不知道”，而是在解讀用戶搜索詞意思的基礎上，強行調動龐大數據庫裡似是而非的相關信息，拼湊、匹配、生成一個看似合理的答案，並以一種鎮定自若、確定無疑的語氣，掩蓋其錯誤甚至荒謬的內容。這種失誤的發生，首先與人工智能學習和吞入海量數據語料的質量相關。人工智能系統依賴大數據運算和推理解答問題，其廣泛吸納的數據中不可避免地包含一些錯誤信息、偏頗觀點和過時內容，它脫離具體語境無法判斷這些信息的真偽，自然容易形成錯誤認識。此外，“AI幻覺”的發生，還與人工智能作為知識儲存和應用的開放平台，時常接受不同用戶模糊、歧義甚至帶有錯誤誘導性的提問有關，它無法像人一樣通過精確理解來辨析問題，加上似乎“無所不知、無所不曉”的功能設計，以及不擅拒絕而擅於迎合的特征，促使其給出不准確的或張冠李戴的回應。

“AI幻覺”現象的產生，表明人工智能的運行並非只是對已有知識數據的簡單梳理和選擇，而是具有一定的推理和應變能力。當用戶提出難以解答的問題時，它會利用所掌握的海量知識資源，圍繞核心內容編造生成貌似正確的內容，以完成似乎“有求必應”的應答。正如人類對事物的認識多半要經歷由淺入深、由知之甚少到知之甚多的過程，其間少不了試錯、糾正、改善的步驟一樣，人工智能在回答問題和解決疑難時產生一些過失甚至謬誤，既屬於需要認真對待的問題，又是不必大驚小怪的現象。這既從反面說明人工智能運用其掌握的海量數據和推理邏輯參與了知識生產，又提醒我們在看到人工智能重塑人類學術研究和生活方式的同時，重視“AI幻覺”等弊端帶來的伴生和次生災害，採取有效舉措加以防治和改善。

首先，在技術層面構筑防御屏障。可改進模型架構和訓練思路，如採用“檢索增強生成”技術，優先調用權威知識庫信息﹔開發“篩查校驗過濾”系統，交叉檢驗文本、圖像、音頻等信息的真實性，實時識別和篩除虛假數據，以提高輸出內容的可靠性。其次，在管理層面完善規范機制。國家網信辦、工信部等部門發布的《人工智能生成合成內容標識辦法》，明確要求由人工智能生成合成的文本、圖片、音頻、視頻、虛擬場景等信息，自2025年9月起要用“顯式標識”或“隱式標識”的方式注明，目前關鍵是要落實到位，以幫助用戶了解內容來源和可信程度。最后，在社會層面提升國民素養。提升公眾對人工智能的認知水平，對其保持清醒認識和合理預期，養成多元驗証和獨立思考的習慣，以更好利用人工智能為建設美好生活服務。

總之，面對“AI幻覺”等發展過程中的弊病及挑戰，我們既不能否定人工智能對推動社會進步的巨大作用，也不能忽略其安全風險。隻有雙管齊下，既推進其演化更新，又加強治理以提升其內容品質，才能以人工智能的高水平運行促進經濟社會的高質量發展。

（作者：錢念孫，系安徽省中國特色社會主義理論體系研究中心研究員、安徽省社會科學院研究員）