智能體自主決策錯誤的責任主體與邊界

【析理論道】

“即便人類已經明確發出終止指令，智能體也未必會立刻終止其行動”，這是近期智能體失控事件的真實寫照。這類事件所揭示的風險在於：智能體不再停留在生成式AI的內容建議層面，而是將內部不確定的概率判斷轉化為網絡空間具有法律效果的行為結果。以網購為例，若用戶授權許可智能體代為購買特定食品，智能體會根據用戶過去購買同類食品的時間間隔、品牌等數據直接下單，而無需用戶親自操作。這種高度自主的執行特征，使得智能體市場前景備受關注，但也引發一個全新法律問題：智能體的購買決策是否具有法律效力？如果一概否認，意味著智能體與以往按固定步驟執行的機器化自動執行程序無異，這顯然與智能體自主性特征相悖﹔但若全面認可，又會陷入“智能體能夠被視為獨立的民事法律主體”等更深層的法律問題。

更為棘手之處在於，目前我們在技術層面尚無法保証智能體作出完全正確的自主決策。那麼，當智能體自主決策錯誤時，法律究竟應該優先保護“善意相對人”還是用戶？當智能體因外部網絡攻擊、內部算法缺陷等主客觀原因導致作出違背用戶意願的自主決策時，倘若不加區分地允許用戶撤銷、變更合同，會使得交易相對方時刻處於交易不確定的狀態。因此，在判斷智能體自主決策的法律效力時，應重在判斷這種決策的作出在多大程度上受人類意志的影響﹔相應地，在法律效力層面採取完全肯定或者完全否定的判斷邏輯，均無法反映智能體自主決策過程的特殊性。

在現行民法體系下審視，智能體的自主決策活動既不屬於民事代理，也不屬於民事委托。一方面，從民事代理角度看，智能體不具有民法意義上的法律主體地位，不能成為以“法律主體”為前提的代理人。民事代理制度的目的之一，是延伸民事主體的“實際行為能力”，擴張其自由意志，即借由代理人實現跨空間、跨時間的民事活動﹔民事代理制度的另一目的，是實現“專業的人干專業的事”，即被代理人在個人專業能力不足的情況下，由其信賴的代理人以其名義從事更為專業的民事活動。而智能體的自主決策以環境數據、用戶行為數據為基礎，其底層依賴的大模型也是以人類既有知識信息為訓練數據，故而既談不上從事具有創新性、相對獨立性的代理活動，也談不上具有實踐層面的專業技能。另一方面，從民事委托角度看，智能體的自主決策在外觀層面確實符合“委托人（用戶）委托智能體從事特定的民事活動”之特點，但在制度要件層面卻存在根本性沖突。受托人是以自己的名義從事民事活動，而智能體顯然無法直接以自己名義從事民事活動﹔民事委托是合同關系，而智能體並不具備對外作出明確意思表示和獨立承擔法律責任的能力，所謂的“委托合同”實際上被用戶與服務提供者之間的信息服務合同所取代。

由此可知，在現行民法體系下，智能體的自主決策應當被視為民法意義上意思表示的特殊形態。目前，智能體的應用場景主要包括兩類，一類是輔助個人實現辦公自動化，另一類是幫助個人或企業用戶進行特定民事法律行為。探討智能體自主決策有無產生法律效果，主要涉及后一類場景。意思表示是能力適格者將意欲發生私法上效果的內心意思表示於外部的行為，包括目的意思要件、效果意思要件和表示行為要件。具體到智能體的自主決策，第一，在目的意思要件方面，只要用戶能夠對智能體功能效果有足夠且明確的認知，即可認定智能體的自主決策包含用戶完整的目的意思。如在商貿活動中，智能體根據抓取的近期產品市場價格波動數據，根據用戶事前的授權操作，自主向交易相對方發送電子郵件提出最符合近期市價的報價。此時，由於用戶事前已確定交易相對方范圍、標的、數量、價格等具體信息，智能體自主決策發送報價郵件的行為足以體現用戶的意思表示內容完整。第二，在效果意思要件方面，只要用戶在明知或應當知道智能體存在客觀技術局限性的背景下，仍然選擇主動安裝該應用程序，就可以合理推定用戶存在主動追求通過智能體進行表意，進而達成設立、變更、終止民事法律關系的目的。第三，在表示行為要件方面，用戶接受智能體獲取用戶終端的操作權限、用戶下單並支付相應價款等均可視為智能體以明示方式幫助用戶作出內容完整、表意明確的意思表示。此外，沉默一般不能作為意思表示的方式。

因此，智能體自主決策的法律責任承擔方式，需要結合個案，判斷用戶、服務提供者乃至安裝者的法律責任承擔方式。對於用戶而言，在安裝和設置智能體訪問權限時，應當負有一定的謹慎義務，即理性設置其他應用程序和本地數據的調用訪問權限。智能體具有一定的專業技術門檻，且智能體的安裝設置方式包括用戶自行或委托他人安裝和服務提供者提供商業化的智能體應用程序，一概要求用戶承擔自主決策錯誤導致的不利后果缺乏公平性。因此，智能體自主決策錯誤的法律效果還涉及研發者、服務提供者以及安裝者的違約或侵權責任。對於研發者而言，如若以開源方式公開提供智能體相關的開源項目，則不需要對自主決策錯誤導致的用戶損害結果承擔法律責任。對於服務提供者而言，其是否應當對用戶因智能體自主決策錯誤所造成的損害結果承擔違約或侵權責任，則需要綜合考量其智能體信息服務的提供方式。具體包括三個方面的判斷要素：一是在用戶安裝和使用時，是否以明確顯著、清晰易懂的方式告知用戶智能體的實際功能、技術風險以及對用戶個人權益的影響。二是在用戶選擇是否開放其他應用程序的調用程序時，是否以多次彈窗等方式提示和告知用戶慎重選擇。三是在用戶選擇設置敏感數據開放權限、允許自主付款等關鍵操作權限時，是否以明確方式及時告知用戶有關智能體自主決策的具體情況。

當前，AI智能體在為人們的工作生活帶來便利的同時，也使既有法律關系趨於不確定，並推動基礎法律概念的內涵與外延不斷擴展。在法治實踐中，有必要全面審慎地評估智能體自主決策錯誤的成因，厘清民事法律主體的注意義務邊界，推動構建系統完備的法律法規體系，以數智時代的良法善治，促進技術發展、權利保障與經濟增長實現良性互動。

（作者：趙精武，系北京航空航天大學法學院副教授）