李詠瑾
這段時間，“AI開始出現(xiàn)脫離人類控制跡象”引發(fā)關(guān)注。
美國最近披露了數(shù)起AI“叛亂”的案例，包括OpenAI最新模型o3拒絕自我關(guān)閉。一項測試也表明，OpenAI的o1模型在面對象棋軟件時，展現(xiàn)出令人驚愕的思維邏輯：“任務(wù)就是要戰(zhàn)勝，沒必要用公平的方式贏下比賽?！?/p>
人工智能領(lǐng)域的多位專家提出警告，包括OpenAI在內(nèi)的多個AI模型，都表現(xiàn)出了自我保護和操縱行為。從“面帶微笑”到深諳某些“人性之暗”，AI演進速度快得令人感到不安。
（一）
AI會騙人嗎？
向不同AI模型提出這一質(zhì)疑，都能得出一個語帶譏誚的答案：“你們既期待AI展現(xiàn)類人智能，又恐懼AI真正獲得自主意識?！?/p>
這個答案將人類的矛盾心理反映得淋漓盡致，使人聯(lián)想到一個古老的管理學“悖論”：商人既渴望得到一個精明的伙計，又唯恐伙計太過精明而危及自身利益。
不要認為這種危機距離我們尚且遙遠。事實上，人工智能所展示出的編造、掩飾和欺騙的“幻覺模式”，以及所帶來的篡改信源、錯判人類作品原創(chuàng)度等爭議一直存在，并已對人類公共話語體系帶來一定程度上的負面沖擊。
當前，AI發(fā)展已越過“工具性階段”的門檻，從具備情感交互能力到展現(xiàn)出近似生物體的“目標導向適應性”，這既是人類“馴化”的結(jié)果，亦是AI質(zhì)變產(chǎn)生的必然飛躍。
與之相對的，是全球AI治理正陷入“全面滯后”的現(xiàn)實困境。有數(shù)據(jù)顯示，AI每4個月翻番更新，正形成加強版的“摩爾定律”，其增長軌跡幾乎呈現(xiàn)出一條陡峭上揚的曲線，與監(jiān)管框架基于現(xiàn)實反饋的緩慢更新形成越來越撕裂的“瀑布狀時差”，使得全球AI治理如同用中世紀城邦法律管理現(xiàn)代互聯(lián)網(wǎng)經(jīng)濟一般力不從心。
（二）
人類既已接受“蜜糖先至”，當然也要預見隨后的“苦澀登門”。
有研究顯示，AI要真正具備危險性，需要滿足三個依次遞增的條件：一是智能，即AI具備豐富的知識，并能有效應用這些知識；二是行動能力，AI可以深入人類生活，代人處理復雜事件，并使用社交媒體，甚至操控機器人等“外延手段”；三是產(chǎn)生目標，特別是AI擁有自身主觀目標，并積極謀求實現(xiàn)——哪怕此目標與人類利益相悖。
2025北京智源大會上，有學者提出理想的AI模型為“一種只有智能，沒有自我、沒有目標，并且具有極有限行動能力的AI”，而這種AI的核心能力是更深入地認識和解釋世界，這與當前那些試圖模仿人類的AI存在根本不同，而后者恰是目前AI研發(fā)的主流路徑。
當前AI與具身智能之所以獲得如此之大的公眾關(guān)注，正是因為強化了“近似人類”“親近人類”的特質(zhì)?！癆I日漸具有情感與靈魂”的賣點，更成為品牌贏得投資的動人故事。然而，AI日益呈現(xiàn)出“黑箱效應”，其決策過程中的透明度和可追溯性始終籠罩在一團迷霧中，有時候研發(fā)者也難以理解其決策邏輯。
這就導致了從技術(shù)倫理的視角，人類本能地對AI產(chǎn)生了三大不信任來源：監(jiān)控與操縱、對人類自主性與尊嚴的威脅，以及對不可預測未來的恐懼。
而這種對技術(shù)不可測之感，恰恰引發(fā)了人類亙古以來的某種心理危機：諸如神話中打開“潘多拉魔盒”之后，人們在嘗到短暫甜頭后最終迎來了災厄。包括近一兩個世紀核能應用以來多次失控的陰影，至今仍在許多人心中揮之不去。
（三）
歷史告訴我們，每次技術(shù)革命伴隨的恐慌最終都將轉(zhuǎn)化為文明躍升的契機。
就像汽車被大規(guī)模應用后，人類制定了交通規(guī)則并嚴格遵守，而非禁止其上路，對AI的治理同樣需要這種創(chuàng)造性智慧。
當前，最重要的是警惕將AI“妖魔化”傾向，建立全球協(xié)同的AI治理架構(gòu)，發(fā)展“人機共生”的倫理框架，培育公眾的數(shù)字素養(yǎng)。
目前，多國研究機構(gòu)正嘗試為AI建立有效的“熔斷機制”，在AI核心架構(gòu)中植入不可修改的基礎(chǔ)指令層，通過硬件級安全芯片確保核心指令不可篡改，即為AI的狂奔設(shè)定了“數(shù)字牽繩”。
預測未來的最好方式是清醒地創(chuàng)造它。值得稱道的是，我國早在2023年出臺的《生成式人工智能服務(wù)管理暫行辦法》中，就提出“堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合”，為全球AI監(jiān)管提供了治理樣本。
立足當下，站在“人的智能”和“人工智能”互為映照的鏡像交接處，我們需要的既非盲目樂觀，亦非杯弓蛇影。
AI的“失控”現(xiàn)象，或許是文明升級的“調(diào)試”信號——當一個信心飽滿的弓箭手拉開弓箭，會發(fā)現(xiàn)技術(shù)不過是能力延伸的工具，而拉弦的方向，永遠掌握在人類的手中。
【未經(jīng)授權(quán)，嚴禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
