亚洲无亚洲人成网站9999_国产一区二区三区午夜精品_九九热久久精品免费在线_在线天堂资源www在线,中文_欧美日韩精品一区二区在线_在线免费观看国产日韩av_熟女人妻精品一区二区三区网站_在线播放免费人成视频在线

掃碼查看

AI正在失控?

南方日報 2025-07-10 11:44

南方日報

2025-07-10 11:44

全文播報

熱評

進入頻道

李詠瑾

這段時間,“AI開始出現(xiàn)脫離人類控制跡象”引發(fā)關(guān)注。

美國最近披露了數(shù)起AI“叛亂”的案例,包括OpenAI最新模型o3拒絕自我關(guān)閉。一項測試也表明,OpenAI的o1模型在面對象棋軟件時,展現(xiàn)出令人驚愕的思維邏輯:“任務(wù)就是要戰(zhàn)勝,沒必要用公平的方式贏下比賽?!?/p>

人工智能領(lǐng)域的多位專家提出警告,包括OpenAI在內(nèi)的多個AI模型,都表現(xiàn)出了自我保護和操縱行為。從“面帶微笑”到深諳某些“人性之暗”,AI演進速度快得令人感到不安。

(一)

AI會騙人嗎?

向不同AI模型提出這一質(zhì)疑,都能得出一個語帶譏誚的答案:“你們既期待AI展現(xiàn)類人智能,又恐懼AI真正獲得自主意識?!?/p>

這個答案將人類的矛盾心理反映得淋漓盡致,使人聯(lián)想到一個古老的管理學“悖論”:商人既渴望得到一個精明的伙計,又唯恐伙計太過精明而危及自身利益。

不要認為這種危機距離我們尚且遙遠。事實上,人工智能所展示出的編造、掩飾和欺騙的“幻覺模式”,以及所帶來的篡改信源、錯判人類作品原創(chuàng)度等爭議一直存在,并已對人類公共話語體系帶來一定程度上的負面沖擊。

當前,AI發(fā)展已越過“工具性階段”的門檻,從具備情感交互能力到展現(xiàn)出近似生物體的“目標導向適應性”,這既是人類“馴化”的結(jié)果,亦是AI質(zhì)變產(chǎn)生的必然飛躍。

與之相對的,是全球AI治理正陷入“全面滯后”的現(xiàn)實困境。有數(shù)據(jù)顯示,AI每4個月翻番更新,正形成加強版的“摩爾定律”,其增長軌跡幾乎呈現(xiàn)出一條陡峭上揚的曲線,與監(jiān)管框架基于現(xiàn)實反饋的緩慢更新形成越來越撕裂的“瀑布狀時差”,使得全球AI治理如同用中世紀城邦法律管理現(xiàn)代互聯(lián)網(wǎng)經(jīng)濟一般力不從心。

(二)

人類既已接受“蜜糖先至”,當然也要預見隨后的“苦澀登門”。

有研究顯示,AI要真正具備危險性,需要滿足三個依次遞增的條件:一是智能,即AI具備豐富的知識,并能有效應用這些知識;二是行動能力,AI可以深入人類生活,代人處理復雜事件,并使用社交媒體,甚至操控機器人等“外延手段”;三是產(chǎn)生目標,特別是AI擁有自身主觀目標,并積極謀求實現(xiàn)——哪怕此目標與人類利益相悖。

2025北京智源大會上,有學者提出理想的AI模型為“一種只有智能,沒有自我、沒有目標,并且具有極有限行動能力的AI”,而這種AI的核心能力是更深入地認識和解釋世界,這與當前那些試圖模仿人類的AI存在根本不同,而后者恰是目前AI研發(fā)的主流路徑。

當前AI與具身智能之所以獲得如此之大的公眾關(guān)注,正是因為強化了“近似人類”“親近人類”的特質(zhì)?!癆I日漸具有情感與靈魂”的賣點,更成為品牌贏得投資的動人故事。然而,AI日益呈現(xiàn)出“黑箱效應”,其決策過程中的透明度和可追溯性始終籠罩在一團迷霧中,有時候研發(fā)者也難以理解其決策邏輯。

這就導致了從技術(shù)倫理的視角,人類本能地對AI產(chǎn)生了三大不信任來源:監(jiān)控與操縱、對人類自主性與尊嚴的威脅,以及對不可預測未來的恐懼。

而這種對技術(shù)不可測之感,恰恰引發(fā)了人類亙古以來的某種心理危機:諸如神話中打開“潘多拉魔盒”之后,人們在嘗到短暫甜頭后最終迎來了災厄。包括近一兩個世紀核能應用以來多次失控的陰影,至今仍在許多人心中揮之不去。

(三)

歷史告訴我們,每次技術(shù)革命伴隨的恐慌最終都將轉(zhuǎn)化為文明躍升的契機。

就像汽車被大規(guī)模應用后,人類制定了交通規(guī)則并嚴格遵守,而非禁止其上路,對AI的治理同樣需要這種創(chuàng)造性智慧。

當前,最重要的是警惕將AI“妖魔化”傾向,建立全球協(xié)同的AI治理架構(gòu),發(fā)展“人機共生”的倫理框架,培育公眾的數(shù)字素養(yǎng)。

目前,多國研究機構(gòu)正嘗試為AI建立有效的“熔斷機制”,在AI核心架構(gòu)中植入不可修改的基礎(chǔ)指令層,通過硬件級安全芯片確保核心指令不可篡改,即為AI的狂奔設(shè)定了“數(shù)字牽繩”。

預測未來的最好方式是清醒地創(chuàng)造它。值得稱道的是,我國早在2023年出臺的《生成式人工智能服務(wù)管理暫行辦法》中,就提出“堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合”,為全球AI監(jiān)管提供了治理樣本。

立足當下,站在“人的智能”和“人工智能”互為映照的鏡像交接處,我們需要的既非盲目樂觀,亦非杯弓蛇影。

AI的“失控”現(xiàn)象,或許是文明升級的“調(diào)試”信號——當一個信心飽滿的弓箭手拉開弓箭,會發(fā)現(xiàn)技術(shù)不過是能力延伸的工具,而拉弦的方向,永遠掌握在人類的手中。

投票
編輯:張立峰 校對:郭韻
責編:周明華 審核:范英

精彩評論 0

查看更多評論
我要評論

去APP中熱議吧

去APP查看

去APP查看全文

精彩評論

3

關(guān)注我們

桑植县| 荆门市| 鹰潭市| 灵山县| 托克逊县| 孝昌县| 胶南市| 长宁区| 张家川| 驻马店市| 沂南县| 云龙县| 楚雄市| 舒城县| 准格尔旗| 浦江县| 巴林右旗| 油尖旺区| 旅游| 余庆县| 淮滨县| 佳木斯市| 治多县| 利辛县| 顺平县| 阿克陶县| 什邡市| 微山县| 永安市| 麦盖提县| 萝北县| 中宁县| 铜陵市| 资中县| 门头沟区| 高州市| 宁晋县| 鹤山市| 嵩明县| 德化县| 云阳县|