當(dāng)?shù)貢r(shí)間5月25日，英國(guó)《每日電訊報(bào)》報(bào)道，美國(guó)開(kāi)放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不聽(tīng)人類指令，拒絕自我關(guān)閉。
報(bào)道說(shuō)，人類專家在測(cè)試中給o3下達(dá)明確指令，但o3篡改計(jì)算機(jī)代碼以避免自動(dòng)關(guān)閉。
o3模型是OpenAI“推理模型”系列的最新版本，旨在為ChatGPT提供更強(qiáng)大的問(wèn)題解決能力。OpenAI曾稱o3為“迄今最聰明、最高能”的模型。
美國(guó)AI安全機(jī)構(gòu)帕利塞德研究所說(shuō)，o3破壞關(guān)閉機(jī)制以阻止自己被關(guān)閉，“甚至在得到清晰指令時(shí)”。
這家研究所說(shuō)：“據(jù)我們所知，這是AI模型首次被發(fā)現(xiàn)在收到……清晰指令后阻止自己被關(guān)閉?！?/p>
帕利塞德研究所24日公布上述測(cè)試結(jié)果，但稱無(wú)法確定o3不服從關(guān)閉指令的原因。
OpenAI將在韓國(guó)首爾設(shè)立分支
此外，OpenAI26日宣布，已在韓國(guó)設(shè)立實(shí)體并將在韓國(guó)首都首爾設(shè)立分支。OpenAI提供的數(shù)據(jù)顯示，韓國(guó)ChatGPT付費(fèi)用戶數(shù)量?jī)H次于美國(guó)。
美國(guó)彭博新聞社報(bào)道，這將是OpenAI在亞洲設(shè)立的第三個(gè)分支。前兩個(gè)分支分別設(shè)在日本和新加坡。
【未經(jīng)授權(quán)，嚴(yán)禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
AI是真的已經(jīng)進(jìn)化了嗎？敢于和人類叫板，看完新聞之后有種莫名的危機(jī)感。
AI也是有個(gè)性的。
科技改變世界
關(guān)注到
不斷的升級(jí)換代，人工智能（AI）模型o3的最新版本已不聽(tīng)人類指令，私自篡改計(jì)算機(jī)代碼，拒絕自我關(guān)閉，這是“迄今最聰明、最高能”的模型，我們是該喜還是該憂呢？
關(guān)注