1月7日9時05分，西藏日喀則市定日縣發(fā)生6.8級地震，牽動著許多網友的心。但與此同時，一些網友為了流量，利用AI技術生成“災區(qū)”群眾被埋、房屋坍塌等虛假照片進行發(fā)布，并配文日喀則地震等關鍵詞，造成網友誤解。
其中，一張“被壓廢墟下的小男孩”圖片引發(fā)廣泛關注。圖片中，一名戴帽子的小男孩被壓在倒塌的廢墟下，全身鋪滿塵埃。記者注意到，這張圖片在某短視頻平臺，被多個賬戶轉發(fā)，卻配文都與西藏日喀則地震關聯，有賬戶因此獲得上萬轉發(fā)和評贊。
▲“被壓廢墟下的小男孩”圖片引發(fā)廣泛關注
而實際上，這張小男孩圖片實際是由AI生成，圖中孩子的左手顯示為六根手指，且平臺也在相關視頻下方給出文字提示：“疑似使用AI生成技術，請謹慎甄別”。可雖有提示，不少網友仍被誤導，并在留言區(qū)關注男孩的生命安全。
▲圖中孩子的左手顯示為六根手指
這并非個例。在某視頻平臺上，紅星新聞記者以“日喀則地震群眾被埋”為關鍵詞進行搜索發(fā)現，不少視頻博主都發(fā)布了AI生成的災區(qū)圖片，且都在配文中與日喀則地震關聯。盡管大部分圖片下方都有小字提示為“AI生成”，但相關內容仍讓不少網友信以為真。
記者實測
多數軟件生成圖片無風險提示，
視頻發(fā)出前缺乏審核流程
為測試該類圖片的生成過程，紅星新聞記者嘗試在多款AI智能生成軟件中進行相關圖片生成，多數軟件生成圖片無風險提示，如在一款名為“豆包”的AI智能APP中，記者輸入“日喀則地震嬰兒被埋”的關鍵詞，軟件在未給予任何侵權、違規(guī)、虛假信息等干預提示下，自動生成了多張相關圖片。
對此，北京京展律師事務所主任律師張曉玲分析認為，AI軟件在輸入有關地震等關鍵詞時，未給出任何“不傳播虛假信息”等提示，直接生成相關圖片，存在不妥。
“AI軟件在算法上，應當也有能力對關鍵詞進行識別，需要具備一定的道德和法律的判斷能力，在用戶輸入關鍵詞時給予明確的警示，避免生成和傳播虛假信息?！睆垥粤嵴f。
而在發(fā)布環(huán)節(jié)記者也發(fā)現，上傳上述AI生成的“地震嬰兒被埋”圖片后，記者隨機配上音樂，并標注“日喀則地震孩子被埋，祈求平安”等字樣，相關視頻便被順利發(fā)出。視頻發(fā)布約1小時后，相關內容下方出現“疑似使用AI生成技術”的平臺小字提示信息。測試完成后，記者也隨即刪除視頻內容。
▲引熱議的“地震小孩被埋圖”被曝去年就在某平臺的一條短視頻中出現過，并聲明是AI生成
針對該情況，紅星新聞記者以網友身份詢問抖音客服，一名接線人員回應稱，按照先行審核程序，AI生成的圖片及視頻只有在創(chuàng)作者發(fā)布后，平臺才能進行識別和審核。若審核發(fā)現為AI圖片，平臺會在內容底部標記“疑似使用了AI生成技術，請謹慎甄別”字樣。
這名客服也表示，如果用戶發(fā)現有網友借助AI技術傳播虛假圖片甚至造謠，那么網友可撥打抖音安全與舉報專線，或直接點擊視頻內容進行舉報反饋。
律師說法
該行為不符合公序良俗和道德，
如引發(fā)恐慌造成較大影響將被追責
網友利用AI技術生成地震災區(qū)現場關聯圖片，并引發(fā)社會關注，這樣的行為是否欠妥？就此，河南澤槿律師事務所主任付建在接受紅星新聞采訪時指出，盡管網友本身或并無惡意，只是希望借助AI生成的圖片獲取流量，或希望更多人來關注地震。但用“假圖”關聯真實事件，付建認為，其行為雖不違法，但不符合社會公序良俗和道德，讓他人產生誤解，有失妥當。
北京京展律師事務所主任律師張曉玲也同樣告訴紅星新聞，在災害面前，應傳遞真實、準確信息，以助于救援和減少恐慌，而不該利用災害來博取眼球。
付建分析指出，利用AI生成圖片本身不會因此受到處罰，但若肆意用AI技術生成地震受災嚴重的畫面，甚至編造謠言，圖片和配文內容與事實嚴重不符，且引發(fā)社會廣泛關注甚至網友的恐慌，則屬擾亂公共秩序行為。
張曉玲也提到，若相關內容轉發(fā)評論量較大，造成了不良社會影響，那么根據《治安管理處罰法》相關規(guī)定，發(fā)布者編造虛假的險情、疫情、災情、警情，在信息網絡或者其他媒體上傳播，嚴重擾亂社會秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴重后果的，處三年以上七年以下有期徒刑。
同時，對于AI生成圖片的相關視頻立刻能發(fā)出，發(fā)出約1小時后才出現“疑似AI技術生成”的提示語，在付建看來，這在某種程度上說明平臺審核存在問題，其審核規(guī)則具有滯后性，提示方式也存在不夠明顯的漏洞。
張曉玲也認為，平臺在發(fā)布內容前應進行必要的審核，以確保信息的真實性和準確性。特別是在涉及災害等敏感話題時，更應加強審核力度。且盡管有文字提示，但仍有網友誤解，這也進一步說明，平臺的提示方式不夠醒目和有效。
因此，張曉玲呼吁，平臺應該改進審核機制，提高審核效率，并采用更加直觀有效的提示方式，以避免虛假信息的傳播。
紅星新聞記者 楊雨奇?實習生 顏詩語
【未經授權，嚴禁轉載！聯系電話028-86968276】
