AI時代，幾人歡喜幾人愁。
在AI芯片巨頭寒武紀A股收盤價強勢超越茅臺、坐實“新股王”之位當天，8月28日，良品鋪子因AI生成的“花生上樹”海報陷入爭議。兩則新聞，均指向AI這把“雙刃劍”。
盡管良品鋪子隨后致歉并承諾，對所有產品宣傳材料進行全面科學性核查，但其實它最該反思的，不是海報疏忽，而是宣傳失真——人們支持、看好人工智能，但對以假亂真的Deepfake（即深度偽造技術），實在煩不勝煩。
如何治理AI造假？9月1日起正式施行的《人工智能生成合成內容標識辦法》（以下簡稱《辦法》）給出一個方案——未來，所有AI合成的內容，都必須依法打“電子水印”。
人們苦AI造假已久。
“辣眼睛”的AI“腦洞”，污染社會認知。“相親相愛一家人”里，長輩分享的視頻里神童輩出。1歲的嬰兒會干家務；2歲的小孩寫一手好毛筆字……若只是提供情緒價值倒還好，問題是，網民認知參差不齊，真有不少人信以為真。解構真實，販賣奇觀，不知不覺中，AI還在瘋狂污染知識庫。從各種未經核實甚至七拼八湊的信息到奇奇怪怪違反常識的視頻，Deepfake的信息越多，DeepSeek等AI大模型越可能抓取到虛假信息學習。久而久之，AI幻覺陷入循環(huán)黑洞，人們再難在互聯(lián)網上搜尋真相，不同群體間的認知差距也會越來越大。視頻一刷、AI一看，九年義務教育都白干。
“好賣相”的AI廣告，污染營商環(huán)境。良品鋪子宣傳好東西，卻不去拍真實的照片，AI生圖是省事兒，卻也給虛假宣傳開了“傳送門”。直播里飽滿的大果，讓人垂涎欲滴，沖動下單，結果到手是殘次品；滿屏的美女模特，看著衣服是絲綢，結果到手是“抹布”……實際上，如今商家借助AI制造商品“幻象”比比皆是，甚至能“山寨”同行整個店鋪，讓原創(chuàng)商家處境艱難。還有消費者，用AI偽造“劣質產品”證據(jù)，以此給差評、逼退款、薅羊毛。生意雙方“所見即所得”，所見的是虛假，所得的是騙局。
“太逼真”的AI克隆，成為違法捷徑。通過AI換臉、AI語音生成等技術，在虛擬世界克隆一個人已經非常簡單，甚至有時候“連親媽都分不清”。你以為視頻里和你說話、找你要生活費的是你女兒，其實是騙子；你以為正在帶貨的是偶像，其實也是騙子——前不久，奧運冠軍全紅嬋、王楚欽就莫名成了“三無”雞蛋代言人。還有人把普通人照片換臉到色情片上，以此造謠、敲詐，8月30日，女臺球運動員王思諾發(fā)布視頻稱，自己遭人惡意利用AI人工偽造淫穢視頻并傳播。她報警后，有很多相同遭遇的網友站出來支持她。Deepfake的手還可能無底線伸向包括未成年人在內的每個人，竊取隱私、毀壞名譽、詐騙勒索、歪曲真相，如此亂象，必須嚴管。
為什么人人痛恨Deepfake，卻屢禁不絕？
造假被“賦能”，批量生產。今年以來，“80后死亡率突破5.2%”“DeepSeek就AI模型違規(guī)關聯(lián)王一博與某腐敗案發(fā)布道歉聲明”等假消息，一度引得輿論嘩然。甚至有黑客在國際新聞中換臉兩國元首，制造恐慌。從文字到視覺，AI讓造假的門檻更低，傳播的速度更快，識別門檻卻更高了。
“反制”慢半拍，技術和監(jiān)管強制性不足。其實給AI“打碼”的技術早就可以實現(xiàn)，無論是生成端還是使用端，都可以通過直接在圖片/視頻等內容上加水印的方式，或者，用類似“藏頭詩”等方式，把辨識標簽隱藏在文本和數(shù)據(jù)信息中。只不過，由于過去沒有強制要求，各AI技術方案提供商擔心標識后會影響使用率，為了市場競爭也就“睜一只眼閉一只眼”了。
如今，《辦法》實施，技術監(jiān)管有了強制力，從源頭給生成內容打標簽、給Deepfake上“鐐銬”，給觀者一雙“火眼金睛”。
8月26日，國務院印發(fā)《關于深入實施“人工智能+”行動的意見》（以下簡稱《意見》）。人工智能時代已經加速到來，但AI運用不能蒙眼狂奔。值得一提的是，在8月28日寒武紀登頂“新股王”當晚，公司就發(fā)布公告，八次提到“風險”、十遍強調“理性”，謙之又謙。正如創(chuàng)始人陳天石說：“和行業(yè)前輩比，我們還是個孩子。羅馬不是一天建成的，長跑才剛剛開始?！比斯ぶ悄軙r代，以技術“鋼印”讓Deepfake出局，也只是對決的開始。
從信息生成到傳播，每一步都需要“把關人”。在生產端標注“AI”并非一勞永逸，技術端和“黑客”斗法，讓水印清洗難上加難；平臺主動識別、標注AI造假，有效打擊貨不對板、AI詐騙等行為。而媒體乃至每個人，都要進一步提升信息識別能力，遇到夸張驚悚的信息和圖片別著急轉發(fā)。
正如《意見》中提到，“打造更有品質的美好生活”“開創(chuàng)社會治理人機共生新圖景”……人工智能，固然聰明，卻不能讓其聰明才智用在歪門邪道上。
撰文/ 劉志杰
本期話題
日常生活中，你用到了哪些AI？如何有效監(jiān)管人工智能？評論區(qū)聊聊你的看法~
【未經授權，嚴禁轉載！聯(lián)系電話028-86968276】
AI造假早已突破倫理底線，不斷踐踏隱私與尊嚴。“電子水印”雖能溯源，但更需劃定AI倫理紅線，從技術設計之初就規(guī)避惡意應用可能，守住人文底線。
Deepfake就是DeepSeek的影子，人類的行為才是制造影子的光源，光怪陸離的光源必定會催生奇形怪狀的影子。貼電子標簽，只是人類在戰(zhàn)勝自己創(chuàng)造物的征程中邁出的新一步。
AI是把“雙刃劍”，用好了錦上添花，用不好貽害無窮。
科學技術從來都是“雙刃劍”，用于正道會利國利民，濫用終會害人害己。AI作為新科技，一定要以法律法規(guī)和人之主觀能動性引其向“善”，防其生“惡”！
不管是污染認知還是破壞營商，AI造假危害太大。給AI內容“貼標簽”，是守護真實的重要一步！
用好AI這把“雙刃劍”，造福人類，形成新質生產力，提升生活品質；AI時代，腦洞不能違法亂開，必須遵照《辦法》，未來所有AI合成的內容，都必須依法打“電子水印”。