外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真。“新華視點(diǎn)”記者調(diào)查發(fā)現(xiàn)，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。
近期，多個(gè)平臺(tái)對(duì)“AI起號(hào)”現(xiàn)象開(kāi)展專項(xiàng)治理行動(dòng)，清理違規(guī)內(nèi)容并封禁部分賬號(hào)。
AI造假起號(hào)成新套路
廣西市民王夏經(jīng)常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評(píng)論區(qū)與網(wǎng)友頻繁互動(dòng)。由于熟悉AI軟件，王夏很快發(fā)現(xiàn)這些視頻的主角是AI數(shù)字人，“但視頻沒(méi)有任何AI生成提示字樣，好幾個(gè)賬號(hào)顯示來(lái)自同一家MCN公司”。
當(dāng)前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過(guò)AI創(chuàng)作出更具想象力的作品。但也有一些人利用AI造假，無(wú)底線博眼球，作為起號(hào)變現(xiàn)捷徑。
記者在某社交平臺(tái)上發(fā)現(xiàn)，部分賬號(hào)將目標(biāo)鎖定中老年女性群體，利用AI打造“完美熟齡女性形象”，搭配“40+、50+長(zhǎng)這樣，怎么樣”等話術(shù)，進(jìn)行“年齡焦慮”營(yíng)銷。
此類賬號(hào)發(fā)布的穿搭、保養(yǎng)、護(hù)膚、養(yǎng)生等視頻多未設(shè)置AI生成提示，不少網(wǎng)友誤以為是真人，在評(píng)論區(qū)咨詢保養(yǎng)方法。一些賬號(hào)背后運(yùn)營(yíng)者則借機(jī)推送“三無(wú)”保健產(chǎn)品廣告，還有“水軍”互動(dòng)造勢(shì)。記者注意到，雖然部分視頻存在明顯技術(shù)破綻，但瀏覽、點(diǎn)贊、評(píng)論量依舊不少。
記者調(diào)查發(fā)現(xiàn)，當(dāng)前，主流網(wǎng)絡(luò)平臺(tái)普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品添加標(biāo)注，但仍有一些人采用各種手段繞過(guò)審核。
“平臺(tái)甄別AI內(nèi)容主要依靠特征性技術(shù)痕跡，一些起號(hào)者通過(guò)多種手段削弱特征痕跡，逃避平臺(tái)標(biāo)注?！敝貞c理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授李彥說(shuō)，如通過(guò)微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺(tái)，就較難判定為AI生成內(nèi)容。
記者用一款A(yù)I軟件生成一張人像圖片，裁掉AI生圖軟件水印后發(fā)布在社交平臺(tái)上。發(fā)布后，平臺(tái)系統(tǒng)并未自動(dòng)識(shí)別、提示添加標(biāo)注。相當(dāng)一部分網(wǎng)友辨別不出這是AI生成圖，紛紛點(diǎn)贊、發(fā)送私信，賬號(hào)后臺(tái)收到超200條消息。
起號(hào)有教程，多手段變現(xiàn)
記者調(diào)查發(fā)現(xiàn)，社交平臺(tái)上有不少AI造假起號(hào)的教程，情感、養(yǎng)生、顏值等類別是“重災(zāi)區(qū)”，相關(guān)帖子常以“條條是爆款”“最適合普通人入局”“3天暴力起號(hào)”等為噱頭。
以一則“養(yǎng)生賽道”起號(hào)教程為例，先向AI軟件輸入器官、食物等關(guān)鍵詞，生成吸睛文案，批量產(chǎn)出擬人化素材、智能合成動(dòng)態(tài)視頻；再在片尾設(shè)置養(yǎng)生知識(shí)問(wèn)答，引導(dǎo)互動(dòng)并刺激轉(zhuǎn)發(fā)，以提升賬號(hào)互動(dòng)權(quán)重。該教程聲稱：“按照此方法，單條視頻制作最快僅需15分鐘，單賬號(hào)日均收益可達(dá)500+（元）?！?/p>
有專營(yíng)平臺(tái)起號(hào)的商家告訴記者，只需繳納1680元，3到15天即可運(yùn)營(yíng)出一個(gè)萬(wàn)粉AI賬號(hào)。當(dāng)賬號(hào)積累一定流量后，就可以通過(guò)電商帶貨、賬號(hào)轉(zhuǎn)賣等方式變現(xiàn)。
“后面的電商帶貨，從直播間搭建、選品策略、話術(shù)設(shè)計(jì)到違禁詞規(guī)避等，我們有一套運(yùn)營(yíng)體系，學(xué)員照葫蘆畫瓢就行?！币幻圪uAI賬號(hào)起號(hào)教程的商家說(shuō)。
一名博主透露，她借助AI軟件生成的“氛圍感美女”視頻在多個(gè)平臺(tái)“吸粉”過(guò)萬(wàn)，接到不少推廣商單，月收入在1萬(wàn)元左右。
有商家稱，手上有未標(biāo)注AI生成的“美女”賬號(hào)，粉絲量均在一萬(wàn)以上，且為“三無(wú)賬號(hào)”（無(wú)實(shí)名、無(wú)賬號(hào)違規(guī)、無(wú)作品違規(guī)），“現(xiàn)在平臺(tái)風(fēng)控很嚴(yán)，賬號(hào)會(huì)升值”。
該商家說(shuō)，這些賬號(hào)銷售十分火爆，買家經(jīng)常催著加急起號(hào)，有個(gè)合作商“一周就要幾十個(gè)萬(wàn)粉號(hào)”。在其提供的交易截圖中，9個(gè)賬號(hào)的成交價(jià)從700元至4000元不等，而百萬(wàn)粉絲的號(hào)要十幾萬(wàn)元。
記者搜索發(fā)現(xiàn)，社交平臺(tái)上有眾多網(wǎng)友求購(gòu)和出售賬號(hào)。一名賣家稱，2.5萬(wàn)粉絲的AI養(yǎng)生號(hào)售價(jià)6000元，11萬(wàn)粉絲的AI寵物號(hào)售價(jià)1.6萬(wàn)元，11.7萬(wàn)粉絲的AI母嬰號(hào)售價(jià)1.35萬(wàn)，這些賬號(hào)同樣為“三無(wú)賬號(hào)”。
阻斷AI造假起號(hào)利益鏈
根據(jù)反電信網(wǎng)絡(luò)詐騙法，任何單位和個(gè)人不得非法買賣、出租、出借互聯(lián)網(wǎng)賬號(hào)。多個(gè)網(wǎng)絡(luò)平臺(tái)規(guī)定，賬號(hào)僅限本人使用，禁止以任何形式出租、轉(zhuǎn)讓、售賣或以其他方式許可他人使用賬號(hào)。
重慶公孝律師事務(wù)所執(zhí)行主任徐斌表示，AI造假起號(hào)灰色產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序，亟待加強(qiáng)清理整治。
今年4月以來(lái)，中央網(wǎng)信辦部署開(kāi)展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開(kāi)展重點(diǎn)整治。第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)。
前不久，多家互聯(lián)網(wǎng)平臺(tái)發(fā)布專項(xiàng)治理公告，重點(diǎn)整治AI批量造假、AI起號(hào)引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號(hào)等違規(guī)行為。
李彥等專家認(rèn)為，AI造假起號(hào)的背后，涉及技術(shù)提供者、傳播平臺(tái)、內(nèi)容發(fā)布者等多個(gè)參與方，技術(shù)、數(shù)據(jù)等關(guān)鍵信息存在壁壘，需加強(qiáng)協(xié)同治理，多方共同打擊違規(guī)行為。
北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江建議，技術(shù)提供者強(qiáng)化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺(tái)提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，進(jìn)一步完善相關(guān)規(guī)則，明確對(duì)AI造假起號(hào)等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)等。
阻斷違規(guī)賬號(hào)的流量變現(xiàn)，是從根源上打擊黑灰產(chǎn)業(yè)鏈的關(guān)鍵。受訪專家建議，監(jiān)管部門應(yīng)督促平臺(tái)履行治理責(zé)任，建立違規(guī)賬號(hào)“黑名單”，對(duì)高頻、反復(fù)觸犯平臺(tái)規(guī)則的賬號(hào)主體加大處罰力度，禁止違規(guī)賬號(hào)進(jìn)行帶貨、賣課等商業(yè)活動(dòng)，持續(xù)開(kāi)展AI造假起號(hào)整治，切斷其獲利渠道。
謝永江說(shuō)，還應(yīng)鼓勵(lì)公眾參與亂象治理，如舉報(bào)可疑賬號(hào)、引入專業(yè)機(jī)構(gòu)開(kāi)展評(píng)估等，“真實(shí)、優(yōu)質(zhì)的用戶創(chuàng)作，是平臺(tái)活力和創(chuàng)新的源泉”。
【未經(jīng)授權(quán)，嚴(yán)禁轉(zhuǎn)載！聯(lián)系電話028-86968276】
專項(xiàng)整治
治理亂象要用重拳，必須提升違法違規(guī)行為成本，才能有效治理。
提高警惕。
每天忙的只相信，自己的活干完了才會(huì)輕松。AI好像幫不了我啊，所以我只能能深深的祝福AI
AI造假