川觀新聞記者 行曉藝
被AI換臉技術欺騙，有人要貸款200萬給網戀男友“靳東”拍戲；AI制作的假圖，被用來騙取平臺賣家退款……近年來，AI生成的謠言和騙局越來越難防。
9月1日起，國家網信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內容標識辦法》（以下簡稱《辦法》）正式實施，所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。
發(fā)布AI合成內容時如何標記？這些內容在傳播過程中怎么管？對行業(yè)、用戶和相關技術的發(fā)展帶來哪些影響？記者親測并采訪了有關部門和專家。
記者親測：相關平臺已上線AI聲明和自動標識
《辦法》明確，人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。
人工智能生成合成內容標識分“顯式標識”和“隱式標識”兩種。顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識。
隱式標識是指采取技術措施在生成合成內容文件數(shù)據中添加的，不易被用戶明顯感知到的標識?！半[式標識更像指紋，所有生成合成內容需在文件元數(shù)據中添加。一旦有問題，技術一查就能找到痕跡?！敝悄芨兄c控制四川省重點實驗室副主任吳浩說，兩種標識形成“顯式告知用戶、隱式支撐監(jiān)管”的雙重保障體系。
記者發(fā)布了AI動圖，照片有AI“標簽”。
當天，記者進行了實測。11點記者上傳一張自己的照片，打開抖音“AI創(chuàng)作”，選擇了“3D可愛治愈風格”。一分鐘不到，一張AI動圖就生成了。到發(fā)布環(huán)節(jié)時，有一個“高級設置”選項，記者點擊“發(fā)文助手自主聲明”后，選擇了“內容由AI生成”。發(fā)布后，這張照片便有了AI“標簽”。同樣的，在微信視頻號、小紅書等平臺，均有“內容為AI技術制作，虛構內容請謹慎甄別”“筆記含AI合成內容”的相關聲明選項。
小紅書平臺有“筆記含AI合成內容”的選項。
不過記者發(fā)現(xiàn)，這些都需要用戶手動選擇，那是否有“鉆空子”的風險？
“平臺在內容上架或上線時會進行審核，對未標識或疑似生成內容添加風險提示，在傳播端阻斷虛假信息擴散?！?/strong>吳浩介紹。
如果用戶不自主打顯式標識，平臺在內容上架或上線時會進行審核，對未標識或疑似生成內容添加風險提示。
確如吳浩所說。記者不打“電子身份證”直接上傳，小紅書和抖音會出現(xiàn)“筆記含AI生成內容”“疑似AI生成”的字樣，并顯示信息來自平臺自動識別。
“這兩種標識辦法，核心是為了解決三個問題：哪些內容是AI生成、是誰做的、來自哪個渠道?！?/strong>四川師范大學法學院副教授甘露說，不過，生成合成技術迭代快、系統(tǒng)算法優(yōu)化不及時等，有些原創(chuàng)內容可能會被誤判為AI生成。甘露建議，應建立“技術檢測+人工復核”雙軌機制和申訴機制，保證監(jiān)管與創(chuàng)作自由的平衡。
專家解析：推動生成式人工智能的良性發(fā)展
《國家信息化發(fā)展報告(2024)》顯示，截至今年7月，我國已有490余款大模型在國家網信辦完成備案。據不完全統(tǒng)計，大模型應用的個人用戶注冊總數(shù)已超過31億。
《辦法》的實施，會對行業(yè)、個人用戶，以及相關技術發(fā)展帶來哪些影響？
四川省委網信辦相關負責人表示，強制“標識”能在保障安全與促進發(fā)展之間取得平衡。壓實開發(fā)者、提供者和平臺的主體責任，通過治理和規(guī)范去凈化網絡空間環(huán)境。
該負責人特別提到，強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》與《辦法》同步施行，讓審核、監(jiān)測、追責建立起閉環(huán)機制，為溯源、抗篡改、跨平臺互認等留出空間。
對行業(yè)而言，《辦法》的實施，對人工智能企業(yè)選擇相應的訓練數(shù)據能起到很好的指引作用。吳浩解釋，有隱式標識后，企業(yè)能更便捷地篩選高質量的數(shù)據進行模型訓練，提升技術可信度，推動生成式人工智能的良性發(fā)展。
北京大成（成都）律師事務所律師陶雪汶認為，強制“標識”可有效遏制低質量、重復性生成合成內容的傳播，維護平臺內容原創(chuàng)性與公平性，為優(yōu)質內容創(chuàng)作營造良好環(huán)境。另外，能減少因AI生成內容引發(fā)的侵權、詐騙等問題。
記者用AI生成剪刀瑕疵圖，從對話框發(fā)給拼多多客服時，商家難辨真假。
不過，AI內容在平臺對話框還無法打顯式標識。例如，記者用AI生成剪刀瑕疵圖，從對話框發(fā)給拼多多客服時，不會有明顯的AI水印，商家難辨真假。
“針對電商平臺的問題，應面向B、C端用戶執(zhí)行《辦法》，修改相關協(xié)議內容。要求消費者、商家利用AI生成的照片、視頻等有顯著標識，對拒絕履行標識義務、刪除、篡改標識用戶進行追責?！碧昭┿胝f。
值得一提的是，《辦法》為影視后期、廣告等專業(yè)內容生產者，留有一條“綠色通道”。《辦法》允許服務提供者和特定用戶明確標識義務和使用責任后，可以提供不帶顯式標識的素材，但同時把對方的信息和相關日志留存不少于六個月。
“這一點，有些AI應用平臺和創(chuàng)作者已經在試水了?！眳呛普f。
【未經授權，嚴禁轉載！聯(lián)系電話028-86968276】
科技創(chuàng)新，產業(yè)發(fā)展！
手動聲明形同虛設，平臺審核必須跟上！記者實測不打標仍能發(fā)，全靠算法識別才是真防線
規(guī)范
算法誤判誰來擔責？我的原創(chuàng)作品曾被平臺誤刪，申訴流程比高考還復雜
國家網信辦等四部門聯(lián)合發(fā)布的《人工智能生成合成內容標識辦法》??
規(guī)范管理