4月28日，國家互聯(lián)網(wǎng)信息辦公室通報(bào)，近期網(wǎng)信部門工作中發(fā)現(xiàn)，“剪映”“貓箱”App及“即夢(mèng)AI”網(wǎng)站存在未有效落實(shí)人工智能生成合成內(nèi)容標(biāo)識(shí)規(guī)定要求等問題，違反《網(wǎng)絡(luò)安全法》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等法律規(guī)定。
國家互聯(lián)網(wǎng)信息辦公室指導(dǎo)屬地互聯(lián)網(wǎng)信息辦公室，依法對(duì)上述網(wǎng)站平臺(tái)采取約談、責(zé)令改正、警告、從嚴(yán)處理責(zé)任人等處置處罰措施。
這是《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》施行后首批公開通報(bào)的違規(guī)案例。
該辦法于2025年9月1日起正式施行，由國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、國家廣播電視總局制定，要求AI生成合成內(nèi)容必須同時(shí)添加顯式標(biāo)識(shí)和隱式標(biāo)識(shí)，前者用于向公眾明示內(nèi)容性質(zhì)，后者用于后臺(tái)追溯溯源。
南方都市報(bào)此前以75款生成式AI應(yīng)用為樣本的測評(píng)報(bào)告顯示，近半數(shù)應(yīng)用尚未對(duì)AI生成合成內(nèi)容進(jìn)行標(biāo)識(shí)，評(píng)分歸零。
在標(biāo)識(shí)情況較為領(lǐng)先的應(yīng)用中，騰訊元寶、訊飛星火、可靈AI、海螺AI四個(gè)App獲得8分，標(biāo)識(shí)配置已接近辦法要求。
而在北京網(wǎng)信辦的主導(dǎo)下，豆包、可靈、文小言、智譜清言等重點(diǎn)AI生成平臺(tái)已全面完成顯式與隱式標(biāo)識(shí)功能部署。這種合規(guī)推進(jìn)速度的差異，與平臺(tái)自身的技術(shù)投入和合規(guī)意愿不無關(guān)系。
測評(píng)報(bào)告還顯示，即夢(mèng)AI的實(shí)際運(yùn)營方式同樣存在缺口，其標(biāo)識(shí)僅在下載圖片后顯示，界面瀏覽時(shí)不作展示。
這與《標(biāo)識(shí)辦法》對(duì)顯式標(biāo)識(shí)“可被用戶明顯感知”的要求之間存在明顯差距，也從側(cè)面解釋了為何監(jiān)管部門對(duì)該平臺(tái)的處理等級(jí)不輕。
國家互聯(lián)網(wǎng)信息辦公室相關(guān)負(fù)責(zé)人明確表態(tài)，網(wǎng)站平臺(tái)要嚴(yán)守法律底線紅線，網(wǎng)信部門將持續(xù)加大人工智能生成合成內(nèi)容標(biāo)識(shí)監(jiān)督管理力度，推動(dòng)人工智能健康有序發(fā)展。
對(duì)于其他尚未納入公開查處名單的平臺(tái)而言，監(jiān)管部門釋放的信號(hào)已經(jīng)相當(dāng)清晰，主動(dòng)整改應(yīng)當(dāng)是唯一的選擇。
匿名用戶
