近期，中央網(wǎng)信辦組織開展“清朗·整治AI應用亂象”專項行動第二階段工作，聚焦利用AI制作發(fā)布虛假信息、傳播暴力低俗內(nèi)容、假冒仿冒他人、侵害未成年人權(quán)益等突出問題，部署各地網(wǎng)信部門深入推進重點整治任務，督促網(wǎng)站平臺集中清理AI生成各類違法不良信息，依法查處違規(guī)賬號和移動應用程序，有效遏制AI生成合成信息內(nèi)容亂象，推動AI應用服務健康有序發(fā)展。截至目前，累計清理違法違規(guī)信息561萬余條，查處賬號4.9萬余個，處置違規(guī)網(wǎng)站、應用程序等2400余個。

專項行動開展以來，各地網(wǎng)信部門切實履行屬地監(jiān)管責任，因地制宜推出一系列針對性治理措施。北京網(wǎng)信辦指導網(wǎng)站平臺全面升級審核策略，持續(xù)提升違規(guī)內(nèi)容新型變體識別處置能力。上海網(wǎng)信辦督促平臺深入開展自查自糾，加大違法違規(guī)信息和賬號查處力度，推出AI應用“知識普及包”引導公眾識別問題風險。浙江網(wǎng)信辦對屬地重點平臺開展“一企一策”問診進行合規(guī)指導，督促完善內(nèi)控體系，依法查處一批問題突出的AI應用軟件。廣東網(wǎng)信辦召開重點網(wǎng)站平臺工作例會，對多款應用違規(guī)問題開展點對點督促整改，確保專項行動取得實效。

網(wǎng)站平臺積極響應專項行動部署安排，持續(xù)健全AI內(nèi)容常態(tài)化治理機制。抖音、快手、微博、騰訊、百度、嗶哩嗶哩、小紅書、知乎、豆瓣、淘寶等平臺進一步強化技術(shù)賦能，優(yōu)化多模態(tài)識別模型，動態(tài)擴充人臉庫、聲紋庫和違規(guī)樣本庫，上線人臉實時治理系統(tǒng)等功能措施，提升違規(guī)內(nèi)容智能檢測和攔截效率，加大對違規(guī)賬號、信息處置力度，暢通線索舉報渠道，累計發(fā)布各類治理公告46期。豆包、元寶、千問、文心一言等平臺嚴把原始語料內(nèi)容審核關(guān)，嚴格限制違規(guī)內(nèi)容輸出，強化AI生成合成內(nèi)容標識要求落地，從源頭防范違法違規(guī)信息生成傳播。華為、小米、OPPO、vivo等應用商店制定嚴格的APP開發(fā)者準入規(guī)范和上架要求，對在架APP進行抽檢復測，有效攔截違規(guī)應用入庫。

專項行動期間，一批違法違規(guī)賬號和應用受到處理。為進一步加強警示教育，現(xiàn)將部分典型案例通報如下：

1.利用AI“魔改”經(jīng)典、生成“數(shù)字泔水”。微博賬號“天**小”、抖音賬號“歪**國”、快手賬號“小*菌”、微信賬號“咸*i”等，濫用AI技術(shù)“魔改”《三國演義》《西游記》等經(jīng)典名著，顛覆重要人物人設(shè)，虛構(gòu)低質(zhì)獵奇劇情博取流量。相關(guān)賬號已被依法依約處置。

2.AI制作發(fā)布虛假不實信息。快手賬號“云**視”、小紅書賬號“有*頭”、抖音賬號“7**員”、微信賬號“長**帆”等，利用AI生成合成虛假災害現(xiàn)場、救援畫面，編造不實社會熱點信息，發(fā)布封建迷信內(nèi)容，打造AI數(shù)字人進行虛假宣傳帶貨，誤導老年人，制造恐慌情緒。相關(guān)賬號已被依法依約處置。

3.AI假冒仿冒他人。抖音賬號“特**力”、快手賬號“石*”、小紅書賬號“潮**件”、微信賬號“M**勒”等，利用AI“換臉”“換聲”等技術(shù)，假冒仿冒公眾人物形象，生成合成低俗舞蹈、擁抱接吻等圖片視頻，借機營銷牟利。相關(guān)賬號已被依法依約處置。

4.制作發(fā)布暴力低俗等信息。嗶哩嗶哩賬號“帶**著”、抖音賬號“波**C”、快手賬號“蝦**詭”、微信賬號“星**7”等，批量發(fā)布AI生成合成的含有恐怖詭異、暴力低俗等畫面內(nèi)容。相關(guān)賬號已被依法依約處置。

5.AI侵害未成年人權(quán)益。小紅書賬號“小**娃”、微信賬號“豆*a”、抖音賬號“半**歷”、快手賬號“若**雪”等，發(fā)布AI生成合成未成年人懷孕、打架等與其年齡特點不符的內(nèi)容，批量制作傳播“毒動畫”、兒童“虐向”“邪典”視頻，傷害、惡搞未成年人形象，影響未成年人身心健康。相關(guān)賬號已被依法依約處置。

6.利用AI“托管”從事網(wǎng)絡(luò)水軍活動。微信賬號“濤**客”、微博賬號“A**師”、抖音賬號“風*”等，為AI“托管”軟件引流，模擬真人運營賬號、評論互動，生成大量低質(zhì)同質(zhì)文案。相關(guān)賬號已被依法依約處置。

7.AI產(chǎn)品服務和應用程序違規(guī)。“N**t”“穿**元”“甜*圈”“芋**o”等網(wǎng)站平臺多個智能體封面、簡介和生成對話中含有淫穢色情及其他危害未成年人身心健康的信息，嚴重破壞網(wǎng)絡(luò)生態(tài)。對拒不改正的，依法予以查處，按程序采取警告、罰款、下架或關(guān)閉等措施。

下一步，網(wǎng)信部門將在總結(jié)專項行動治理成效的基礎(chǔ)上，進一步把握人工智能發(fā)展趨勢和規(guī)律，密切關(guān)注AI生成合成內(nèi)容新情況新風險，及時采取有效措施防范AI技術(shù)濫用惡用，持續(xù)為人工智能創(chuàng)新發(fā)展營造良好環(huán)境。