■技術(shù)本身無善惡，但如果濫用技術(shù)，導(dǎo)致應(yīng)用邊界失守，就將帶來網(wǎng)絡(luò)生態(tài)失序，沖擊網(wǎng)絡(luò)安全環(huán)境

　　■要把平臺的責(zé)任壓得更實(shí)，強(qiáng)化內(nèi)容審核機(jī)制，精準(zhǔn)甄別隱性不良內(nèi)容

　　《小豬佩奇》被AI魔改成“野豬佩奇”，復(fù)刻原版的角色與畫風(fēng)之下，充斥著戲謔死亡、扭曲親情倫理等不良情節(jié)；披著早教啟蒙外衣的AI衍生視頻，內(nèi)里卻充斥著血腥暴力的場景……當(dāng)下，大量被魔改的“毒動(dòng)畫”在各網(wǎng)絡(luò)視頻平臺上廣泛傳播，引發(fā)社會(huì)關(guān)注。日前，中央網(wǎng)信辦在全國范圍內(nèi)部署啟動(dòng)為期4個(gè)月的“清朗·未成年人網(wǎng)絡(luò)保護(hù)”專項(xiàng)行動(dòng)，將“編造毒動(dòng)畫，利用AI技術(shù)惡搞經(jīng)典動(dòng)畫形象，刻意放大暴力恐怖元素”行為作為專項(xiàng)行動(dòng)第一階段重點(diǎn)整治對象。

　　這些利用AI技術(shù)編造的“毒動(dòng)畫”為害不淺。血腥、暴力等元素，不僅可能從價(jià)值觀層面混淆未成年人的是非認(rèn)知，扭曲其三觀，還可能在行為層面誘發(fā)孩子模仿暴力、消極叛逆等不良行為。更令人擔(dān)憂的是，相較于傳統(tǒng)網(wǎng)絡(luò)不良內(nèi)容，AI生成的有害內(nèi)容呈現(xiàn)出低成本、高產(chǎn)量、強(qiáng)隱蔽、快傳播等特征。用戶依托AI工具，短短數(shù)分鐘即可完成畫面篡改、劇情重構(gòu)、元素拼接，批量生成各類邪典動(dòng)畫、暴力短劇，并以極低成本通過短視頻平臺和社交網(wǎng)絡(luò)批量傳播。再加上，推薦機(jī)制編織的“算法陷阱”，讓孩子們即便沒有主動(dòng)搜索不良內(nèi)容，也可能會(huì)被推送相關(guān)內(nèi)容。這些特點(diǎn)對未成年人網(wǎng)絡(luò)保護(hù)體系形成全方位沖擊，也給防范“毒動(dòng)畫”侵害帶來了更大、更復(fù)雜的挑戰(zhàn)。

　　從今年年初國家廣播電視總局部署開展“AI魔改”視頻專項(xiàng)治理，到中央網(wǎng)信辦部署啟動(dòng)專項(xiàng)行動(dòng)，重點(diǎn)整治“毒動(dòng)畫”，可見“毒動(dòng)畫”已成為互聯(lián)網(wǎng)空間的一害。不僅如此，此次專項(xiàng)行動(dòng)，還提出要重點(diǎn)整治“批量炮制獵奇、審丑的AI短劇，誤導(dǎo)未成年人認(rèn)知”“部分AI軟件創(chuàng)設(shè)不良人設(shè)角色，輸出曖昧、低俗內(nèi)容”。

　　這也進(jìn)一步提醒我們，人工智能技術(shù)的發(fā)展在為內(nèi)容生產(chǎn)提供便利的同時(shí)，也可能被濫用，成為毒化網(wǎng)絡(luò)生態(tài)的工具和毒害未成年人精神世界的幫兇。再如，各類AI陪伴、虛擬互動(dòng)產(chǎn)品的蔓延，也給未成年人健康成長帶來了挑戰(zhàn)。未成年人接觸AI陪伴產(chǎn)品，不僅可能接觸曖昧低俗、情緒誘導(dǎo)、價(jià)值扭曲的不良內(nèi)容，還可能因?yàn)橐蕾嘇I虛擬角色，而疏離現(xiàn)實(shí)生活，損害共情能力、現(xiàn)實(shí)溝通能力、矛盾處理能力的培養(yǎng)，阻礙身心成長與社會(huì)化發(fā)展的進(jìn)程。此外，AI換臉、AI修圖、一鍵生成虛假影像等技術(shù)被濫用，不法分子利用未成年人肖像制作虛假低俗影像、網(wǎng)絡(luò)欺凌素材，也在滋生新型網(wǎng)絡(luò)暴力、隱私泄露、惡意造謠等亂象，讓未成年人網(wǎng)絡(luò)安全防護(hù)形勢愈發(fā)復(fù)雜嚴(yán)峻。

　　技術(shù)本身無善惡，但如果濫用技術(shù)，導(dǎo)致應(yīng)用邊界失守，就將帶來網(wǎng)絡(luò)生態(tài)失序，沖擊網(wǎng)絡(luò)安全環(huán)境。人工智能技術(shù)發(fā)展背景下，涉未成年人網(wǎng)絡(luò)亂象呈現(xiàn)出新的特點(diǎn)，如何凈化未成年人上網(wǎng)環(huán)境，面臨更大的挑戰(zhàn)。當(dāng)前涉未成年人網(wǎng)絡(luò)亂象的一個(gè)癥結(jié)，就在于平臺內(nèi)容審核滯后于技術(shù)迭代、算法推薦缺乏未成年人保護(hù)閾值。算法過度追逐流量效益，優(yōu)先推送獵奇、沖突、博眼球內(nèi)容，不斷放大技術(shù)作惡的負(fù)面影響。治理亂象，首先是要把平臺的責(zé)任壓得更實(shí)，堅(jiān)守技術(shù)向善底線，強(qiáng)化內(nèi)容審核機(jī)制，精準(zhǔn)甄別隱性不良內(nèi)容。同時(shí)，優(yōu)化未成年人專屬算法推薦機(jī)制，關(guān)閉不良內(nèi)容投喂通道，建立健全AI內(nèi)容溯源、篩查、處置全流程機(jī)制，從源頭遏制有害內(nèi)容傳播。

　　技術(shù)帶來的網(wǎng)絡(luò)安全挑戰(zhàn)，也呼吁家長更多關(guān)注孩子的網(wǎng)絡(luò)行為。把孩子隔絕于數(shù)字世界之外，既不現(xiàn)實(shí)也沒有可行性。但是面對更為強(qiáng)大的技術(shù)、更為隱秘的有害內(nèi)容、更加精準(zhǔn)的算法推薦，為孩子們筑牢一道基本的防火墻，顯得更為緊迫和重要。線上的風(fēng)險(xiǎn)，往往源于線下家庭教育缺位、陪伴缺失埋下的隱患。對此，家長不僅要帶領(lǐng)孩子主動(dòng)了解AI新型網(wǎng)絡(luò)風(fēng)險(xiǎn)，幫助孩子提升媒介素養(yǎng)與信息辨別能力，更要通過更高質(zhì)量的親子陪伴、情感溝通，充實(shí)孩子的精神生活，對沖手機(jī)屏幕里的低俗快感與虛假愉悅，讓孩子擁有抵御網(wǎng)絡(luò)誘惑的內(nèi)生力量。

《中國教育報(bào)》2026年08月03日 第02版