中國教育報(bào)-中國教育新聞網(wǎng)訊（記者 王瓊 通訊員 丁嘉鋮 于樂）當(dāng)AI生成虛假新聞、偽造明星海報(bào)、造假證件圖片越來越逼真，肉眼幾乎難以分辨，該靠什么來判斷真假？近日，江南大學(xué)人工智能與計(jì)算機(jī)學(xué)院2022級人工智能專業(yè)本科生王心暢團(tuán)隊(duì)給出了自己的答案。

“我們不再問‘這張圖哪里不對’，而是問‘?dāng)_動它一下，它會怎么反應(yīng)’?！蓖跣臅尺@樣概括團(tuán)隊(duì)的核心思路。傳統(tǒng)方法檢測AI生成圖像，大多依賴尋找像素瑕疵、頻域異常等“外觀破綻”，但隨著生成技術(shù)不斷升級，這些痕跡越來越隱蔽，檢測效果大打折扣。王心暢所在團(tuán)隊(duì)跳出這一思路，轉(zhuǎn)而關(guān)注圖像的“行為反應(yīng)”。

王心暢介紹，團(tuán)隊(duì)發(fā)現(xiàn)了一個有趣現(xiàn)象：真實(shí)圖像在被施加微小擾動后，特征依然高度穩(wěn)定，而AI生成圖像哪怕只受到輕微擾動，特征就會明顯漂移。“就像泰山崩于前而色不變，和稍微一碰就站不穩(wěn)的區(qū)別?！蓖跣臅痴f。這種差異被稱為“魯棒性非對稱”。

基于這一關(guān)鍵發(fā)現(xiàn)，團(tuán)隊(duì)構(gòu)建了魯棒性非對稱檢測框架，讓機(jī)器通過圖像的“行為表現(xiàn)”而非“外貌特征”來區(qū)分真假。該框架的核心邏輯清晰而巧妙，首先通過差分魯棒性探測，對圖像施加人眼幾乎無法察覺的結(jié)構(gòu)化微小擾動，主動放大真實(shí)與生成圖像之間的穩(wěn)定性差異。然后，再利用多分支特征融合，從語義特征、特征漂移程度、像素級細(xì)微偽影三個維度同時(shí)捕捉線索，最后通過對比損失訓(xùn)練，進(jìn)一步拉大二者在擾動下的表現(xiàn)差距。

實(shí)驗(yàn)結(jié)果顯示，該檢測框架在14種主流AI生成模型、超過10種現(xiàn)有檢測方法的對比中，檢測準(zhǔn)確率最高提升5.61%，整體性能平均提升7.81%。即便圖像被壓縮或模糊處理，依然表現(xiàn)穩(wěn)健。

“我們希望這項(xiàng)研究能真正服務(wù)于社會，幫助人們在AI時(shí)代重新建立對圖像的信任?！蓖跣臅痴f。目前，該論文與代碼已全部開源，供全球科研人員使用。