據中央網信辦通報，2025年6月，網絡謠言主要聚焦社會熱點、災情事故、偽科普等領域，造謠者通過移花接木、AI生成、偽科學包裝等手段虛構或夸大事實，擾亂正常社會秩序。
通報特別提到了災情事故類謠言中，AI制假信息所產生的破壞力。有網民借機編造“湖南永州藍山縣特大暴雨致汽車被沖走”“福建南平建甌房道鎮路面嚴重積水”“烏魯木齊南山板房溝突發山洪”等虛假視頻和圖文。這類謠言不僅加劇社會恐慌情緒，還干擾正常防災救災秩序，可謂貽害無窮。
AI生成廣泛存在于信息傳播、內容創作等多個領域，在給工作生活帶來便利、豐富創作手段、拓展閱讀空間的同時，也給信息傳播造成了很大的困擾。偽造名人演講的深度合成視頻、以假亂真的“偽科普”文章，還有各種事發現場的照片視頻，AI制假信息憑借其高仿真度，正在消解公眾的信息甄別能力。
可以說，信息的造假問題已經成為互聯網的一顆毒瘤，不治理將侵蝕網絡社會的信任基礎。無論是從哪方面看，都要求我們必須對AI內容進行嚴格區分，讓AI合成內容回歸它本來的面目。
面對AI合成造假的新問題，需要升級管理辦法。目前比較常用的防治辦法是進行標識，讓AI合成內容公之于眾，曬于陽光之下。當下，AI制假信息之所以能興風作浪，很大程度上就是因為它偽裝得好，別人看不穿看不透，在真假難辨間鉆空子。AI合成內容標識清楚了，這個空間自然也就消失了。
與此相關的法律法規正在完善。今年9月1日起施行制定的《人工智能生成合成內容標識辦法》進一步對如何標識作出了詳細規定，屆時，相關法律法規將一起形成組合拳，堵住AI合成內容治理漏洞。
同時，平臺應該進一步督促、約束作者嚴格執行相關規定，建立起一套標識上可溯源、技術上可反制、法律責任界定上清晰明確的監管機制，讓平臺算法的抓取和推薦成為網絡空間善治的模范，而不是謠言傳播的幫兇。此外，AI模型公司也該積極參與治理，模型公司有必要在技術層面嵌入不可篡改的標識模塊。
歷史經驗表明，每次技術革命都伴隨著治理模式的迭代。從印刷品時代的知識產權保護，到互聯網時代的網絡空間治理，人類始終在尋找創新與秩序的平衡點。互聯網社會的基礎是誠信，只有守住真實傳播的底線，互聯網才能在技術創新中保持旺盛的生命力。 （高路）
編輯：譚鵬
