外國人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……據(jù)8月11日新華網(wǎng)報道，社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真，不少社交賬號利用AI技術(shù)造假、博眼球快速“吸粉”起號，進而變現(xiàn)。
從利用AI打造“完美熟齡女性形象”進行“年齡焦慮”營銷，到通過情感、養(yǎng)生、顏值等類別教程批量產(chǎn)出吸睛內(nèi)容，一些人借助AI技術(shù)，精心炮制虛假內(nèi)容誤導(dǎo)網(wǎng)友，進而通過電商帶貨、賬號轉(zhuǎn)賣等手段實現(xiàn)流量變現(xiàn)。這種行為不僅違背了道德倫理，更觸犯了法律法規(guī)。
AI造假起號亂象背后，是復(fù)雜的利益鏈條。技術(shù)提供者為起號者提供造假工具，傳播平臺在審核環(huán)節(jié)存在漏洞，內(nèi)容發(fā)布者則肆意傳播虛假信息，而賬號售賣市場的火爆，更是讓這一亂象愈發(fā)猖獗。一個萬粉AI賬號，從幾百元到上萬元不等，百萬粉絲的賬號甚至要十幾萬元，巨大的利益誘惑讓不少人趨之若鶩。
AI造假起號帶來的危害不容小覷，會造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，誤導(dǎo)公眾認(rèn)知，破壞社會信任。一些“三無”保健產(chǎn)品廣告借助虛假賬號大肆推廣，不僅損害了消費者的身體健康，也擾亂了正常的市場秩序。此外，這種行為還擠壓了真實優(yōu)質(zhì)創(chuàng)作者的生存空間，抑制了網(wǎng)絡(luò)空間的創(chuàng)新活力。
斬斷AI造假起號利益鏈刻不容緩。監(jiān)管部門應(yīng)發(fā)揮主導(dǎo)作用，加強協(xié)同治理。一方面，督促平臺履行治理責(zé)任，建立違規(guī)賬號“黑名單”，對高頻、反復(fù)觸犯平臺規(guī)則的賬號加大處罰力度。另一方面，持續(xù)開展專項整治行動，加大對AI造假起號等違規(guī)行為的打擊力度，形成有效震懾。
平臺作為內(nèi)容傳播的重要載體，應(yīng)提高對深度偽造內(nèi)容的檢測精度，利用先進技術(shù)手段，提升審核效率和準(zhǔn)確性，同時進一步完善規(guī)則，明確對AI造假起號等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)。技術(shù)提供者也應(yīng)強化自身社會責(zé)任感，技術(shù)研發(fā)過程中加強安全性和合規(guī)性，為打擊AI造假起號提供技術(shù)支持和解決方案。
此外，公眾是網(wǎng)絡(luò)空間的使用者和受益者，也是監(jiān)督虛假信息的重要力量，因而可以引導(dǎo)公眾積極舉報可疑賬號、引入專業(yè)機構(gòu)開展評估等，形成全社會共同參與治理的良好氛圍。（王琦）
編輯：譚鵬
