據新華社報道，近期，多個平台對「AI起號」現象開展專項治理行動，清理違規內容並封禁部分賬號。

　外國人熟練演唱中文歌曲、銀髮奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，「細節滿滿」讓很多網友信以為真。「新華視點」調查發現，不少社交賬號利用AI技術造假、博眼球快速「吸粉」起號，進而變現。

　AI造假起號成新套路

　當前，生成式人工智能技術日益普及，不少內容創作者通過AI創作出更具想像力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現捷徑。

　某社交平台部分賬號將目標鎖定中老年女性群體，利用AI打造「完美熟齡女性形象」，搭配「40+、50+長這樣，怎麼樣」等話術，進行「年齡焦慮」營銷。

　此類賬號發布的穿搭、保養、護膚、養生等視頻多未設置AI生成提示，不少網友誤以為是真人，在評論區諮詢保養方法。一些賬號背後運營者則藉機推送「三無」保健產品廣告，還有「水軍」互動造勢。雖然部分視頻存在明顯技術破綻，但瀏覽、點讚、評論量依舊不少。

　據調查發現，當前，主流網絡平台普遍升級AI內容識別系統，要求對AI生成作品添加標註，但仍有一些人採用各種手段繞過審核。「平台甄別AI內容主要依靠特徵性技術痕跡，一些起號者通過多種手段削弱特徵痕跡，逃避平台標註。」重慶理工大學計算機科學與工程學院教授李彥說，如通過微信轉壓縮等方式改變視頻文件代碼結構，再上傳至平台，就較難判定為AI生成內容。

　賬號多手段變現

　報道稱，社交平台上有不少AI造假起號的教程。有專營平台起號的商家稱，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當賬號積累一定流量後，就可以通過電商帶貨、賬號轉賣等方式變現。一名博主透露，她藉助AI軟件生成的「氛圍感美女」視頻在多個平台「吸粉」過萬，接到不少推廣商單，月收入在1萬元左右。

　有商家稱，手上有未標註AI生成的「美女」賬號，粉絲量均在一萬以上，且為「三無賬號」（無實名、無賬號違規、無作品違規），「現在平台風控很嚴，賬號會升值」。

　該商家說，這些賬號銷售十分火爆，買家經常催着加急起號，有個合作商「一周就要幾十個萬粉號」。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。

　阻斷AI造假起號利益鏈

　重慶公孝律師事務所執行主任徐斌表示，AI造假起號灰色產業鏈是技術異化的結果，可能造成低俗獵奇信息氾濫，加速虛假新聞、謠言傳播，擾亂網絡空間秩序，亟待加強清理整治。

　今年4月以來，中央網信辦部署開展「清朗·整治AI技術濫用」專項行動，聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象開展重點整治。

　李彥等專家認為，AI造假起號的背後，涉及技術提供者、傳播平台、內容發布者等多個參與方，技術、數據等關鍵信息存在壁壘，需加強協同治理，多方共同打擊違規行為。

　阻斷違規賬號的流量變現，是從根源上打擊黑灰產業鏈的關鍵。受訪專家建議，監管部門應督促平台履行治理責任，建立違規賬號「黑名單」，對高頻、反覆觸犯平台規則的賬號主體加大處罰力度，禁止違規賬號進行帶貨、賣課等商業活動，持續開展AI造假起號整治，切斷其獲利渠道。