3到15天速成萬粉號——AI造假起號亂象調查
更新時間：2025/8/12 10:01:33 來源：新華社CNML文字
新聞中心首頁
新華社北京8月11日電 題：3到15天速成萬粉號——AI造假起號亂象調查
新華社“新華視點”記者陳一帆、周思宇
外國人熟練演唱中文歌曲、銀發奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，“細節滿滿”讓很多網友信以為真。“新華視點”記者調查發現，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現。
近期，多個平臺對“AI起號”現象開展專項治理行動，清理違規內容并封禁部分賬號。
AI造假起號成新套路
廣西市民王夏經常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評論區與網友頻繁互動。由于熟悉AI軟件，王夏很快發現這些視頻的主角是AI數字人，“但視頻沒有任何AI生成提示字樣，好幾個賬號顯示來自同一家MCN公司”。
當前，生成式人工智能技術日益普及，不少內容創作者通過AI創作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現捷徑。
記者在某社交平臺上發現，部分賬號將目標鎖定中老年女性群體，利用AI打造“完美熟齡女性形象”，搭配“40+、50+長這樣，怎么樣”等話術，進行“年齡焦慮”營銷。
此類賬號發布的穿搭、保養、護膚、養生等視頻多未設置AI生成提示，不少網友誤以為是真人，在評論區咨詢保養方法。一些賬號背后運營者則借機推送“三無”保健產品廣告，還有“水軍”互動造勢。記者注意到，雖然部分視頻存在明顯技術破綻，但瀏覽、點贊、評論量依舊不少。
記者調查發現，當前，主流網絡平臺普遍升級AI內容識別系統，要求對AI生成作品添加標注，但仍有一些人采用各種手段繞過審核。
“平臺甄別AI內容主要依靠特征性技術痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標注。”重慶理工大學計算機科學與工程學院教授李彥說，如通過微信轉壓縮等方式改變視頻文件代碼結構，再上傳至平臺，就較難判定為AI生成內容。
記者用一款AI軟件生成一張人像圖片，裁掉AI生圖軟件水印后發布在社交平臺上。發布后，平臺系統并未自動識別、提示添加標注。相當一部分網友辨別不出這是AI生成圖，紛紛點贊、發送私信，賬號后臺收到超200條消息。
起號有教程 多手段變現
記者調查發現，社交平臺上有不少AI造假起號的教程，情感、養生、顏值等類別是“重災區”，相關帖子常以“條條是爆款”“最適合普通人入局”“3天暴力起號”等為噱頭。
以一則“養生賽道”起號教程為例，先向AI軟件輸入器官、食物等關鍵詞，生成吸睛文案，批量產出擬人化素材、智能合成動態視頻；再在片尾設置養生知識問答，引導互動并刺激轉發，以提升賬號互動權重。該教程聲稱：“按照此方法，單條視頻制作最快僅需15分鐘，單賬號日均收益可達500+（元）。”
有專營平臺起號的商家告訴記者，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當賬號積累一定流量后，就可以通過電商帶貨、賬號轉賣等方式變現。
“后面的電商帶貨，從直播間搭建、選品策略、話術設計到違禁詞規避等，我們有一套運營體系，學員照葫蘆畫瓢就行。”一名售賣AI賬號起號教程的商家說。
一名博主透露，她借助AI軟件生成的“氛圍感美女”視頻在多個平臺“吸粉”過萬，接到不少推廣商單，月收入在1萬元左右。
有商家稱，手上有未標注AI生成的“美女”賬號，粉絲量均在一萬以上，且為“三無賬號”（無實名、無賬號違規、無作品違規），“現在平臺風控很嚴，賬號會升值”。
該商家說，這些賬號銷售十分火爆，買家經常催著加急起號，有個合作商“一周就要幾十個萬粉號”。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。
記者搜索發現，社交平臺上有眾多網友求購和出售賬號。一名賣家稱，2.5萬粉絲的AI養生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元，11.7萬粉絲的AI母嬰號售價1.35萬，這些賬號同樣為“三無賬號”。
阻斷AI造假起號利益鏈
根據反電信網絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯網賬號。多個網絡平臺規定，賬號僅限本人使用，禁止以任何形式出租、轉讓、售賣或以其他方式許可他人使用賬號。
重慶公孝律師事務所執行主任徐斌表示，AI造假起號灰色產業鏈是技術異化的結果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網絡空間秩序，亟待加強清理整治。
今年4月以來，中央網信辦部署開展“清朗·整治AI技術濫用”專項行動，聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象開展重點整治。第一階段累計處置違規小程序、應用程序、智能體等AI產品3500余款，清理違法違規信息96萬余條，處置賬號3700余個。
前不久，多家互聯網平臺發布專項治理公告，重點整治AI批量造假、AI起號引流帶貨、轉讓銷售AI虛擬賬號等違規行為。
李彥等專家認為，AI造假起號的背后，涉及技術提供者、傳播平臺、內容發布者等多個參與方，技術、數據等關鍵信息存在壁壘，需加強協同治理，多方共同打擊違規行為。
北京郵電大學互聯網治理與法律研究中心執行主任謝永江建議，技術提供者強化技術的安全性和合規性研發，提供技術支持和解決方案；平臺提高對深度偽造內容的檢測精度，進一步完善相關規則，明確對AI造假起號等違規行為的界定和處罰標準等。
阻斷違規賬號的流量變現，是從根源上打擊黑灰產業鏈的關鍵。受訪專家建議，監管部門應督促平臺履行治理責任，建立違規賬號“黑名單”，對高頻、反復觸犯平臺規則的賬號主體加大處罰力度，禁止違規賬號進行帶貨、賣課等商業活動，持續開展AI造假起號整治，切斷其獲利渠道。
謝永江說，還應鼓勵公眾參與亂象治理，如舉報可疑賬號、引入專業機構開展評估等，“真實、優質的用戶創作，是平臺活力和創新的源泉”。
 |
 |
 |
 |
焦作網免責聲明： | |||||||
|
||||||||
新華社北京8月11日電 題：3到15天速成萬粉號——AI造假起號亂象調查
新華社“新華視點”記者陳一帆、周思宇
外國人熟練演唱中文歌曲、銀發奶奶傳授養生秘訣、氛圍感女孩分享穿搭美學……社交媒體上，一些AI生成的視頻關注度頗高，“細節滿滿”讓很多網友信以為真。“新華視點”記者調查發現，不少社交賬號利用AI技術造假、博眼球快速“吸粉”起號，進而變現。
近期，多個平臺對“AI起號”現象開展專項治理行動，清理違規內容并封禁部分賬號。
AI造假起號成新套路
廣西市民王夏經常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評論區與網友頻繁互動。由于熟悉AI軟件，王夏很快發現這些視頻的主角是AI數字人，“但視頻沒有任何AI生成提示字樣，好幾個賬號顯示來自同一家MCN公司”。
當前，生成式人工智能技術日益普及，不少內容創作者通過AI創作出更具想象力的作品。但也有一些人利用AI造假，無底線博眼球，作為起號變現捷徑。
記者在某社交平臺上發現，部分賬號將目標鎖定中老年女性群體，利用AI打造“完美熟齡女性形象”，搭配“40+、50+長這樣，怎么樣”等話術，進行“年齡焦慮”營銷。
此類賬號發布的穿搭、保養、護膚、養生等視頻多未設置AI生成提示，不少網友誤以為是真人，在評論區咨詢保養方法。一些賬號背后運營者則借機推送“三無”保健產品廣告，還有“水軍”互動造勢。記者注意到，雖然部分視頻存在明顯技術破綻，但瀏覽、點贊、評論量依舊不少。
記者調查發現，當前，主流網絡平臺普遍升級AI內容識別系統，要求對AI生成作品添加標注，但仍有一些人采用各種手段繞過審核。
“平臺甄別AI內容主要依靠特征性技術痕跡，一些起號者通過多種手段削弱特征痕跡，逃避平臺標注。”重慶理工大學計算機科學與工程學院教授李彥說，如通過微信轉壓縮等方式改變視頻文件代碼結構，再上傳至平臺，就較難判定為AI生成內容。
記者用一款AI軟件生成一張人像圖片，裁掉AI生圖軟件水印后發布在社交平臺上。發布后，平臺系統并未自動識別、提示添加標注。相當一部分網友辨別不出這是AI生成圖，紛紛點贊、發送私信，賬號后臺收到超200條消息。
起號有教程 多手段變現
記者調查發現，社交平臺上有不少AI造假起號的教程，情感、養生、顏值等類別是“重災區”，相關帖子常以“條條是爆款”“最適合普通人入局”“3天暴力起號”等為噱頭。
以一則“養生賽道”起號教程為例，先向AI軟件輸入器官、食物等關鍵詞，生成吸睛文案，批量產出擬人化素材、智能合成動態視頻；再在片尾設置養生知識問答，引導互動并刺激轉發，以提升賬號互動權重。該教程聲稱：“按照此方法，單條視頻制作最快僅需15分鐘，單賬號日均收益可達500+（元）。”
有專營平臺起號的商家告訴記者，只需繳納1680元，3到15天即可運營出一個萬粉AI賬號。當賬號積累一定流量后，就可以通過電商帶貨、賬號轉賣等方式變現。
“后面的電商帶貨，從直播間搭建、選品策略、話術設計到違禁詞規避等，我們有一套運營體系，學員照葫蘆畫瓢就行。”一名售賣AI賬號起號教程的商家說。
一名博主透露，她借助AI軟件生成的“氛圍感美女”視頻在多個平臺“吸粉”過萬，接到不少推廣商單，月收入在1萬元左右。
有商家稱，手上有未標注AI生成的“美女”賬號，粉絲量均在一萬以上，且為“三無賬號”（無實名、無賬號違規、無作品違規），“現在平臺風控很嚴，賬號會升值”。
該商家說，這些賬號銷售十分火爆，買家經常催著加急起號，有個合作商“一周就要幾十個萬粉號”。在其提供的交易截圖中，9個賬號的成交價從700元至4000元不等，而百萬粉絲的號要十幾萬元。
記者搜索發現，社交平臺上有眾多網友求購和出售賬號。一名賣家稱，2.5萬粉絲的AI養生號售價6000元，11萬粉絲的AI寵物號售價1.6萬元，11.7萬粉絲的AI母嬰號售價1.35萬，這些賬號同樣為“三無賬號”。
阻斷AI造假起號利益鏈
根據反電信網絡詐騙法，任何單位和個人不得非法買賣、出租、出借互聯網賬號。多個網絡平臺規定，賬號僅限本人使用，禁止以任何形式出租、轉讓、售賣或以其他方式許可他人使用賬號。
重慶公孝律師事務所執行主任徐斌表示，AI造假起號灰色產業鏈是技術異化的結果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網絡空間秩序，亟待加強清理整治。
今年4月以來，中央網信辦部署開展“清朗·整治AI技術濫用”專項行動，聚焦AI換臉擬聲侵犯公眾權益、AI內容標識缺失誤導公眾等AI技術濫用亂象開展重點整治。第一階段累計處置違規小程序、應用程序、智能體等AI產品3500余款，清理違法違規信息96萬余條，處置賬號3700余個。
前不久，多家互聯網平臺發布專項治理公告，重點整治AI批量造假、AI起號引流帶貨、轉讓銷售AI虛擬賬號等違規行為。
李彥等專家認為，AI造假起號的背后，涉及技術提供者、傳播平臺、內容發布者等多個參與方，技術、數據等關鍵信息存在壁壘，需加強協同治理，多方共同打擊違規行為。
北京郵電大學互聯網治理與法律研究中心執行主任謝永江建議，技術提供者強化技術的安全性和合規性研發，提供技術支持和解決方案；平臺提高對深度偽造內容的檢測精度，進一步完善相關規則，明確對AI造假起號等違規行為的界定和處罰標準等。
阻斷違規賬號的流量變現，是從根源上打擊黑灰產業鏈的關鍵。受訪專家建議，監管部門應督促平臺履行治理責任，建立違規賬號“黑名單”，對高頻、反復觸犯平臺規則的賬號主體加大處罰力度，禁止違規賬號進行帶貨、賣課等商業活動，持續開展AI造假起號整治，切斷其獲利渠道。
謝永江說，還應鼓勵公眾參與亂象治理，如舉報可疑賬號、引入專業機構開展評估等，“真實、優質的用戶創作，是平臺活力和創新的源泉”。
 |
|
||||
|
焦作網免責聲明： | |||||||
|
||||||||
|
|
