前往主要內容
工商時報LOGO

防不勝防!陸AI批量造謠場景一鍵生成、圖文真假難辨

  • 中時即時 李文輝

已將目前網頁的網址複製到您的剪貼簿!

大陸《經濟參考報》11日報導,近期,大陸多地公安機關發布多起利用AI工具實施造謠的相關案件。6月20日上海市公安局城市軌道和公交總隊官方微博「@軌交么么零」發布警情通報:兩名行銷人員為博取關注造謠地鐵站發生持刀傷人的情況,被警方依法處以行政拘留。其中一人,使用AI軟體生成視訊技術,編造了地鐵行凶的虛假視訊等不實資訊發布到網上,造成惡劣社會影響。 據瞭解,便利的AI工具大大降低造謠成本,提升謠言數量級和傳播力。AI造謠呈現出門檻低、批量化、識別難等特點,亟待加強監管,斬斷背後利益鏈條。 梳理發現,近年來,AI造謠在大陸多地頻發,傳播快、門檻低、迷惑性強。

去年,在上海一女童走失事件中,一團夥以「標題黨」「震驚體」方式,惡意編造炒作「女孩父親係繼父」「女孩被帶往溫州」等系列謠言。該團夥利用AI工具等生成謠言內容,通過114個帳號矩陣,在6天內發布268篇文章,多篇文章點擊量超過100萬次。

AI造謠門檻很低。一名辦案人員透露,此前在調查一起謠言案件時發現,謠言源頭來自中部某省分的一個村落。經調查,該村有大量村民利用生成式AI撰寫網路文章。

「部分村民通過口口相傳獲知,把搜索到的網路熱點資訊粘貼進AI模型後,可以生成新文章;在一些互聯網平台上發布,即可通過流量賺錢。不少村民都自發從事該活動。」辦案人員說。

迷惑性強,也是AI造謠的一大特點。

大陸公安部網安局近期公布一起案例。2023年12月以來,一條「西安市鄠邑區地下湧出熱水」的資訊頻繁在網路上傳播,出現如「地下出熱水是因為發生了地震」「是因為地下熱管道破裂」等謠言。經查,相關謠言是通過AI洗稿方式生成的。

報導發現,上述謠言採用類似新聞的行文,其中夾雜著「據報導」「相關部門正對事故原因進行深入調查,並採取措施進行搶修」「提醒廣大市民在日常生活中要注意安全」等內容。普通人難辨真偽。

北京清華大學新聞與傳播學院教授瀋陽表示,AI的介入使得資訊的生成和傳播速度大大加快,同時也增加了判斷資訊真實性、準確性的難度。AI工具從技術上降低了不法團夥造謠、傳謠的門檻,大幅提升了謠言的數量級和傳播力,可能促使網路謠言「定製化」生成、「精準化」傳播、「智慧化」擴散。

北京清華大學新聞與傳播學院新媒體研究中心今年4月發布的一分研究報告顯示,近兩年的AI謠言中,經濟與企業類謠言占比最高,達43.71%;近一年來,經濟與企業類AI謠言量增速高達99.91%,其中餐飲外賣、快遞配送等行業更是AI謠言重災區。

報導發現,多起AI造謠事件背後,造謠者的動機主要源於獲取互聯網內容平台給予創作者的點擊量、閱讀量獎勵,以及為電商平台經營引流等。

浙江省紹興市上虞區人民法院2023年宣判的一起案件中,不法分子為吸粉引流,通過非法管道購買AI視訊生成軟體,將網上搜集的熱門話題,通過AI一鍵生成視訊,併發至多個熱門視訊平台上牟利。 經審查發現,截至案發,不法分子發布的《浙江工業園現場大火濃煙滾滾,目擊者稱有爆炸聲!》等20餘條虛假造謠視訊,涉及浙江、湖南、上海、四川等多個省市,累計閱讀觀看量超過167萬次。

媒體調查發現,在自媒體平台上發布內容、博取流量已經成為一門生意。「圖文創作,AI自動寫文章,單號輕鬆日產500+,可多號操作,小白輕鬆上手」「無需洗稿,AI一天100篇原創」之類的文章在互聯網上廣為流傳。

以一家大型互聯網內容平台為例,發布內容基礎千次的閱讀單價為0.12元(人民幣,下同),但通過一系列係數相乘,可以讓千次閱讀收益提高10倍。這意味著如果一篇文章閱讀量達到100萬次,創作者即能收益超過1000元。

一些人使用AI造謠的目的是為電商平台產品銷售引流。今年2月,上海公安機關發現,在一家電商平台上出現了某藝人「命運多舛、含恨離世」等短視訊,引發大量點贊和轉發。

經查,該視訊內容完全係偽造。視訊發布者到案後交代,他在某電商平台上經營一家土特產網店。由於銷量不佳,他便通過編造奪人眼球的虛假新聞給網店帳號吸引流量。他不會視訊短片,便利用AI技術生成文本和視訊。

今年4月,中共中央網信辦祕書局發布《關於開展「清朗·整治『自媒體』無底線博流量」專項行動的通知》,要求加強資訊來源標注展示。使用AI等技術生成資訊的,必須明確標注系技術生成。發布含有虛構、演繹等內容的,必須明確加注虛構標籤。

專家表示,隨著AI使用門檻降低,AI造謠問題可能加劇;建議壓實互聯網內容平台、AI內容生成平台等主體責任,阻斷造謠背後的利益鏈條;加強法律研究和適用,提高造謠者、傳謠者的違法成本。

北京師範大學新聞傳播學院教授喻國明建議,AI內容生成平台要進一步完善對生成內容和內容來源的標識機制,例如附加不可刪除的數位浮水印和文本說明。互聯網內容平台可接入AI內容生成平台的大模型系統,即時進行資料識別比對。

中國社會科學院大學互聯網法治研究中心主任劉曉春建議,互聯網內容平台應加強對AI造謠行為的智慧識別機制研究,進一步優化涉及AI內容的流量分發和收益分成機制,壓縮別有用心者批量生產謠言的牟利空間。

喻國明認為,在闢謠方面,可利用AI闢謠應對AI造謠,「針對被確認為謠言的內容,互聯網內容平台可利用AI技術向曾經瀏覽過相關內容的使用者智慧推送闢謠內容或進行風險提示,降低謠言破壞力。」

沈陽等業內專家表示,界定AI謠言產生是否存在主觀惡意、認定被造謠方損失等存在一定困難,對AI造謠等行為在刑事處罰上容易出現法律適用難題,導致打擊效果難以落地。「我們研究發現,在86起涉AI造謠相關案件中,懲處類型為刑事處罰的占比僅為15.66%。」沈陽說。

北京孟真律師事務所律師舒勝來認為,面對AI謠言等技術和犯罪形式的快速反覆運算,法律法規研究也要與時俱進。要進一步明確AI造謠犯罪的認定標準,加強行刑銜接,對AI造謠者「精準懲處」,做到罰當其罪、罰當其過,為廣大網民營造風清氣正的網路空間。

您可能感興趣的話題

留言討論

返回頁首
LOADING

本網頁已閒置超過3分鐘。請點撃框外背景,或右側關閉按鈕(X),即可回到網頁。