近年來，以大數據、人工智能（AI）等為代表的信息技術日新月異。與此同時，利用AI工具合成技術編造謠言，甚至生成逼近真實的圖片、音視頻，顛覆了“有圖就有真相”的常規認知，讓人難辨真假。今天，帶你了解AI工具造謠背后的真相！
【AI造謠的定義】
AI造謠指的是利用人工智能技術生成虛假信息，?包括文字、?圖片、?音視頻等，?以此來制造網絡謠言。
【AI造謠典型案例】
案例一：利用AI軟件編造“山體滑坡致8人遇難”網絡謠言
2024年1月23日，有網民在某平臺發布文章稱：“云南山體滑坡災害 已致8人遇難”。經查，違法行為人楊某某為獲取流量牟利，搜集網絡上的相關信息后，利用AI軟件生成了“云南山體滑坡災害 已致8人遇難”的虛假新聞信息，并發布在網絡平臺上，造成不良社會影響。目前，公安機關已依法對楊某某進行行政處罰。
案例二：利用AI軟件編造“喜德縣地震”網絡謠言
2024年6月9日，有網民在某視頻平臺發布視頻稱：“5月27日，四川省涼山彝族自治州發生5.0級地震，震中位于喜德縣，地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災情嚴重”。經查，5月27日涼山發生5.0級地震，震中位于木里縣，無人員傷亡，部分房屋受損，違法行為人羅某某為吸引眼球、獲取流量，利用AI軟件生成虛假地震災情圖片，并在某短視頻平臺散布不實信息。目前，公安機關已依法對羅某某進行行政處罰。
案例三：利用AI軟件編造“女子電動車被扣后猝死”網絡謠言
2024年6月，某網絡平臺出現一條關于“執法與人性的碰撞：五旬婦女電動車被查扣猝死”的消息。該文章稱：“澄城縣一婦女為了照顧病重的父親匆忙趕路，卻遇到交警執法，在哀求無果、電動車被扣后，情緒瞬間崩潰，心臟病發作最終未能挺過這一關”。這篇“情節曲折”的文章引發網民廣泛關注，給當地造成極大的負面影響。經調查，田某利用AI工具，加工生成了“澄城縣城的一婦女電動車被查扣猝死”的虛假信息并發布至其某平臺賬號。目前，田某對自己通過AI軟件編造謠言的情況供認不諱，公安機關依法對田某處以行政處罰。
以上案例均是通過AI軟件合成的不實信息，不法分子?為了賺取平臺獎勵或吸引流量，?使用AI軟件自動生成文章，?并與實際圖片進行嫁接，?發布在網絡平臺上，?造成不良社會影響，嚴重擾亂社會公共秩序。
來源：“公安部網安局”微信公眾號