“西安突發爆炸”“重慶巫溪一民房發生爆炸事故”……這些聳人聽聞的消息，竟都是利用AI軟體炮製的謠言。

　　近日，一些不法分子為賺取平臺流量補貼，實現流量變現，利用AI合成技術編造謠言，嚴重擾亂社會秩序。真相到底如何？公安機關又將怎樣處理？一探究竟↓↓↓

　　有圖未必是真相

　　違法人員利用AI技術博取流量

　　今年1月，某網路平台出現一條關於“西安爆炸”的消息稱，當月10日晚，西安突然響起巨大爆炸聲，文字下方還配發所謂爆炸的圖片。消息一經發佈，很快在網上傳播。

　　經調查，消息的發佈帳號歸屬於江西南昌一家MCN機構，這家公司的實際控制人為王某某。經核實，民警發現當地沒有發生類似事件，初步判定該MCN機構發佈的數條資訊涉嫌網路造謠，屬不實資訊。

　　警方對王某某進行約談，得知網上發佈的這條謠言，從文本到圖片都是通過AI生成的。民警表示，利用AI軟體生成新聞熱點類文章和圖片，全程基本不需要人工參與。

　　國內一網站可提供近期可能生成熱點的新聞報導，違法人員王某某通過該網站獲取熱點關鍵詞，並生成文章標題。

　　王某某通過AI軟體，給出關鍵詞，軟體便會自動在網路上抓取相關信息，生成幾百到上千字的文本，配上貌似和事件具有相關性的虛假圖片，從而形成一段看起來資訊量很大，實際上子虛烏有的內容。

　　通過AI軟體生成內容的方式，這家MCN機構短時間內生成了大量文章，最高峰一天能生成4000至7000篇，最高的一條收入700元，初步估算每天的收入在1萬元以上。

　　經警方調查，王某某共經營5家MCN機構，運營帳號842個。自今年1月以來，其中一家MCN機構利用其帳號，陸續在某平台發佈了“西安1月10日發生爆炸導致建築、車輛炸毀、人員傷亡”等多條謠言資訊。

　　經查，王某某的行為構成傳播謠言，虛構事實，擾亂公共秩序。目前，南昌警方依據相關規定，依法對王某某處以行政拘留5日，責令涉案MCN機構停業整改。

　　　　新聞風格+驚險“災情”細節

　　此類AI生成謠言更具迷惑性

　　在重慶，公安機關查處一起個人利用AI軟體，編造民房爆炸謠言的案件。這起案件被公安部列為打擊整治網路謠言違法犯罪典型案例。該案例利用AI技術，模仿新聞風格，一鍵生成涉及災情的資訊，以獲取高流量。

　　去年12月25日，一則“重慶巫溪一民房發生爆炸事故，4人不幸遇難，官方緊急介入調查”的消息在某網路平台發佈，全文500余字，以新聞報導的口吻，提供了“發現了4名遇難者，其中包括一名兒童”“疑似與居民私拉亂接電線有關”等細節，短時間內獲得數萬次的點擊量。

　　這篇謠言閱讀量暴漲，讓之前在網上發文沒有任何流量的康某某一開始還有些興奮。

　　康某某：之前我發了20多條內容都沒有收益，後來看到一個爆炸新聞有好幾十萬的點讚量。我就在網站輸入“重慶”“爆炸”，它自動生成內容，我複製它的標題和文章。

　　康某某之所以製造謠言，是因為得知在某知名網路平台創作發佈文章，可以根據閱讀、評論、轉發數量等獲取相關流量收益，每千人有效閱讀量有1—2元的獎勵。但他編造虛假消息博取流量的行為已觸犯法律。

　　經查證，康某某對其虛構事實擾亂公共秩序的違法行為供認不諱。公安機關依法對其行政拘留3日，收繳其違法所得，並封禁其網路帳號。

　　專家：平臺應履行相應監管責任

　　合理強化違法成本

　　法學專家表示，大量不實資訊對普通網民來說，有時很難直接判斷是否為謠言，而平臺對於相關信息，應該盡到監管責任。

　　有的網路平臺向流量高的內容和使用者支付報酬，在某種程度上會刺激一些想要賺錢的網路用戶發佈虛假資訊。專家表示，平臺在刺激創作的同時，也應盡到消除虛假信息傳播的責任。

　　西南政法大學法學院教授陳偉表示，支付報酬方面，平臺應行使積極的引導作用，對散布謠言者採取相關的懲罰機制。

　　法律專家建議，在法律法規上應讓造謠者付出更大的成本。

　　陳偉表示，違法成本在行政處罰里涉及行政拘留、行政性罰款等，還包括封號這樣的措施。法律應匹配違法人員的違法成本和他承擔責任之間的比例，以免其他人看到違法成本過低，遏制作用有限。

　　網路並非法外之地

　　對於在互聯網上

　　發佈不實言論、擾亂社會秩序的

　　公安機關將堅決依法處理

　　對於造成惡劣影響、情節嚴重的

　　公安機關將依法追究其法律責任

來源：央視