景 聞

日前，四部門聯合發佈《人工智慧生成合成內容標識辦法》(以下簡稱《辦法》)，規範了人工智慧生成合成的內容標識，以保護公民、法人和其他組織合法權益，促進人工智慧健康發展。

今年初，隨著DeepSeek等AI應用爆火出圈，各行各業都迫不及待探索AI在各自領域的應用，期待通過AI提升效率、創造新價值。

然而，面對洶湧而來的AI應用熱潮，一些亂象也引起了人們的關注。比如：AI生產的虛假資訊對受眾產生誤導、污染輿論空間；不法分子利用越來越逼真的AI生成技術仿冒他人、實施詐騙。再如在電商領域：部分不良商家靠AI假圖和低價吸引消費者下單，但“貨不對板”；部分直播間用AI造假背景偽裝“工廠發貨”，對消費者構成欺騙；部分投機取巧的商家借助AI大量盜取原創商家的圖片，毫不費力地惡意抄款，加劇行業競爭。可以說，面對AI造假現象，不同行業面臨著不同的現實問題。

《辦法》的出臺旨在防控人工智慧(以下簡稱AI)技術造假、濫用現象。互聯網平臺是AI生成資訊的主要傳播媒介，平臺理當是治理的中堅力量。《辦法》規定了相關內容的標識規範，並且明確規定了相關平台的審核、檢驗責任。《辦法》出臺後，平臺也開始積極回應。如快手、豆包等內容平台開始在資訊流中標註AI生成字樣，提醒消費者注意甄別。再如，淘寶通過模型識別，攔截失真的AI假圖上傳；明確嚴禁利用AI等技術合成方式，呈現顯著失真與實際不符的商品資訊效果圖。

值得一提的是，不同於資訊、娛樂內容，商品圖片直接關係到消費決策，AI的應用應當本著提高消費體驗、促進原創等原則，否則很容易淪為黑灰產的“助攻”。若使用AI假圖宣推產品現象泛濫，將直接傷害消費者的消費體驗、消費意願，打擊誠信經營的商家的經營信心，也將無法實現“品質電商”的目標。電商平臺完善規範、推出治理措施，值得肯定。但要最大限度降低AI濫用影響、還消費領域清朗空間，還需全社會的支援和努力。

“該如何兼顧技術進步和倫理規範”等問題愈加現實和迫切，只有秉持發展與安全兼顧的原則，才可能讓AI真正服務於美好生活。人必須有價值判斷、相關的企業和平台必須有價值取向，防控AI應用亂象應儘早，要各盡其責。