核心閱讀

伴隨標識管理與演算法備案、安全評估等機制逐步實現有機銜接，生成合成內容標識合規有望成為相關部門開展人工智慧監督檢查、專項行動的重點關注領域。

□ 新政解讀

□ 本報記者 劉欣

利用人工智慧“換臉”“擬聲”冒充親友實施詐騙，借助人工智慧合成的假視頻冒充名醫、名人進行虛假宣傳，通過人工智慧生成謠言后在網上傳播……越來越多人工智慧生成的資訊，充斥在網路中，真假難辨。

近年來，人工智慧技術快速發展，為生成合成文字、圖片、音訊、視頻等資訊提供了便利工具，海量資訊得以快速生成合成並在網路平台傳播，在促進經濟社會發展的同時，也產生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，引發社會各界的關注。

為了促進人工智慧健康發展，規範人工智慧生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，近日，國家互聯網信息辦公室、工業和資訊化部、公安部、國家廣播電視總局聯合發佈《人工智慧生成合成內容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。

推動建立新技術安全體系

《標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪裡生成的”等問題，推動由生成到傳播各環節的全流程安全管理，力爭打造可信賴的人工智慧技術。

據聯合國高級別人工智慧諮詢機構中方專家、中國政法大學數據法治研究院教授張淩寒介紹，在人工智慧生成合成內容的生產環節，服務提供者應對生成合成內容添加標識。服務提供者應對文本、圖片、音訊、視頻、虛擬場景等典型應用場景的生成合成內容添加顯式標識，並在生成合成內容的檔元數據中添加隱式標識，以明確內容屬性、服務提供者信息等內容。

在人工智慧生成合成內容的傳播環節，不同主體應對標識的合規性進行確認。服務提供者在提供生成合成內容下載、複製、匯出等服務時，應當確保檔中含有滿足要求的顯式標識。網路資訊內容傳播平台應當核驗檔元數據中是否含有隱式標識，並採取適當方式在發佈內容周邊添加顯著的提示標識，明確提醒使用者。互聯網應用程式分發平臺在應用程式上架或上線審核時，應核驗生成合成內容標識相關材料。

在人工智慧生成合成內容的使用環節，用戶同樣應履行標識義務。服務提供者應當在使用者服務協議中明確說明生成合成內容標識的方法、樣式等規範內容，並提示使用者仔細閱讀並理解相關的標識管理要求。使用者向網路資訊內容傳播平臺上傳生成合成內容時，應當主動聲明並使用平臺提供的標識功能進行標識。

國家計算機網路應急技術處理協調中心正高級工程師張震表示，《標識辦法》是對《互聯網資訊服務演算法推薦管理規定》《互聯網資訊服務深度合成管理規定》《生成式人工智慧服務管理暫行辦法》的繼承和延伸，從人工智慧技術特性出發，在生成合成標識這一人工智慧安全治理關鍵上提出了針對性的管理思路，將成為我國建立健全人工智慧新技術安全體系的重要推動力。

“《標識辦法》進一步明確了人工智慧生成合成內容全生命週期履行標識義務的具體要求與主體責任，完善了我國生成式人工智慧的治理框架。”張淩寒說。

張震認為，《標識辦法》充分彰顯了監管理念的與時俱進，從傳統的嚴格監管轉向更加靈活的引導與規範，既尊重了技術創新的內在規律，又體現對潛在風險的有效防範。

同步發佈強制性國家標準

為推動《標識辦法》落地實施，強制性國家標準《網路安全技術 人工智慧生成合成內容標識方法》（以下簡稱《標識標準》）同步發佈。

國家網信辦有關負責人介紹說，《標識辦法》主要從立法層面提出管理要求，明確生成合成內容製作傳播各主體的責任義務，為促進人工智慧技術創新發展，對具體實施操作不作要求。《標識標準》以強制性國家標準形式制定實施，主要提出強制執行部分的標識具體實施方式和操作方法，兩者同步推出，於2025年9月1日同步實施，以更好地指導相關主體規範開展標識活動。

“《標識標準》作為《標識辦法》的補充，明確了生成合成內容標識應當遵循的技術方法，為產業落地提供了參考依據。”張震說。

在中國電子技術標準化研究院副院長范科峰看來，此次《標識辦法》《標識標準》的協同發佈，破解了以往治理中管理規範與技術標準銜接不暢的問題，形成了“制度牽引技術落地，技術固化制度要求”的治理閉環。

作為我國人工智慧領域首部“辦法+強標”組合拳，其創新性體現在三個維度：管理維度明確生成、傳播、分發全鏈條主體責任；監管維度建立審核、監測、追責的閉環機制；技術維度規範顯隱標識體系並預留創新空間。范科峰說，“這種三位一體的治理架構，既通過管理機制明確責任邊界，又依託監管舉措築牢安全防線，更以技術標準固化治理要求，為人工智慧安全治理提供了清晰的實施路徑。”

規範人工智慧生成合成內容標識的舉措還有許多。全國網路安全標準化技術委員會針對生成合成服務提供者和內容傳播服務提供者的平臺編碼，組織起草了配套實踐指南《網路安全標準實踐指南——人工智慧生成合成內容標識 服務提供者編碼規則》，已於3月14日正式獲批發佈，為相關主體開展檔元數據隱式標識提供了編碼指引。

此外，全國網路安全標準化技術委員會正在就各檔格式的元數據標識規範、各應用場景的標識方法等組織編製一系列推薦性標準、實踐指南，將在《標識辦法》發佈後逐步推出。

全社會凝心聚力協同配合

《標識辦法》《標識標準》的發佈，標誌著我國在人工智慧安全治理領域邁出了重要的一步。推動《標識辦法》《標識標準》落地的重要性不言而喻。

“考慮到企業需要時間充分理解相關規定和標準規範，有針對性地開展能力建設和功能研發，基於標識技術實施的複雜程度、試點試行的實踐經驗，設定《標識辦法》和《標識標準》6個月左右的施行過渡期。”國家網信辦有關負責人說。

“《標識辦法》和《標識標準》的落地離不開全社會的凝心聚力和協同配合。”中國工程院院士、浙江大學教授陳純說，地方主管部門、高校、科研機構、企業可共同參與，充分利用新媒體、新管道面向全社會進行大力宣貫，形成標識工作先行的多點協同內容治理網路，推動標識工作行穩致遠。此外，有必要建立全國性的內容標識公共服務平臺，以可視可交互的實際操練形式，配合口頭宣貫，促進公眾和產業深入理解標識工作。

“可以預見，我國人工智慧安全執法將延續重點事項監管、促進產業有序發展的方向。”公安部第三研究所副所長金波認為，伴隨標識管理與演算法備案、安全評估等機制逐步實現有機銜接，生成合成內容標識合規有望成為相關部門開展人工智慧監督檢查、專項行動的重點關注領域。在此進程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發展與安全、創新與責任、公益與私益等多元目標的內在張力，怎樣達成不同執法部門、不同層級、不同地域執法的一致性、協調性，又該通過何種路徑提升執法的專業化、精細化、智慧化水準，從而培育出安全、開放、公平、符合國情的人工智慧產業生態環境。這些都是標識管理中需要深入探究的重要課題。

“此外，‘人的因素’應融入人工智慧標識管理的全過程，著重提升公眾對於資訊內容真實性、來源可追溯性的批判性評估能力，無疑是重中之重。積極培育公眾人工智慧素養，確保人工智慧技術成果普惠共用，這也是應有之義。”金波說。

張淩寒認為，目前的人工智慧生成合成內容標識制度主要關注於“是否機器生成”的形式判斷，隨著標識技術的進步與發展，未來標識制度能夠發揮更為豐富的功能，從形式判斷逐漸轉向“是否足夠可靠”的質量判斷，進一步促進行業健康發展。