利用人工智能“換臉”“擬聲”冒充親友實施詐騙，借助人工智能合成的假視頻冒充名醫(yī)、名人進行虛假宣傳，通過人工智能生成謠言后在網(wǎng)上傳播……越來越多人工智能生成的信息，充斥在網(wǎng)絡中，真假難辨。
近年來，人工智能技術快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡平臺傳播，在促進經(jīng)濟社會發(fā)展的同時，也產(chǎn)生了生成合成技術濫用、虛假信息傳播擴散加劇等問題，引發(fā)社會各界的關注。
為了促進人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》），自2025年9月1日起施行。
推動建立新技術安全體系
《標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭打造可信賴的人工智能技術。
據(jù)聯(lián)合國高級別人工智能咨詢機構中方專家、中國政法大學數(shù)據(jù)法治研究院教授張凌寒介紹，在人工智能生成合成內(nèi)容的生產(chǎn)環(huán)節(jié)，服務提供者應對生成合成內(nèi)容添加標識。服務提供者應對文本、圖片、音頻、視頻、虛擬場景等典型應用場景的生成合成內(nèi)容添加顯式標識，并在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，以明確內(nèi)容屬性、服務提供者信息等內(nèi)容。
在人工智能生成合成內(nèi)容的傳播環(huán)節(jié)，不同主體應對標識的合規(guī)性進行確認。服務提供者在提供生成合成內(nèi)容下載、復制、導出等服務時，應當確保文件中含有滿足要求的顯式標識。網(wǎng)絡信息內(nèi)容傳播平臺應當核驗文件元數(shù)據(jù)中是否含有隱式標識，并采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識，明確提醒用戶。互聯(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或上線審核時，應核驗生成合成內(nèi)容標識相關材料。
在人工智能生成合成內(nèi)容的使用環(huán)節(jié)，用戶同樣應履行標識義務。服務提供者應當在用戶服務協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關的標識管理要求。用戶向網(wǎng)絡信息內(nèi)容傳播平臺上傳生成合成內(nèi)容時，應當主動聲明并使用平臺提供的標識功能進行標識。
國家計算機網(wǎng)絡應急技術處理協(xié)調(diào)中心正高級工程師張震表示，《標識辦法》是對《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術特性出發(fā)，在生成合成標識這一人工智能安全治理關鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術安全體系的重要推動力。
“《標識辦法》進一步明確了人工智能生成合成內(nèi)容全生命周期履行標識義務的具體要求與主體責任，完善了我國生成式人工智能的治理框架�！睆埩韬f。
張震認為，《標識辦法》充分彰顯了監(jiān)管理念的與時俱進，從傳統(tǒng)的嚴格監(jiān)管轉向更加靈活的引導與規(guī)范，既尊重了技術創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對潛在風險的有效防范。
同步發(fā)布強制性國家標準
為推動《標識辦法》落地實施，強制性國家標準《網(wǎng)絡安全技術 人工智能生成合成內(nèi)容標識方法》（以下簡稱《標識標準》）同步發(fā)布。
國家網(wǎng)信辦有關負責人介紹說，《標識辦法》主要從立法層面提出管理要求，明確生成合成內(nèi)容制作傳播各主體的責任義務，為促進人工智能技術創(chuàng)新發(fā)展，對具體實施操作不作要求�！稑俗R標準》以強制性國家標準形式制定實施，主要提出強制執(zhí)行部分的標識具體實施方式和操作方法，兩者同步推出，于2025年9月1日同步實施，以更好地指導相關主體規(guī)范開展標識活動。
“《標識標準》作為《標識辦法》的補充，明確了生成合成內(nèi)容標識應當遵循的技術方法，為產(chǎn)業(yè)落地提供了參考依據(jù)�！睆堈鹫f。
在中國電子技術標準化研究院副院長范科峰看來，此次《標識辦法》《標識標準》的協(xié)同發(fā)布，破解了以往治理中管理規(guī)范與技術標準銜接不暢的問題，形成了“制度牽引技術落地，技術固化制度要求”的治理閉環(huán)。
作為我國人工智能領域首部“辦法+強標”組合拳，其創(chuàng)新性體現(xiàn)在三個維度：管理維度明確生成、傳播、分發(fā)全鏈條主體責任；監(jiān)管維度建立審核、監(jiān)測、追責的閉環(huán)機制；技術維度規(guī)范顯隱標識體系并預留創(chuàng)新空間。范科峰說，“這種三位一體的治理架構，既通過管理機制明確責任邊界，又依托監(jiān)管舉措筑牢安全防線，更以技術標準固化治理要求，為人工智能安全治理提供了清晰的實施路徑�！�
規(guī)范人工智能生成合成內(nèi)容標識的舉措還有許多。全國網(wǎng)絡安全標準化技術委員會針對生成合成服務提供者和內(nèi)容傳播服務提供者的平臺編碼，組織起草了配套實踐指南《網(wǎng)絡安全標準實踐指南——人工智能生成合成內(nèi)容標識 服務提供者編碼規(guī)則》，已于3月14日正式獲批發(fā)布，為相關主體開展文件元數(shù)據(jù)隱式標識提供了編碼指引。
此外，全國網(wǎng)絡安全標準化技術委員會正在就各文件格式的元數(shù)據(jù)標識規(guī)范、各應用場景的標識方法等組織編制一系列推薦性標準、實踐指南，將在《標識辦法》發(fā)布后逐步推出。
全社會凝心聚力協(xié)同配合
《標識辦法》《標識標準》的發(fā)布，標志著我國在人工智能安全治理領域邁出了重要的一步。推動《標識辦法》《標識標準》落地的重要性不言而喻。
“考慮到企業(yè)需要時間充分理解相關規(guī)定和標準規(guī)范，有針對性地開展能力建設和功能研發(fā)，基于標識技術實施的復雜程度、試點試行的實踐經(jīng)驗，設定《標識辦法》和《標識標準》6個月左右的施行過渡期�！眹揖W(wǎng)信辦有關負責人說。
“《標識辦法》和《標識標準》的落地離不開全社會的凝心聚力和協(xié)同配合�！敝袊こ淘涸菏�、浙江大學教授陳純說，地方主管部門、高校、科研機構、企業(yè)可共同參與，充分利用新媒體、新渠道面向全社會進行大力宣貫，形成標識工作先行的多點協(xié)同內(nèi)容治理網(wǎng)絡，推動標識工作行穩(wěn)致遠。此外，有必要建立全國性的內(nèi)容標識公共服務平臺，以可視可交互的實際操練形式，配合口頭宣貫，促進公眾和產(chǎn)業(yè)深入理解標識工作。
“可以預見，我國人工智能安全執(zhí)法將延續(xù)重點事項監(jiān)管、促進產(chǎn)業(yè)有序發(fā)展的方向。”公安部第三研究所副所長金波認為，伴隨標識管理與算法備案、安全評估等機制逐步實現(xiàn)有機銜接，生成合成內(nèi)容標識合規(guī)有望成為相關部門開展人工智能監(jiān)督檢查、專項行動的重點關注領域。在此進程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發(fā)展與安全、創(chuàng)新與責任、公益與私益等多元目標的內(nèi)在張力，怎樣達成不同執(zhí)法部門、不同層級、不同地域執(zhí)法的一致性、協(xié)調(diào)性，又該通過何種路徑提升執(zhí)法的專業(yè)化、精細化、智慧化水平，從而培育出安全、開放、公平、符合國情的人工智能產(chǎn)業(yè)生態(tài)環(huán)境。這些都是標識管理中需要深入探究的重要課題。
“此外，‘人的因素’應融入人工智能標識管理的全過程，著重提升公眾對于信息內(nèi)容真實性、來源可追溯性的批判性評估能力，無疑是重中之重。積極培育公眾人工智能素養(yǎng)，確保人工智能技術成果普惠共享，這也是應有之義。”金波說。
張凌寒認為，目前的人工智能生成合成內(nèi)容標識制度主要關注于“是否機器生成”的形式判斷，隨著標識技術的進步與發(fā)展，未來標識制度能夠發(fā)揮更為豐富的功能，從形式判斷逐漸轉向“是否足夠可靠”的質(zhì)量判斷，進一步促進行業(yè)健康發(fā)展。
