為了規範互聯網信息服務深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，我辦起草了《互聯網信息服務深度合成管理規定（徵求意見稿）》，現向社會公開徵求意見。公眾可通過以下途徑和方式提出反饋意見：
1.登錄中華人民共和國司法部 中國政府法制信息網（www.moj.gov.cn、www.chinalaw.gov.cn），進入首頁主菜單的“立法意見徵集”欄目提出意見。
2.通過電子郵件將意見發送至：[email protected]。
3.通過信函將意見寄至：北京市西城區車公庄大街11號國家互聯網信息辦公室網絡法治局，郵編：100044，並請在信封上註明“互聯網信息服務深度合成管理規定徵求意見”字樣。
意見反饋截止日期為2022年2月28日。
附件1：互聯網信息服務深度合成管理規定（徵求意見稿）
附件2：關於《互聯網信息服務深度合成管理規定（徵求意見稿）》的說明
國家互聯網信息辦公室
2022年1月28日
互聯網信息服務深度合成管理規定
（徵求意見稿）
第一條 為了規範互聯網信息服務深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，制定本規定。
第二條 在中華人民共和國境內應用深度合成技術提供互聯網信息服務（以下簡稱深度合成服務），以及為深度合成服務提供技術支持的活動，適用本規定。法律、行政法規另有規定的，依照其規定。
本規定所稱深度合成技術，是指利用以深度學習、虛擬現實為代表的生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括但不限於：
（一）篇章生成、文本風格轉換、問答對話等對文本內容進行生成或者編輯的技術；
（二）文本轉語音、語音轉換、語音屬性編輯等對語音內容進行生成或者編輯的技術；
（三）音樂生成、場景聲編輯等對非語音內容進行生成或者編輯的技術；
（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等對圖像、視頻內容中人臉等生物特徵進行生成或者編輯的技術；
（五）圖像增強、圖像修復等對圖像、視頻內容中非生物特徵進行編輯的技術；
（六）三維重建等對虛擬場景進行生成或者編輯的技術。
深度合成服務提供者，是指提供深度合成服務以及為深度合成服務提供技術支持的組織。
深度合成服務使用者，是指使用深度合成服務製作、複製、發布、傳播信息的組織、個人。
第三條 國家網信部門負責統籌協調全國深度合成服務治理和相關監督管理工作。地方網信部門負責統籌協調本行政區域內的深度合成服務治理和相關監督管理工作。
第四條 深度合成服務提供者和深度合成服務使用者應當遵守法律法規，尊重社會公德和倫理，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。
第五條 鼓勵相關行業組織加強行業自律，建立健全行業標準、行業準則和自律管理制度，督促指導深度合成服務提供者制定完善服務規範、加強信息內容安全管理、依法提供服務並接受社會監督。
第六條 任何組織和個人不得利用深度合成服務從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，不得製作、複製、發布、傳播含有煽動顛覆國家政權、危害國家安全和社會穩定、淫穢色情、虛假信息，以及侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益等法律法規禁止內容的信息。
第七條 深度合成服務提供者應當落實信息安全主體責任，建立健全算法機制機理審核、用戶註冊、信息內容管理、數據安全和個人信息保護、未成年人保護、從業人員教育培訓等管理制度，具有與新技術新應用發展相適應的安全可控的技術保障措施。
第八條 深度合成服務提供者應當制定並公開管理規則和平台公約，完善服務協議，以顯著方式提示深度合成服務使用者信息安全義務，並依法依約履行相應管理責任。
第九條 深度合成服務提供者應當依法對深度合成服務使用者進行真實身份信息認證。深度合成服務使用者不進行真實身份信息認證的，深度合成服務提供者不得為其提供信息發布服務。
第十條 深度合成服務提供者應當加強深度合成信息內容管理，採取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核；建立健全用於識別違法和不良深度合成信息內容的特徵庫，完善入庫標準、規則和程序；對違法和不良信息依法採取相應處置措施，並對相關深度合成服務使用者依法依約採取警示、限制功能、暫停服務、關閉賬號等處置措施。
第十一條 深度合成服務提供者應當加強深度合成技術管理，定期審核、評估、驗證算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當自行開展安全評估，預防信息安全風險。
第十二條 深度合成服務提供者應當加強訓練數據管理，確保數據處理合法、正當，採取必要措施保障數據安全。訓練數據包含涉及個人信息數據的，還應當遵守個人信息保護有關規定，不得非法處理個人信息。
深度合成服務提供者提供人臉、人聲等生物識別信息的顯著編輯功能的，應當提示深度合成服務使用者依法告知並取得被編輯的個人信息主體的單獨同意。法律、行政法規另有規定的除外。
第十三條深度合成服務提供者對使用其服務所製作的深度合成信息內容，應當通過有效技術措施在信息內容中添加不影響用戶使用的標識，依法保存日誌信息，使發布、傳播的深度合成信息內容可被自身識別、追溯。
第十四條 深度合成服務提供者提供以下深度合成服務的，應當使用顯著方式對深度合成信息內容進行標識，向社會公眾有效提示信息內容的合成情況：
（一）提供智能對話、智能寫作等模擬自然人進行文本生成或者編輯服務的，在文本信息內容的稿源說明處等位置進行顯著標識；
（二）提供合成人聲、仿聲等語音生成或者顯著改變個人身份特徵的編輯服務的，在音頻信息內容的合理區域以語音說明等方式進行顯著標識；
（三）提供人臉生成、人臉替換、人臉操控、姿態操控等虛擬人物圖像、視頻生成或者顯著改變個人身份特徵的編輯服務的，在圖像、視頻信息內容的明顯位置進行顯著標識；
（四）提供沉浸式擬真場景等生成或者編輯服務的，在虛擬場景信息內容的明顯位置進行顯著標識；
（五）提供其他具有生成或者顯著改變信息內容功能的服務的，在文本、圖像、音頻或者視頻、虛擬場景等的合理位置或者區域進行顯著標識。
深度合成服務提供者提供前款規定之外的深度合成服務的，應當向深度合成服務使用者提供對深度合成信息內容進行顯著標識的功能，並提示深度合成服務使用者可以對深度合成信息內容進行顯著標識。
第十五條 深度合成服務提供者發現第十四條第一款規定的深度合成信息內容未進行顯著標識的，應當立即停止傳輸該信息，按照規定作出顯著標識后，方可繼續傳輸。
第十六條 互聯網應用商店服務提供者應當對深度合成服務提供者提供的深度合成應用程序履行安全管理責任，依法依約核驗深度合成應用程序的安全評估、備案等情況；對違反國家有關規定的，應當及時採取不予上架、暫停上架或者下架等處置措施。
第十七條 深度合成服務提供者應當建立健全闢謠機制，發現深度合成信息服務使用者利用深度合成技術製作、複製、發布、傳播虛假信息的，應當及時採取相應的闢謠措施，並將相關信息報網信等部門備案。
第十八條 深度合成服務提供者應當設置便捷有效的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理並反饋處理結果。
第十九條 深度合成服務提供者應當按照《互聯網信息服務算法推薦管理規定》的有關規定，在提供服務之日起十個工作日內履行備案手續。
完成備案的深度合成服務提供者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號並提供公示信息鏈接。
第二十條 深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。
第二十一條 各級網信部門對深度合成信息服務提供者履行深度合成信息內容管理主體責任情況開展監督檢查，對存在問題的深度合成信息服務提供者及時提出整改意見並限期整改。
深度合成服務提供者對網信部門依法實施的監督檢查，應當予以配合，並提供必要的技術、數據等支持和協助。
第二十二條 違反本規定第七條、第八條、第十條、第十一條、第十三條、第十四條、第十五條、第十六條、第十七條、第十八條、第二十條、第二十一條第二款規定，法律、行政法規有規定的，依照其規定；法律、行政法規沒有規定的，由國家和省、自治區、直轄市網信部門依據職責給予警告，責令限期改正，改正前應當暫停相關業務；拒不改正或者情節嚴重的，責令暫停信息更新，並處一萬元以上十萬元以下罰款。
違反本規定第六條、第九條、第十二條、第十九條規定的，由國家和省、自治區、直轄市網信部門依據職責，按照有關法律、行政法規和部門規章的規定予以處理。
違反本規定，給他人造成損害的，依法承擔民事責任；構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第二十三條 本規定中下列用語的含義：
場景聲，是指音頻中非語音內容的背景聲音。
人臉操控，是指對圖像、視頻中人物的面部表情等進行操控。
姿態操控，是指對圖像、視頻中人物的肢體動作等進行操控。
三維重建，是指利用數據生成或者編輯場景三維立體影像的深度合成技術。
訓練數據，是指被用於訓練機器學習模型的標註或者基準數據集。
沉浸式擬真場景，是指通過深度合成技術生成或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛擬場景。
第二十四條 本規定由國家互聯網信息辦公室負責解釋。
第二十五條 本規定自 年 月 日起施行。
關於《互聯網信息服務深度合成管理規定（徵求意見稿）》的說明
為了規範互聯網信息服務深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，國家互聯網信息辦公室起草了《互聯網信息服務深度合成管理規定（徵求意見稿）》（以下稱《規定（徵求意見稿）》）。有關情況說明如下：
一、制定的必要性
（一）貫徹黨中央決策部署的重要舉措。黨的十九大報告提出“加強互聯網內容建設，建立網絡綜合治理體系，營造清朗的網絡空間”的任務要求。黨中央印發的《法治社會建設實施綱要（2020－2025年）》提出制定完善對算法推薦、深度偽造等新技術應用的規範管理辦法。落實黨中央決策部署，需要統籌安全與發展，加快制定完善制度規範，促進深度合成技術依法合理有效利用。
（二）維護網絡空間良好生態的現實需要。網絡空間是億萬民眾共同的家園，互聯網信息服務深度合成活動在服務用戶需求、改進用戶體驗的同時，也被一些不法分子用於製作、複製、發布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，不僅損害人民群眾的切身利益，甚至危害國家安全和社會穩定，迫切需要劃定“底線”、“紅線”，規範發展互聯網信息服務深度合成活動，維護網絡空間良好生態。
（三）深化互聯網信息服務依法管理的客觀要求。在前期已出台《網絡信息內容生態治理規定》、《互聯網信息服務算法推薦管理規定》、《網絡音視頻信息服務管理規定》等相關部門規章和規範性文件，明確對生成合成類算法和利用深度學習、虛擬現實等新技術新應用製作音視頻內容等的監管要求的基礎上，需要進一步釐清、細化深度合成技術的應用場景，明確深度合成服務提供者和使用者的信息安全義務，出台具有系統性、針對性和可操作性的專門管理規定。
二、起草過程
（一）開展立法調研。深入企業、科研院所、高校等單位調查研究國內深度合成技術發展、應用場景，充分研究國內外深度合成技術發展應用中存在的問題及監管情況，全面梳理互聯網信息服務深度合成活動信息安全風險。
（二）組織研究論證。組織系列專家研討會，邀請科研院所和高校技術、法律專家對互聯網信息服務深度合成活動現狀、問題及法律規制進行深入分析，並就《規定》體例框架、主要制度和具體內容開展論證研究。
（三）起草《規定（徵求意見稿）》。堅持問題導向和目標導向，落實、細化《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規要求，起草形成《規定（徵求意見稿）》。
三、主要內容
《規定（徵求意見稿）》共二十五條，主要規定了以下五個方面的內容。
（一）明確了制定目的依據、適用範圍和總體要求。明確在中華人民共和國境內應用深度合成技術提供互聯網信息服務，以及為深度合成服務提供技術支持的活動，適用本規定。明確深度合成技術、深度合成服務提供者和深度合成服務使用者等概念的含義。明確國家網信部門、地方網信部門的統籌協調和監督管理職責以及深度合成服務提供者、使用者的基本要求。鼓勵相關行業組織加強行業自律。強調不得利用深度合成服務從事法律法規禁止的活動，不得製作、複製、發布、傳播含有法律法規禁止內容的信息。（第一條至第六條）
（二）明確了深度合成服務提供者主體責任。要求建立健全算法機制機理審核、信息內容管理、從業人員教育培訓等管理制度，具有與新技術新應用發展相適應的安全可控的技術保障措施。應當制定並公開管理規則和平台公約，並對使用者依法進行真實身份信息認證。加強內容管理，採取技術或者人工方式對輸入數據和合成結果進行審核，並建立健全相關特徵庫。加強技術管理，定期審核、評估、驗證算法機制機理。提供涉及生物識別信息或者可能涉及國家安全、社會公共利益的模型、模板等工具的，應當自行開展安全評估，預防信息安全風險。加強訓練數據管理，確保數據處理正當、合法，採取必要措施保障數據和個人信息安全。（第七條至第十二條）
（三）明確了深度合成信息內容標識管理制度。要求深度合成服務提供者對使用其服務所製作的深度合成信息內容，通過有效技術措施添加不影響用戶使用的標識，依法保存日誌信息，使深度合成信息內容可被自身識別、追溯。對生成或者顯著改變信息內容的深度合成信息內容，應當使用顯著方式進行標識，向社會公眾有效提示信息內容的合成情況；對其他深度合成信息內容，應當提供進行顯著標識的功能，並提示使用者可以自行標識。發現應該進行顯著標識而未顯著標識的，應當立即停止傳輸該信息，按規定作出顯著標識后，方可繼續傳輸。（第十三條至第十五條）
（四）明確了監督管理相關要求。互聯網應用商店服務提供者應當對深度合成應用程序履行安全管理責任，依法依約核驗安全評估、備案等情況，對違反國家有關規定的，及時採取不予上架、暫停上架或者下架等處置措施。深度合成服務提供者應當建立健全闢謠機制，設置便捷有效的用戶申訴和公眾投訴、舉報入口；應當按照有關規定履行備案手續、標明備案編號；開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估；對網信部門依法實施的監督檢查，應當予以配合，並提供必要的技術、數據等支持和協助。（第十六條至第二十一條）
（五）明確了法律責任、解釋部門和施行日期。違反《規定》相關規定的，由國家和省、自治區、直轄市網信部門依據職責，按照《規定》和有關法律法規規章的規定予以處理。《規定》由國家互聯網信息辦公室負責解釋。（第二十二條至第二十五條）
