1月28日，國家互聯網信息辦公室發布關於《互聯網信息服務深度合成管理規定（徵求意見稿）》公開徵求意見的通知。其中，徵求意見稿提出，深度合成服務提供者應當建立健全闢謠機制，發現深度合成信息服務使用者利用深度合成技術製作、複製、發布、傳播虛假信息的，應當及時採取相應的闢謠措施，並將相關信息報網信等部門備案。

　意見反饋截止日期為2022年2月28日。

　全文如下：

　互聯網信息服務深度合成管理規定

　（徵求意見稿）

　第一條 為了規範互聯網信息服務深度合成活動，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，制定本規定。

　第二條 在中華人民共和國境內應用深度合成技術提供互聯網信息服務（以下簡稱深度合成服務），以及為深度合成服務提供技術支持的活動，適用本規定。法律、行政法規另有規定的，依照其規定。

　本規定所稱深度合成技術，是指利用以深度學習、虛擬現實為代表的生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等信息的技術，包括但不限於：

　（一）篇章生成、文本風格轉換、問答對話等對文本內容進行生成或者編輯的技術；

　（二）文本轉語音、語音轉換、語音屬性編輯等對語音內容進行生成或者編輯的技術；

　（三）音樂生成、場景聲編輯等對非語音內容進行生成或者編輯的技術；

　（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等對圖像、視頻內容中人臉等生物特徵進行生成或者編輯的技術；

　（五）圖像增強、圖像修復等對圖像、視頻內容中非生物特徵進行編輯的技術；

　（六）三維重建等對虛擬場景進行生成或者編輯的技術。

　深度合成服務提供者，是指提供深度合成服務以及為深度合成服務提供技術支持的組織。

　深度合成服務使用者，是指使用深度合成服務製作、複製、發布、傳播信息的組織、個人。

　第三條 國家網信部門負責統籌協調全國深度合成服務治理和相關監督管理工作。地方網信部門負責統籌協調本行政區域內的深度合成服務治理和相關監督管理工作。

　第四條 深度合成服務提供者和深度合成服務使用者應當遵守法律法規，尊重社會公德和倫理，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。

　第五條 鼓勵相關行業組織加強行業自律，建立健全行業標準、行業準則和自律管理制度，督促指導深度合成服務提供者制定完善服務規範、加強信息內容安全管理、依法提供服務並接受社會監督。

　第六條 任何組織和個人不得利用深度合成服務從事危害國家安全、破壞社會穩定、擾亂社會秩序、侵犯他人合法權益等法律法規禁止的活動，不得製作、複製、發布、傳播含有煽動顛覆國家政權、危害國家安全和社會穩定、淫穢色情、虛假信息，以及侵害他人名譽權、肖像權、私隱權、知識產權和其他合法權益等法律法規禁止內容的信息。

　第七條 深度合成服務提供者應當落實信息安全主體責任，建立健全算法機制機理審核、用戶註冊、信息內容管理、數據安全和個人信息保護、未成年人保護、從業人員教育培訓等管理制度，具有與新技術新應用發展相適應的安全可控的技術保障措施。

　第八條 深度合成服務提供者應當制定並公開管理規則和平台公約，完善服務協議，以顯著方式提示深度合成服務使用者信息安全義務，並依法依約履行相應管理責任。

　第九條 深度合成服務提供者應當依法對深度合成服務使用者進行真實身份信息認證。深度合成服務使用者不進行真實身份信息認證的，深度合成服務提供者不得為其提供信息發布服務。

　第十條 深度合成服務提供者應當加強深度合成信息內容管理，採取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核；建立健全用於識別違法和不良深度合成信息內容的特徵庫，完善入庫標準、規則和程序；對違法和不良信息依法採取相應處置措施，並對相關深度合成服務使用者依法依約採取警示、限制功能、暫停服務、關閉賬號等處置措施。

　第十一條 深度合成服務提供者應當加強深度合成技術管理，定期審核、評估、驗證算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當自行開展安全評估，預防信息安全風險。

　第十二條 深度合成服務提供者應當加強訓練數據管理，確保數據處理合法、正當，採取必要措施保障數據安全。訓練數據包含涉及個人信息數據的，還應當遵守個人信息保護有關規定，不得非法處理個人信息。

　深度合成服務提供者提供人臉、人聲等生物識別信息的顯著編輯功能的，應當提示深度合成服務使用者依法告知並取得被編輯的個人信息主體的單獨同意。法律、行政法規另有規定的除外。

　第十三條深度合成服務提供者對使用其服務所製作的深度合成信息內容，應當通過有效技術措施在信息內容中添加不影響用戶使用的標識，依法保存日誌信息，使發布、傳播的深度合成信息內容可被自身識別、追溯。

　第十四條 深度合成服務提供者提供以下深度合成服務的，應當使用顯著方式對深度合成信息內容進行標識，向社會公眾有效提示信息內容的合成情況：

　（一）提供智能對話、智能寫作等模擬自然人進行文本生成或者編輯服務的，在文本信息內容的稿源說明處等位置進行顯著標識；

　（二）提供合成人聲、仿聲等語音生成或者顯著改變個人身份特徵的編輯服務的，在音頻信息內容的合理區域以語音說明等方式進行顯著標識；

　（三）提供人臉生成、人臉替換、人臉操控、姿態操控等虛擬人物圖像、視頻生成或者顯著改變個人身份特徵的編輯服務的，在圖像、視頻信息內容的明顯位置進行顯著標識；

　（四）提供沉浸式擬真場景等生成或者編輯服務的，在虛擬場景信息內容的明顯位置進行顯著標識；

　（五）提供其他具有生成或者顯著改變信息內容功能的服務的，在文本、圖像、音頻或者視頻、虛擬場景等的合理位置或者區域進行顯著標識。

　深度合成服務提供者提供前款規定之外的深度合成服務的，應當向深度合成服務使用者提供對深度合成信息內容進行顯著標識的功能，並提示深度合成服務使用者可以對深度合成信息內容進行顯著標識。

　第十五條 深度合成服務提供者發現第十四條第一款規定的深度合成信息內容未進行顯著標識的，應當立即停止傳輸該信息，按照規定作出顯著標識後，方可繼續傳輸。

　第十六條 互聯網應用商店服務提供者應當對深度合成服務提供者提供的深度合成應用程式履行安全管理責任，依法依約核驗深度合成應用程式的安全評估、備案等情況；對違反國家有關規定的，應當及時採取不予上架、暫停上架或者下架等處置措施。

　第十七條 深度合成服務提供者應當建立健全闢謠機制，發現深度合成信息服務使用者利用深度合成技術製作、複製、發布、傳播虛假信息的，應當及時採取相應的闢謠措施，並將相關信息報網信等部門備案。

　第十八條 深度合成服務提供者應當設置便捷有效的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理並反饋處理結果。

　第十九條 深度合成服務提供者應當按照《互聯網信息服務算法推薦管理規定》的有關規定，在提供服務之日起十個工作日內履行備案手續。

　完成備案的深度合成服務提供者應當在其對外提供服務的網站、應用程式等的顯著位置標明其備案編號並提供公示信息連結。

　第二十條 深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。

　第二十一條 各級網信部門對深度合成信息服務提供者履行深度合成信息內容管理主體責任情況開展監督檢查，對存在問題的深度合成信息服務提供者及時提出整改意見並限期整改。

　深度合成服務提供者對網信部門依法實施的監督檢查，應當予以配合，並提供必要的技術、數據等支持和協助。

　第二十二條 違反本規定第七條、第八條、第十條、第十一條、第十三條、第十四條、第十五條、第十六條、第十七條、第十八條、第二十條、第二十一條第二款規定，法律、行政法規有規定的，依照其規定；法律、行政法規沒有規定的，由國家和省、自治區、直轄市網信部門依據職責給予警告，責令限期改正，改正前應當暫停相關業務；拒不改正或者情節嚴重的，責令暫停信息更新，並處一萬元以上十萬元以下罰款。

　違反本規定第六條、第九條、第十二條、第十九條規定的，由國家和省、自治區、直轄市網信部門依據職責，按照有關法律、行政法規和部門規章的規定予以處理。

　違反本規定，給他人造成損害的，依法承擔民事責任；構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

　第二十三條 本規定中下列用語的含義：

　場景聲，是指音頻中非語音內容的背景聲音。

　人臉操控，是指對圖像、視頻中人物的面部表情等進行操控。

　姿態操控，是指對圖像、視頻中人物的肢體動作等進行操控。

　三維重建，是指利用數據生成或者編輯場景三維立體影像的深度合成技術。

　訓練數據，是指被用於訓練機器學習模型的標註或者基準數據集。

　沉浸式擬真場景，是指通過深度合成技術生成或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛擬場景。

　第二十四條 本規定由國家互聯網信息辦公室負責解釋。

　第二十五條 本規定自 年 月 日起施行。