互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定
信息來(lái)源：深圳市公安局
發(fā)布日期：2023-11-14
國家互聯(lián)網(wǎng)信息辦公室
中華人民共和國工業(yè)和信息化部令
中華人民共和國公安部
第12號
《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定》已經(jīng)2022年11月3日國家互聯(lián)網(wǎng)信息辦公室2022年第21次室務(wù)會(huì )議審議通過(guò)，并經(jīng)工業(yè)和信息化部、公安部同意，現予公布，自2023年1月10日起施行。
國家互聯(lián)網(wǎng)信息辦公室主任 莊榮文
工業(yè)和信息化部部長(cháng) 金壯龍
公安部部長(cháng) 王小洪
2022年11月25日
互聯(lián)網(wǎng)信息服務(wù)深度合成管理規定
第一章 總則
第一條 為了加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚社會(huì )主義核心價(jià)值觀(guān)，維護國家安全和社會(huì )公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網(wǎng)絡(luò )安全法》、《中華人民共和國數據安全法》、《中華人民共和國個(gè)人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律、行政法規，制定本規定。
第二條 在中華人民共和國境內應用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)（以下簡(jiǎn)稱(chēng)深度合成服務(wù)），適用本規定。法律、行政法規另有規定的，依照其規定。
第三條 國家網(wǎng)信部門(mén)負責統籌協(xié)調全國深度合成服務(wù)的治理和相關(guān)監督管理工作。國務(wù)院電信主管部門(mén)、公安部門(mén)依據各自職責負責深度合成服務(wù)的監督管理工作。
地方網(wǎng)信部門(mén)負責統籌協(xié)調本行政區域內的深度合成服務(wù)的治理和相關(guān)監督管理工作。地方電信主管部門(mén)、公安部門(mén)依據各自職責負責本行政區域內的深度合成服務(wù)的監督管理工作。
第四條 提供深度合成服務(wù)，應當遵守法律法規，尊重社會(huì )公德和倫理道德，堅持正確政治方向、輿論導向、價(jià)值取向，促進(jìn)深度合成服務(wù)向上向善。
第五條 鼓勵相關(guān)行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，督促指導深度合成服務(wù)提供者和技術(shù)支持者制定完善業(yè)務(wù)規范、依法開(kāi)展業(yè)務(wù)和接受社會(huì )監督。
第二章 一般規定
第六條 任何組織和個(gè)人不得利用深度合成服務(wù)制作、復制、發(fā)布、傳播法律、行政法規禁止的信息，不得利用深度合成服務(wù)從事危害國家安全和利益、損害國家形象、侵害社會(huì )公共利益、擾亂經(jīng)濟和社會(huì )秩序、侵犯他人合法權益等法律、行政法規禁止的活動(dòng)。
深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。
第七條 深度合成服務(wù)提供者應當落實(shí)信息安全主體責任，建立健全用戶(hù)注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數據安全、個(gè)人信息保護、反電信網(wǎng)絡(luò )詐騙、應急處置等管理制度，具有安全可控的技術(shù)保障措施。
第八條 深度合成服務(wù)提供者應當制定和公開(kāi)管理規則、平臺公約，完善服務(wù)協(xié)議，依法依約履行管理責任，以顯著(zhù)方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔信息安全義務(wù)。
第九條 深度合成服務(wù)提供者應當基于移動(dòng)電話(huà)號碼、身份證件號碼、統一社會(huì )信用代碼或者國家網(wǎng)絡(luò )身份認證公共服務(wù)等方式，依法對深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認證，不得向未進(jìn)行真實(shí)身份信息認證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。
第十條 深度合成服務(wù)提供者應當加強深度合成內容管理，采取技術(shù)或者人工方式對深度合成服務(wù)使用者的輸入數據和合成結果進(jìn)行審核。
深度合成服務(wù)提供者應當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規則和程序，記錄并留存相關(guān)網(wǎng)絡(luò )日志。
深度合成服務(wù)提供者發(fā)現違法和不良信息的，應當依法采取處置措施，保存有關(guān)記錄，及時(shí)向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報告；對相關(guān)深度合成服務(wù)使用者依法依約采取警示、限制功能、暫停服務(wù)、關(guān)閉賬號等處置措施。
第十一條 深度合成服務(wù)提供者應當建立健全辟謠機制，發(fā)現利用深度合成服務(wù)制作、復制、發(fā)布、傳播虛假信息的，應當及時(shí)采取辟謠措施，保存有關(guān)記錄，并向網(wǎng)信部門(mén)和有關(guān)主管部門(mén)報告。
第十二條 深度合成服務(wù)提供者應當設置便捷的用戶(hù)申訴和公眾投訴、舉報入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理和反饋處理結果。
第十三條 互聯(lián)網(wǎng)應用商店等應用程序分發(fā)平臺應當落實(shí)上架審核、日常管理、應急處置等安全管理責任，核驗深度合成類(lèi)應用程序的安全評估、備案等情況；對違反國家有關(guān)規定的，應當及時(shí)采取不予上架、警示、暫停服務(wù)或者下架等處置措施。
第三章 數據和技術(shù)管理規范
第十四條 深度合成服務(wù)提供者和技術(shù)支持者應當加強訓練數據管理，采取必要措施保障訓練數據安全；訓練數據包含個(gè)人信息的，應當遵守個(gè)人信息保護的有關(guān)規定。
深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨同意。
第十五條 深度合成服務(wù)提供者和技術(shù)支持者應當加強技術(shù)管理，定期審核、評估、驗證生成合成類(lèi)算法機制機理。
深度合成服務(wù)提供者和技術(shù)支持者提供具有以下功能的模型、模板等工具的，應當依法自行或者委托專(zhuān)業(yè)機構開(kāi)展安全評估：
（一）生成或者編輯人臉、人聲等生物識別信息的；
（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會(huì )公共利益的特殊物體、場(chǎng)景等非生物識別信息的。
第十六條 深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內容，應當采取技術(shù)措施添加不影響用戶(hù)使用的標識，并依照法律、行政法規和國家有關(guān)規定保存日志信息。
第十七條 深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進(jìn)行顯著(zhù)標識，向公眾提示深度合成情況：
（一）智能對話(huà)、智能寫(xiě)作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；
（二）合成人聲、仿聲等語(yǔ)音生成或者顯著(zhù)改變個(gè)人身份特征的編輯服務(wù)；
（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著(zhù)改變個(gè)人身份特征的編輯服務(wù)；
（四）沉浸式擬真場(chǎng)景等生成或者編輯服務(wù)；
（五）其他具有生成或者顯著(zhù)改變信息內容功能的服務(wù)。
深度合成服務(wù)提供者提供前款規定之外的深度合成服務(wù)的，應當提供顯著(zhù)標識功能，并提示深度合成服務(wù)使用者可以進(jìn)行顯著(zhù)標識。
第十八條 任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿本規定第十六條和第十七條規定的深度合成標識。
第四章 監督檢查與法律責任
第十九條 具有輿論屬性或者社會(huì )動(dòng)員能力的深度合成服務(wù)提供者，應當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》履行備案和變更、注銷(xiāo)備案手續。
深度合成服務(wù)技術(shù)支持者應當參照前款規定履行備案和變更、注銷(xiāo)備案手續。
完成備案的深度合成服務(wù)提供者和技術(shù)支持者應當在其對外提供服務(wù)的網(wǎng)站、應用程序等的顯著(zhù)位置標明其備案編號并提供公示信息鏈接。
第二十條 深度合成服務(wù)提供者開(kāi)發(fā)上線(xiàn)具有輿論屬性或者社會(huì )動(dòng)員能力的新產(chǎn)品、新應用、新功能的，應當按照國家有關(guān)規定開(kāi)展安全評估。
第二十一條 網(wǎng)信部門(mén)和電信主管部門(mén)、公安部門(mén)依據職責對深度合成服務(wù)開(kāi)展監督檢查。深度合成服務(wù)提供者和技術(shù)支持者應當依法予以配合，并提供必要的技術(shù)、數據等支持和協(xié)助。
網(wǎng)信部門(mén)和有關(guān)主管部門(mén)發(fā)現深度合成服務(wù)存在較大信息安全風(fēng)險的，可以按照職責依法要求深度合成服務(wù)提供者和技術(shù)支持者采取暫停信息更新、用戶(hù)賬號注冊或者其他相關(guān)服務(wù)等措施。深度合成服務(wù)提供者和技術(shù)支持者應當按照要求采取措施，進(jìn)行整改，消除隱患。
第二十二條 深度合成服務(wù)提供者和技術(shù)支持者違反本規定的，依照有關(guān)法律、行政法規的規定處罰；造成嚴重后果的，依法從重處罰。
構成違反治安管理行為的，由公安機關(guān)依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第五章 附則
第二十三條 本規定中下列用語(yǔ)的含義：
深度合成技術(shù)，是指利用深度學(xué)習、虛擬現實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等網(wǎng)絡(luò )信息的技術(shù)，包括但不限于：
（一）篇章生成、文本風(fēng)格轉換、問(wèn)答對話(huà)等生成或者編輯文本內容的技術(shù)；
（二）文本轉語(yǔ)音、語(yǔ)音轉換、語(yǔ)音屬性編輯等生成或者編輯語(yǔ)音內容的技術(shù)；
（三）音樂(lè )生成、場(chǎng)景聲編輯等生成或者編輯非語(yǔ)音內容的技術(shù)；
（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內容中生物特征的技術(shù)；
（五）圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術(shù)；
（六）三維重建、數字仿真等生成或者編輯數字人物、虛擬場(chǎng)景的技術(shù)。
深度合成服務(wù)提供者，是指提供深度合成服務(wù)的組織、個(gè)人。
深度合成服務(wù)技術(shù)支持者，是指為深度合成服務(wù)提供技術(shù)支持的組織、個(gè)人。
深度合成服務(wù)使用者，是指使用深度合成服務(wù)制作、復制、發(fā)布、傳播信息的組織、個(gè)人。
訓練數據，是指被用于訓練機器學(xué)習模型的標注或者基準數據集。
沉浸式擬真場(chǎng)景，是指應用深度合成技術(shù)生成或者編輯的、可供參與者體驗或者互動(dòng)的、具有高度真實(shí)感的虛擬場(chǎng)景。
第二十四條 深度合成服務(wù)提供者和技術(shù)支持者從事網(wǎng)絡(luò )出版服務(wù)、網(wǎng)絡(luò )文化活動(dòng)和網(wǎng)絡(luò )視聽(tīng)節目服務(wù)的，應當同時(shí)符合新聞出版、文化和旅游、廣播電視主管部門(mén)的規定。
第二十五條 本規定自2023年1月10日起施行。