AI變臉源于深度偽造技術，利用“對抗生成網絡”模型，以生成模型和判別模型之間的持續對抗博弈，不斷自我演進優化，實現快速迭代的“無監督學習”。AI變臉具有高度真實性、泛在普適性和快速演化性等特征。
AI變臉技術產生的風險
AI變臉技術其風險呈現出多樣性發展態勢。非法AI變臉生產出的虛假新聞、虛假廣告等內容，經由不同平臺的傳播，以場景再現的技術優勢，顛覆受眾的已有認知，對倫理與道德提出挑戰。AI變臉技術將原本極具真實性和現場感的多模態視頻呈現變成了“鏡花水月”，模糊真相與假象的界限，創造出虛擬世界，沖擊民眾對真實信息的信任，甚至會引發社會信任危機。AI變臉以“數字嫁接”創造加工出包括“數字虛擬人”的高仿真虛擬場景，民眾生活在虛擬與現實交織的世界，導致真實自我在現實社會中的認知迷失。此外，AI變臉通過深度偽造，以“混淆視聽”的虛假敘事，沖擊民眾心理，侵蝕社會信任，擾亂政治輿論生態，AI變臉既可突破對方基于生物特征的身份認證體系，竊取情報信息，又可偽造突發事件，發布虛假信息，制造輿論恐慌。
如何規避AI變臉技術所引起的風險
AI變臉技術風險的規制涉及范圍廣、領域寬、內容多，蘊含活力與秩序、自由與安全、責任與信任等諸多方面，是一項復雜的系統工程。要強化高位統籌、頂層設計、系統謀劃、整體推進，以數據算法、合作共治、信息保護、法律法規等維度的同向發力、良性互動，聚力推進AI變臉技術異化治理體系的構建創新，有效管控風險，提升整體治理效能。
以數據算法為基石，深化從源頭治理。算法既是AI變臉的技術核心，又是其生成路徑。智能算法具有的數據共享、自主學習、封裝移植等特質，將普通民眾徹底隔絕在信息內容的生產、過濾、推薦鏈條外，引致產生與AI變臉天然契合的“算法黑箱”。規制AI變臉技術的風險，要強化算法治理。強化主流價值引領算法，將其嵌入到AI變臉技術發展的全生命周期，引導算法設計者、信息分發者堅持正確價值取向，引導算法應用向上向善。構建算法數據庫，收錄AI變臉技術的生成算法、識別算法和檢測算法等模型，以溯源防偽、反向破解輔助識別判定AI變臉作品，并將其同步收錄數據庫，通過樣本的累積迭代，提升比對判定能力。優化傳播媒介平臺內部算法，構建事實核查、分級檢測和分級推薦機制，強化外部算法治理，協同優化算法的準入、監督、投訴和評估等配套制度體系。
以合作共治為架構，推進協同治理。AI變臉技術異化的規制蘊含組織與制度等多元要素，應秉持審慎、理性、權衡和預防的原則，在網絡化、包容性、無縫隙的協作框架下聚智共謀，推進協同治理。要秉持合作精神，培育共治價值，優化完善合作治理、共同治理機制，在規章制度框架內，通過資源整合、功能互補，尋求最大“公約數”，驅動AI變臉技術風險治理由點狀分散向融合交互躍遷。要以主體跨域協同、路徑集成協同、信息交互協同為路徑，優化協同治理界面，貫通政府部門、傳播平臺、技術開發、產品制作、網絡用戶的責任傳導鏈條，創新協同治理，提振治理質效。強化政府部門、社交平臺、科研院所的良性互動，厘清權責關系，破除壁壘、疏解堵點、理順機制、暢通渠道，共同開發檢測審查AI變臉的技術算法，畫好協同治理“同心圓”，共同應對AI變臉技術風險。
以信息保護為支撐，構筑立體屏障。生物識別信息具有人身表征性、不可替代性特點，既是AI變臉的原始材料，也是基礎根基。AI變臉技術異化的風險規制，應以“隱私控制”為原則，構建從收集到存儲再到應用的多維立體保護體系。AI變臉技術使用者采集面部識別信息時，應秉持知情同意、目的限制、正當誠信、必要安全的基本原則，嚴格遵守個人信息保護法中基于“特定的目的和充分的必要性”“取得個人的單獨同意”的條款規定。細化采集入庫規則，建立媒介平臺動態征詢和信息披露機制，基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲規則，媒介平臺應采取加密技術，隱名化、匿名化儲存用戶生物識別信息，嚴格限定儲存期限和敏感應用場景。豐富加工利用規則，制作者、上傳者對原始視頻采用語音標識、數字水印等方式進行信源標注，優化信息公開、轉讓，確保檢測核查有據可循。
以法律框定為紅線，厘清技術邊界。秉持“技術—經濟—社會”的模式，兼顧必要的社會面向，平衡調和公共利益和個人權益之間的張力。持續完善行政與民事相結合的法律規制體系構造，健全法律規制體系的層次性和梯度性，回應AI變臉技術異化導致法益侵害復合化，為技術發展提供方向指引。在2023年1月10日施行的《互聯網信息服務深度合成管理規定》的基礎之上，進一步厘清AI變臉源頭制作者的法律責任，細化AI變臉可能帶來的侵權行為，做好追蹤溯源。構建要素上貫通生產、使用、維護、監管等節點，內容上統合審查、商議、監督、互動機制的法律規范框架體系。加大平臺處罰力度，增設傳播媒介平臺的技術檢測義務和過濾刪除的“守門人”責任，以疏堵結合的策略，細化不同場景應用的法律規制，以法律為AI變臉框定紅線。
