AI變臉源于深度偽造技術(shù)，利用“對抗生成網(wǎng)絡(luò)”模型，以生成模型和判別模型之間的持續(xù)對抗博弈，不斷自我演進(jìn)優(yōu)化，實現(xiàn)快速迭代的“無監(jiān)督學(xué)習(xí)”。AI變臉具有高度真實性、泛在普適性和快速演化性等特征。
AI變臉技術(shù)產(chǎn)生的風(fēng)險
AI變臉技術(shù)其風(fēng)險呈現(xiàn)出多樣性發(fā)展態(tài)勢。非法AI變臉生產(chǎn)出的虛假新聞、虛假廣告等內(nèi)容，經(jīng)由不同平臺的傳播，以場景再現(xiàn)的技術(shù)優(yōu)勢，顛覆受眾的已有認(rèn)知，對倫理與道德提出挑戰(zhàn)。AI變臉技術(shù)將原本極具真實性和現(xiàn)場感的多模態(tài)視頻呈現(xiàn)變成了“鏡花水月”，模糊真相與假象的界限，創(chuàng)造出虛擬世界，沖擊民眾對真實信息的信任，甚至?xí)l(fā)社會信任危機。AI變臉以“數(shù)字嫁接”創(chuàng)造加工出包括“數(shù)字虛擬人”的高仿真虛擬場景，民眾生活在虛擬與現(xiàn)實交織的世界，導(dǎo)致真實自我在現(xiàn)實社會中的認(rèn)知迷失。此外，AI變臉通過深度偽造，以“混淆視聽”的虛假敘事，沖擊民眾心理，侵蝕社會信任，擾亂政治輿論生態(tài)，AI變臉既可突破對方基于生物特征的身份認(rèn)證體系，竊取情報信息，又可偽造突發(fā)事件，發(fā)布虛假信息，制造輿論恐慌。
如何規(guī)避AI變臉技術(shù)所引起的風(fēng)險
AI變臉技術(shù)風(fēng)險的規(guī)制涉及范圍廣、領(lǐng)域?qū)?、?nèi)容多，蘊含活力與秩序、自由與安全、責(zé)任與信任等諸多方面，是一項復(fù)雜的系統(tǒng)工程。要強化高位統(tǒng)籌、頂層設(shè)計、系統(tǒng)謀劃、整體推進(jìn)，以數(shù)據(jù)算法、合作共治、信息保護(hù)、法律法規(guī)等維度的同向發(fā)力、良性互動，聚力推進(jìn)AI變臉技術(shù)異化治理體系的構(gòu)建創(chuàng)新，有效管控風(fēng)險，提升整體治理效能。
以數(shù)據(jù)算法為基石，深化從源頭治理。算法既是AI變臉的技術(shù)核心，又是其生成路徑。智能算法具有的數(shù)據(jù)共享、自主學(xué)習(xí)、封裝移植等特質(zhì)，將普通民眾徹底隔絕在信息內(nèi)容的生產(chǎn)、過濾、推薦鏈條外，引致產(chǎn)生與AI變臉天然契合的“算法黑箱”。規(guī)制AI變臉技術(shù)的風(fēng)險，要強化算法治理。強化主流價值引領(lǐng)算法，將其嵌入到AI變臉技術(shù)發(fā)展的全生命周期，引導(dǎo)算法設(shè)計者、信息分發(fā)者堅持正確價值取向，引導(dǎo)算法應(yīng)用向上向善。構(gòu)建算法數(shù)據(jù)庫，收錄AI變臉技術(shù)的生成算法、識別算法和檢測算法等模型，以溯源防偽、反向破解輔助識別判定AI變臉作品，并將其同步收錄數(shù)據(jù)庫，通過樣本的累積迭代，提升比對判定能力。優(yōu)化傳播媒介平臺內(nèi)部算法，構(gòu)建事實核查、分級檢測和分級推薦機制，強化外部算法治理，協(xié)同優(yōu)化算法的準(zhǔn)入、監(jiān)督、投訴和評估等配套制度體系。
以合作共治為架構(gòu)，推進(jìn)協(xié)同治理。AI變臉技術(shù)異化的規(guī)制蘊含組織與制度等多元要素，應(yīng)秉持審慎、理性、權(quán)衡和預(yù)防的原則，在網(wǎng)絡(luò)化、包容性、無縫隙的協(xié)作框架下聚智共謀，推進(jìn)協(xié)同治理。要秉持合作精神，培育共治價值，優(yōu)化完善合作治理、共同治理機制，在規(guī)章制度框架內(nèi)，通過資源整合、功能互補，尋求最大“公約數(shù)”，驅(qū)動AI變臉技術(shù)風(fēng)險治理由點狀分散向融合交互躍遷。要以主體跨域協(xié)同、路徑集成協(xié)同、信息交互協(xié)同為路徑，優(yōu)化協(xié)同治理界面，貫通政府部門、傳播平臺、技術(shù)開發(fā)、產(chǎn)品制作、網(wǎng)絡(luò)用戶的責(zé)任傳導(dǎo)鏈條，創(chuàng)新協(xié)同治理，提振治理質(zhì)效。強化政府部門、社交平臺、科研院所的良性互動，厘清權(quán)責(zé)關(guān)系，破除壁壘、疏解堵點、理順機制、暢通渠道，共同開發(fā)檢測審查AI變臉的技術(shù)算法，畫好協(xié)同治理“同心圓”，共同應(yīng)對AI變臉技術(shù)風(fēng)險。
以信息保護(hù)為支撐，構(gòu)筑立體屏障。生物識別信息具有人身表征性、不可替代性特點，既是AI變臉的原始材料，也是基礎(chǔ)根基。AI變臉技術(shù)異化的風(fēng)險規(guī)制，應(yīng)以“隱私控制”為原則，構(gòu)建從收集到存儲再到應(yīng)用的多維立體保護(hù)體系。AI變臉技術(shù)使用者采集面部識別信息時，應(yīng)秉持知情同意、目的限制、正當(dāng)誠信、必要安全的基本原則，嚴(yán)格遵守個人信息保護(hù)法中基于“特定的目的和充分的必要性”“取得個人的單獨同意”的條款規(guī)定。細(xì)化采集入庫規(guī)則，建立媒介平臺動態(tài)征詢和信息披露機制，基于適度透明、隱私侵犯最小化原則收集信息。完善保管存儲規(guī)則，媒介平臺應(yīng)采取加密技術(shù)，隱名化、匿名化儲存用戶生物識別信息，嚴(yán)格限定儲存期限和敏感應(yīng)用場景。豐富加工利用規(guī)則，制作者、上傳者對原始視頻采用語音標(biāo)識、數(shù)字水印等方式進(jìn)行信源標(biāo)注，優(yōu)化信息公開、轉(zhuǎn)讓，確保檢測核查有據(jù)可循。
以法律框定為紅線，厘清技術(shù)邊界。秉持“技術(shù)—經(jīng)濟(jì)—社會”的模式，兼顧必要的社會面向，平衡調(diào)和公共利益和個人權(quán)益之間的張力。持續(xù)完善行政與民事相結(jié)合的法律規(guī)制體系構(gòu)造，健全法律規(guī)制體系的層次性和梯度性，回應(yīng)AI變臉技術(shù)異化導(dǎo)致法益侵害復(fù)合化，為技術(shù)發(fā)展提供方向指引。在2023年1月10日施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》的基礎(chǔ)之上，進(jìn)一步厘清AI變臉源頭制作者的法律責(zé)任，細(xì)化AI變臉可能帶來的侵權(quán)行為，做好追蹤溯源。構(gòu)建要素上貫通生產(chǎn)、使用、維護(hù)、監(jiān)管等節(jié)點，內(nèi)容上統(tǒng)合審查、商議、監(jiān)督、互動機制的法律規(guī)范框架體系。加大平臺處罰力度，增設(shè)傳播媒介平臺的技術(shù)檢測義務(wù)和過濾刪除的“守門人”責(zé)任，以疏堵結(jié)合的策略，細(xì)化不同場景應(yīng)用的法律規(guī)制，以法律為AI變臉框定紅線。
