繼算法推薦之后，深度合成也有了單獨規(guī)范。近期，國家網(wǎng)信辦發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定(征求意見稿)》，并于1月28日至2月28日期間完成意見征求。管理規(guī)定要求，深度合成服務提供者應建立辟謠機制，使用者要進行身份信息認證，非真類音頻視頻須有顯著標識。

深度合成或許還不為人所熟悉，但若提及“換臉術”“變聲術”，恐怕大多數(shù)人不會感到陌生。其實，深度合成就是利用以深度學習、虛擬現(xiàn)實為代表的生成合成類算法，制作文本圖像、音頻視頻、虛擬場景等信息。諸如換臉變聲、AI合成主播、虛擬偶像、修復老照片、“數(shù)字復活”、影視劇本地化配音等，都是其場景應用。

作為人工智能領域的新實踐，這項技術廣泛應用于新聞傳媒、影視制作、廣告營銷和社交娛樂等多個領域，市場前景廣闊。比如，語音合成已成為人機交互重要一環(huán)并衍生出語音導航、有聲讀物、新聞播報等應用，電影制作引入相關技術后顯著提升音視頻制作質(zhì)量與效率。另外，技術背后也有脈脈溫情。去年，第八批在韓中國人民志愿軍烈士遺骸歸國時，有主流媒體運用技術修復還原志愿軍老照片，廣受好評。今年冬奧會期間，虛擬數(shù)字主播“小聰”用手語為聽障人士解說，走紅網(wǎng)絡。概而言之，合理應用深度合成技術，既能取得經(jīng)濟利益，也能產(chǎn)生社會效益。

深度合成的正向應用價值有目共睹。然而，隨著技術門檻不斷降低，濫用惡用的事件頻頻發(fā)生。一些不法之徒惡意利用深度合成技術偽造虛假語音和視頻，實施誣陷誹謗、詐騙勒索等違法犯罪行為，給個人、企業(yè)造成聲譽損害和財產(chǎn)損失。更要警惕的是，深度合成技術一定程度上模糊了真實和虛假的邊界，惡意偽造內(nèi)容通常又迎合獵奇心理，容易在網(wǎng)絡上產(chǎn)生病毒式傳播。這有可能擾亂社會正常秩序，甚至帶來安全風險。

客觀而言，技術是價值中立的，本身并沒有對錯和善惡之分。只有當技術被誤用或濫用，并跨越道德和法律的邊界，才會出現(xiàn)負面效應。倘若不問青紅皂白便“一刀切”地禁止深度合成技術，不僅阻礙其正向應用與創(chuàng)新，也不利于人工智能等相關產(chǎn)業(yè)發(fā)展。從這個角度來說，我們不僅要推動技術發(fā)展，更應展現(xiàn)出駕馭技術的智慧。

駕馭技術，需要法規(guī)作為明確指引。此次，相關部門出臺管理規(guī)定，可謂做到隨技術發(fā)展而不斷“查缺補漏”。尤其是規(guī)定中一系列具有針對性和實效性的要求，劃出清晰紅線，體現(xiàn)規(guī)制亂象的決心，有助于維護清朗的網(wǎng)絡生態(tài)。

當然，避免深度合成技術淪為深度偽造騙術，除了制定實施法規(guī)，還應從技術、倫理等方面出發(fā)，填補新技術的約束空白。比如，強化倫理先行的意識，倡導產(chǎn)研發(fā)展自律自治，防止濫用惡用。再如，加強識破偽造的監(jiān)測技術研究，以精準識別從源頭上解決安全問題。唯有構建多維度治理機制，多方發(fā)力、共同治理，精確施治、系統(tǒng)遏制，才能實現(xiàn)技術賦能生產(chǎn)生活的美好愿景。(潘抒捷)

關鍵詞： 深度合成技術 深度合成 數(shù)字復活 換臉變聲