無論是AI換聲AI換聲還是換臉，新技術的飆外爆火使用邊界亟待明確，其背後的語假隱憂侵權、詐騙等隱憂更不容忽視。暗藏飆外語以假亂真“Ihavetotakecareofthismatter！技術”在一條播放量達百萬次的AI換聲短視頻中，身著刺繡大褂的飆外爆火相聲演員郭德綱正像模像樣地用英文說著《濟公傳》。記者發現，語假隱憂視頻裏的暗藏聲音不僅和郭德綱本人的音色沒有什麽出入，嘴型和英文發音也一一對應，技術著實難辨真假。AI換聲這段精彩的飆外爆火單口相聲秀引得網友發出驚歎：“要不是看到視頻平台上‘該視頻使用AI技術合成’的小字提示，我差點就當真了！語假隱憂”除了本土名人說英文，暗藏外國歌星泰勒·斯威夫特、技術演員艾瑪·沃森等在訪談節目中用中文對答如流的視頻，也引來網友圍觀。截至發稿前，多個AI換聲視頻在B站、微博、抖音的瀏覽量已達到數百萬。奇安信集團行業安全研究中心主任裴智勇解釋，無論聲音還是圖像，都可以通過特定的數學變換分解成若幹個特征向量，對每個向量賦予特定的一組參數，就可以形成特定的聲音或圖像。所謂AI換聲，就是通過機器學習的方法，用某個人以往的聲音作為樣本進行學習，從而給聲音的每個特征向量賦予特定的參數，之後再用這組參數讀出新的內容，就可以做到語音、語氣甚至情感的模仿了。不過，要想達到逼真的效果，據業內人士介紹，除了換聲以外，還需要地道的翻譯、局部篡改人臉信息對口型等多個步驟後才能實現。換聲網站走紅背後存爭議隨著巨大流量湧入AI換聲視頻，其背後的公司也浮出水麵——2022年7月在海外上線的AI換聲網站HeyGen。從如今各大社交平台上爆火的換聲短視頻自帶的水印來看，其中有不少由該網站生成。在該平台上，製作一條換聲視頻十分簡單，用戶隻需要上傳視頻，選擇語言後，它就能自動翻譯並調整音色，生成嘴型匹配的外語視頻。目前，該網站已推出免費版和付費版兩種版本，其中，付費版最低收費為每月24美元，免費版僅限於生成1分鍾時長視頻。一位該網站用戶表示，高峰期時排隊人數達上萬人。有數據顯示，今年8至9月，各大文生圖類AI網站的訪問量均開始呈現下降趨勢，但HeyGen的訪問量卻上升了92%，流量躍居各大獨立AI網站之首。然而，與此前的爆款AI應用妙鴨相機一樣，HeyGen也麵臨著爭議與熱度齊飛。有律師提出，由於HeyGen用戶可以將任何人的視頻上傳並換聲，這可能涉嫌著作權、肖像權、聲音權三個方麵的侵權。比如，相聲、小品等都屬於《中華人民共和國著作權法》保護的作品，如未經著作權人授權就擅自更改並傳播，則存在侵權問題。加強治理謹防技術濫用麵對爐火純青的AI生成技術，更有網友提出，一旦相關技術被用於網絡詐騙，後果將難以想象。裴智勇分析，單純依靠AI技術是無法完成詐騙的，還必須將其與各種深度的網絡詐騙套路結合起來才能成功實施詐騙。在裴智勇看來，絕大多數的傳統防騙技巧對於AI詐騙同樣有效，“比如有人用視頻電話向您借錢，您回撥一個電話確認一下就好了。”值得一提的是，目前國內外均有安全機構嚐試研發技術手段來識別AI換臉或AI換聲。以清華大學人工智能研究院孵化企業瑞萊智慧推出的能夠防範生成式人工智能惡意濫用的DeepReal2.0技術為例，其相關技術能夠用於打擊網絡詐騙和聲譽侵害行為、檢測網絡內容合規性、檢測音視頻物證真實性等，可對生成式人工智能技術濫用行為進行管控和治理。記者也注意到，國家網信辦等三部門去年聯合發布的《互聯網信息服務深度合成管理規定》明確，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識。但目前網絡上流傳的AI換臉圖片和AI換聲視頻中，有些並未添加相應標識。