視頻通話里的“熟人”也可能是假的？鑒偽師揭秘AI造假套路

AI生成的照片獲得某攝影比賽一等獎，讓AI造假問題引發新一輪關注。比起存在明顯破綻的AI照片，還有一些AI生成內容更加高明，潛藏在我們身邊也更加危險。面對AI造假問題，有專業人士正通過技術手段與之博弈，在這場不斷升級的信息攻防戰里守護我們的安全。

屏幕外普通人　屏幕里變成“馬斯克”

指尖敲擊鍵盤，電腦屏幕上代碼不斷滾動，各種文字、音頻、圖片和視頻被錄入系統，去當作“喂”給AI的原料。中科睿鑒算法研究員何覃一邊關注著模型的訓練過程，一邊調整各種參數。

他正在訓練的，是一款AI鑒偽模型。中科睿鑒公司主要做的就是研發AI鑒偽技術及產品，去應對可能存在的各種AI造假問題。從某種意義上說，何覃算得上是一個“AI鑒偽工程師”。

“現在AI技術已經非常發達，有些通過AI生成的內容憑肉眼已經很難分辨。如果有不法分子刻意利用AI來造假，有可能會引發多種問題和危害。”何覃介紹，像是前段時間經常被討論的“AI造假僅退款”問題，有消費者在購買產品并收到實物后，會拍攝一張照片，用AI把照片里的實物加上各種瑕疵，以此作為證據來“維權”并申請退款，這種現象也讓一些商家頭疼不已。

還有的AI造假，會給老百姓的財產安全帶來風險。比如有不法分子利用換臉換聲技術模仿明星，在平臺發布假視頻，塑造單身人設，專門對中老年人實施情感誘導，待時機成熟之后，再用各種理由騙取老年人的錢財。

何覃表示，有些假視頻是先拍一段真視頻，后期再用AI技術進行換臉。而目前的AI技術，已經可以做到在實時通話中實現換臉。

公司的另一位工程師董宏雨，現場給北京日報客戶端記者進行了演示實時換臉技術。在一個軟件里，有各種人物的照片，隨意點擊一張，人臉就能實時換成對應的人。換臉成功之后，董宏雨甚至還能給記者撥來視頻通話，屏幕里的形象非常接近外國企業家馬斯克的樣子。

“小孩和老人分辨能力弱，如果有人利用他們身邊的親戚朋友的臉進行詐騙，后果不堪設想。”何覃表示，他和同事研發的AI鑒偽技術，就是為了在人的肉眼無法分辨AI內容的時候，提供一個機器識別的路徑。記者將換臉假視頻導入鑒偽軟件之后，系統果然給出了“假”的判定。董宏雨之后又正常給記者撥通了一次視頻通話，而這次通話的畫面被系統判定為“真”。

摸索挖掘痕跡　想鑒假得懂造假

何覃和技術同事們研發的鑒偽軟件，采用的也是AI技術，相當于是在“用AI打敗AI”。何覃表示，一開始訓練模型的時候，只能通過做標記、灌數據等方式讓模型自我學習，并做出判斷。但如何向用戶解釋模型做出這些判斷的依據是什么、判定AI造假的證據是什么，是該技術領域的一大挑戰。

“后來經過我們的摸索和挖掘，逐漸找到了一些AI造假的共性痕跡，比如AI目前是沒法模擬自然光的。”何覃表示，在現實世界中，光照射到物體表面時，會由于材質、表面與光照夾角等因素引起光照強度、空間分布的規律變化，圖像中體現為特定的亮度梯度，提取這些信息我們可以計算出光源方向等光照特征。這種反射現象，對于人的肉眼是難以察覺的細節，但它在一個自然拍攝的視頻和圖片里客觀存在。

“AI造假合成的時候，它通常是靠算法模擬生成的，只是模擬了視覺逼真效果，沒有模擬出遵循光學或物理學原理的現象。”所以AI生成的圖片，有的是分析不出來光源方向的，有的光源方向是混亂的。

除了光源問題，一部拍攝設備拍出的照片和視頻，因為電子設備元器件的特性，還會留下“物理噪聲”，它并非人耳能聽到的那種噪聲，而是一種信號，可以通過技術手段提取出來，用視覺化的方式將它展現出來。AI生成或經過AI處理的圖片和視頻，在物理噪聲方面與正常的圖片和視頻是不一樣的。

“就像一瓶水，它可能是礦泉水，純凈水，甚至是用瓶子接的自來水。人是看不出來的，但其中的微量元素和雜質成分的含量分布等，專業精密儀器可以檢測出來差別，AI鑒偽取證分析也是一種檢測的技術手段。”何覃表示，AI產出的結果，想要同時欺騙真人和機器是很難的，想要騙過人眼，就會在機器上留下痕跡。而如果只是為了騙過機器，產出的結果又很可能被人眼輕易識破。

為了能找到這些造假的“痕跡”，技術人員一方面要去對模型產出的結果進行研究和歸納，另一方面也需要不斷去研究市面上先進的AI生成大模型，并嘗試復現和理解它生成AI內容的過程和算法原理。“就像古玩行業，你想要鑒假，你得搞清楚它是怎么造假的，用了什么方式去‘做舊’。AI鑒偽也是一樣，要知己知彼，才能知道鑒定時從哪里入手。”

想要防御風險　實時鑒偽很重要

做AI鑒偽行業多年，何覃最大的感受是，AI技術的更新速度實在太快了，造假也變得越來越容易。“以前還需要大量的素材去訓練，才能產出一段不那么真實的AI視頻或者換臉。現在用一張照片，就能做出非常逼真的假視頻。”

這也給“AI鑒偽工程師”們提出了一個嚴峻的挑戰。現有的AI鑒偽模型經過足夠的訓練，是可以應對目前AI生成的假內容的，但未來如果突然出現一個新的AI生成大模型，它的生成能力又進化了，現有的AI鑒偽模型是否還能與之對抗？何覃表示，目前他和同事們在花精力研究的問題，就是AI鑒偽模型的“泛化性”。一方面，它能否應用在不同的場景，針對不同AI造假內容都能做出正確的判斷。另一方面，它能否在一定程度上覆蓋未來可能出現的“新型造假技術”。

在AI技術不斷迭代的背景之下，普通人應該如何才能避免自己的信息被不法分子利用，拿去AI造假？在何覃看來，想做到這一點幾乎是不可能的。“人畢竟有社交需求，總會在網絡上留下照片等個人信息。如果為了防止身份被AI盜用，就刻意把自己封閉起來，不去在網絡上留下痕跡，是不現實的。”

正因如此，通過技術手段去鑒別AI信息并及時給予預警，在何覃看來是一個可行性更高的對抗AI造假的方案。“我們希望AI鑒偽技術能被當作一個日常工具，普通人也可以隨取隨用，保護自己的信息安全。”

何覃的設想，已經在逐步走進現實。在國家反詐中心和學習強國APP中，就搭載了AI內容鑒定的功能，采用的就是何覃和同事們研發的技術。記者用幾張真實照片和AI生成照片分別進行了測試，系統都能準確分辨。

但在使用過程中，記者也發現了一個問題，這個檢測系統必須主動上傳圖片、視頻等內容，才能給出鑒定結果。如果是實時換臉視頻通話，系統是沒法做到實時檢測的。

“這也是我們在考慮的一個問題，有些假內容、假信息是通過實時的方式傳播的，如果當時沒有發現，事后再想去檢測，很可能已經晚了。”在何覃看來，更加有效的AI鑒偽方式，是在個人使用的手機、電腦等設備上，搭載可以隨時調用的AI鑒偽技術。一旦出現AI假信息，用戶可以實時檢測，或者由系統發出報警。

在AI技術如此發達的今天，何覃建議，普通人也應該適當學習一些AI知識，至少應該了解AI能做到什么，AI能用哪些方式造假，才能夠加以提防。

來源：北京日報客戶端