AI造假，有多嚇人

▼點下方播放按鈕收聽十點主播安東尼朗讀音頻

先做一個測試，你能分辨出這兩張老照片哪張是AI生成的嗎？

答案是兩張都是AI生成的虛假照片。

當你仔細分析哪張照片的噪點、光線更真實，端詳哪個人物的表情更自然時，便落入AI為你設計的圈套。

AI算準了你會注意的細節，于是你看得越認真，就越會認為照片是真的。

更令人不安的是，這種“以假亂真”不再只是技術展示，而是正在變成日常。

有人用AI生成一段視頻發給家人，一個乞丐走進家里要飯，家人信以為真，直接報警。

西藏日喀發生6.8級地震時，一個被壓在廢墟下的孩子牽動了無數人的心，可實際上卻是被盜用的AI素材。

這邊，不良商家用AI生成虛假模特圖，貨不對板；那邊，不法消費者利用AI生成爛水果，騙取僅退款。

有圖有真相的時代已經過去，如今就連視頻也無法輕易相信，當眼見不再為實，我們還能相信什么？

網友@瓦洛佳大貓貓刷到一個世界杯比賽的視頻，場上的足球運動員受傷倒地，鏡頭一切，觀眾席上的美女滿臉心疼。

網友敏銳察覺可能是AI制作，于是去補看世界杯比賽，找到視頻中的球員費爾明·洛佩斯受傷的比賽場次，并沒有看到這位落淚的美女觀眾。

幾番搜尋，終于找到原圖，有人將觀眾席中一位女士的臉用AI進行替換。

這條造假視頻配上煽情的文案“王子的戰斗，公主的眼淚”，得到近20萬的點贊和上千條評論，少有人質疑真假，大家都在心疼和感嘆這位AI觀眾的眼淚。

AI橫行的時代，搶奪注意力和流量的虛假娛樂信息輕而易舉就能拿捏人的情緒，甚至篡改人的記憶。

今年傳出一個消息，只有12個人的韓國男團EXO，其實還有被雪藏的第13個成員名叫KING。

AI生成

很快，消息引爆網絡，網上還陸續流出KING的出道紀錄片、退圈新聞，甚至有人站出來說自己2012年真的買過13人的海報。

一些網友感到恍惚，開始相信真的有這么一個人。

就這樣，一個根本不存在的人，火遍全網。

網友戲稱，這是“全民手搓的曼德拉效應”。

而事件的開始，不過是一條評論。

一個名叫龍龍的云南裝修工發布了一段自拍視頻，人們發現頭發側向一邊，穿著黑色背心的他長相酷似黃子韜。

某網友調侃道：“這不是EXO那個被雪藏的成員嗎？”

這條評論點燃了不少玩梗網友的熱情，他們開始自發制作屬于龍龍的新劇本。

藝名：KING；

年齡：36歲；

出生地：云南。

2008年被韓國制作人李秀滿挖掘，原本是EXO的隊長，他創作了組合中幾首爆火歌曲，還曾教過鹿晗跳舞……

但卻因為不接受公司的剝削而被無情雪藏，遣返回國，身患抑郁、發胖，為了謀生在云南工地干零活。

為了讓更多人相信，有人用AI生成了黃子韜和KING的連麥視頻。

AI生成

有關KING的相關視頻中，幾乎都是一套黑色衣服，于是有人不相信，調侃說：“你家KING就一套衣服是吧?！?/p>

立馬會有人出來反駁：“很多都被刪完了，這些都是沒有被買通刪除的珍貴影像資料?！?/p>

有人剪輯視頻論證KING是個虛擬人物，評論區依舊有人拿著AI假圖辯駁。

甚至有人說，是資本出面推波助瀾，讓人們認為KING是一個不存在的人。

多荒唐，當AI制造的虛假信息聲量足夠大時，自然有人不約而同地幫忙制造完美的解釋。

直到今天，在社交平臺檢索“曾經的王”“KING”等關鍵詞，評論區依舊有人堅信這個人的存在。

這些虛假信息尚可以當做娛樂大眾的戲碼，但AI制造的假象正在向更多領域蔓延。

一個自媒體賬號在文章中提到一部名為《特朗普愛上在白宮當保潔的我》的短劇，稱這部短句在海外掀起狂潮，三個月內付費達到1.5億美元。

很快信息被許多媒體復制轉發，甚至有相關劇照和視頻片段流出，但有人在外網搜索發現，這部短劇壓根不存在。

只是，已經有不少人真以為中國的短劇精準收割美國受眾，就此打開了海外短劇市場。

而這種假新聞，不過是AI造假中程度相對較輕的一個。

最近，一段所謂的“內部飯局視頻”在網絡上傳播，視頻中有人遞給東鵬特飲創始人林木勤一瓶自家飲料，林木勤卻擺擺手說：

“我平時不喝這個，我喝別的?！?/p>

“創始人不愿意喝自家產品，還要賣給消費者？”

一時之間，林木勤陷入輿論漩渦，公司市值一周內合計蒸發超過70億。

當事人和東鵬特飲公司緊急公關，先后辟謠并報警，警方很快鎖定嫌疑人，是39歲自媒體人羅某，視頻均由他合成，如今已被刑拘。

一段AI炮制的虛假視頻，能夠撼動股市，繼而導致70億的損失，實在令人嘖嘖稱奇。

除此之外，戰爭新聞更是AI造假的重災區。

美伊沖突期間，美軍戰機被伊朗擊落后，美方搜救機組人員，隨后，美國總統特朗普在社交平臺發帖稱兩位飛行員都已獲救。

僅幾個小時后，網上流傳出一張美國大兵手捧星條旗的照片，并配文“這是昨天獲救的英勇上校的照片”。

圖片獲得了超過500萬的瀏覽量，甚至被得州州長、總檢察長以及紐約眾議院議員轉發。

但有人在多個在線檢測工具中確認，這張照片為AI制造，且獲救飛行員當時并沒有公開身份。

另一邊，還有許多人上傳了“伊朗導彈擊中目標”“伊朗炸毀美國航母”的照片視頻，也幾乎都是AI生成的虛假畫面。

AI生成

更諷刺的是，真實的戰爭影像卻被AI判斷為虛假新聞。

伊朗的一所學校遭遇空襲后，人們為遇難學生挖的墳墓排列成行，俯拍視角記錄了這場戰爭的殘酷，場面令人心碎。

可是，谷歌旗下的AI服務Gemini和X公司的AI助手Gork都判定這張照片并非來自伊朗。

直到多方研究人員將墳墓照片與衛星圖像、視頻片段交叉對比，才最終確認照片為真，破除了AI制造的謠言。

可以大膽猜想，當AI制造的虛假新聞泛濫成災，那一百年后的今天，有人檢索某一段歷史時，是否會將虛假新聞誤認成真實的歷史。

而那些真實發生過的暴行，是否又會被別有用心的人混淆為AI制造。

到那時，真實與虛假的界限，終將消失不見。

你相信嗎？這個時代，如果有人想借助AI欺騙全世界，那他真的會成功。

來自挪威的攝影師，喬納斯·本迪克森，在2021出版了一本假的新聞攝影集《韋萊斯之書》。

在他坦白真相之前的6個月中，包括出版編輯、策展人、專業攝影大賽評委在內的讀者，沒有一個人發現攝影集是假的。

2019年，喬納斯聽說北馬其頓有個叫韋萊斯的小城，那里有大量專業生產假新聞的人，他決定去看看順便拍一些紀實作品，但途中，一個大膽的想法出現在他腦中：他決定造假。

隨手拍攝韋萊斯當地的公寓、公園、辦公室等空鏡場景，通過將虛假的人物合成到空鏡中，一張張生動的照片就完成了。

圖中人物為虛擬建模

除此之外，他還用AI生成了所謂的現場訪談對話、攝影集文字說明，以及韋萊斯古經文。

那是第一次，他沒有和任何人訪談交流，便完成了一本新聞攝影集。

攝影集出版后，讀者表達出前所未有的熱情，有人評價：“幸好這個時代，還有人在做韋萊斯故事這樣的嚴肅新聞?！?/p>

媒體紛紛發來約稿，希望轉載這本影集。

無人識破的結果，讓喬納斯感到困惑，他不死心，又申請參加在業內享有盛名的佩皮尼昂國際新聞攝影節，還將高清版照片發給了主辦方。

結果何其諷刺，不僅沒人發現攝影集造假，主辦方還邀請他參與展出。

這場謊言持續了6個月，以喬納斯主動坦白告終。

實際上，喬納斯在攝影集中留下許多破綻，大白天，一個有人居住的小城，竟然會有熊隨意出沒；

扉頁上留下的韋萊斯古經文只需要上網一搜就會發現，全都不存在。

左側為偽造古經文 圖源@那個NG

喬納斯這場盛大的“行為藝術”讓人們發現兩件事：

一是，這個時代，造假的成本如此之低，整本攝影集用到的AI不過是網上隨便一搜的免費版本。

二是，這個時代，我們對假信息的耐受力如此之低，哪怕是無需考證，只要稍微檢索一下就能戳破的謊言，卻能欺騙所有人。

可以說，在這個信息爆炸的時代，我們的判斷力正在被瘋狂稀釋。

一條接著一條奪人眼球的另類新聞，一段接著一段煽動情緒的短視頻，我們來不及思索真假，就匆匆點贊、評論、轉發。

而AI的出現，則讓虛假信息變得更加猖狂，它沒有立場，沒有善惡，但卻讓制造謊言的成本降到最低。

在這個真假難辨的時代，普通人唯一能做的就是多一點思考和冷靜。

畢竟，不急于表態，已是難得的清醒，愿意冷靜思考，更是稀缺的能力。

參考資料：

南方周末《一個并不存在的“EXO新成員”，如何成了頂流偶像？》

字母AI《世界杯“名場面”，居然是AI造假？》

澎湃新聞《假作真時真亦假：美以伊戰事陷入AI信息迷霧》

那個NG《這本“假新聞合集”獲國際大獎，當下我們有多容易輕信？》

作者 | 阿謹，本文首發于十點讀書會（ID：sdclass）。

主播 | 安東尼，朝鮮冷面下藏著一顆韓國燒烤的心。

圖片 | 視覺中國，網絡（如有侵權請聯系刪除）

2秒加星標，再也不擔心找不到十點君↓↓