從特朗普“被捕”到“巴黎世家”教皇，AI “致幻”引發真實性擔憂

撰文：Amanda Silberling

來源：TechCrunch

編譯：巴比特

圖片來源：Midjourney AI 圖像，從左到右分別由 Pablo Xavier, Eliot Higgins, Reddit 用戶 u/arctic_chile 生成

去年秋天，Tumblr 用戶對馬丁·斯科塞斯 1973 年執導的由羅伯特·德尼羅和阿爾·帕西諾主演的電影《岡察洛夫》（Goncharov）大加讚賞。他們稱讚這部鮮為人知的斯科塞斯經典作品是有史以來最偉大的黑手黨電影。它領先於它的時代，卻從未贏得它應得的讚譽。

現在，我們都應該知道，“Goncharov”不是一部真正的電影，儘管斯科塞斯本人也參與了這個笑話。這只是 Tumblr 上的一個梗，後來演變成了整個網站的惡搞，用戶們在共享的谷歌文檔中彼此合作，真誠而準確地回答“yes, and”，以至於這部虛構的電影看起來似乎是合理的。

隨着人工智能圖像生成技術變得更好，互聯網感覺有點像“Goncharov”時刻的 Tumblr。我們正在創造新的集體現實，只是這一次，我們只是通過不加思索地發布信息而意外地產生了它們。

兩周前，當人工智能圖像生成器 Midjourney 開放對 Midjourney 5 模型的訪問時，其超現實的輸出迅速走紅。一些生成的圖像說明了這些容易獲得的工具的危險性，比如一系列描繪唐納德 – 特朗普被捕的假照片。

這組戲劇性的圖片顯示了特朗普強行拒捕，然後從一隊警察面前衝刺而過等場景。這些像野火一樣在互聯網上瘋傳的圖片是由調查新聞網站 Bellingcat 的創始人 Eliot Higgins 製作的。Higgins 最初的推文表明，他只是在玩，但這些推文在沒有相關背景的情況下迅速傳播開來。

註：目前該推文已添加了背景信息，稱該照片由人工智能生成。

其他一些被瘋傳的人工智能圖片則溫和一些，比如一張廣為流傳的教皇弗朗西斯二世（Pope Francis II）身穿一件令人驚艷的巴黎世家（Balenciaga）白色外套的高級時尚照片。關於這張照片的一條推文被瀏覽了 2600 多萬次。

這甚至不是上周唯一一個與巴黎世家有關的 AI meme 病毒。一個名為 demonflyingfox 的創作者一直在使用 Midjourney 圖像、Eleven Labs 語音和 D-ID 動畫來製作超現實的、由 AI 驅動的搞怪視頻。他傳播最廣的視頻是“Harry Potter by Balenciaga”，這是一則高級時裝風格廣告，其中合成的人物形象說著：“You are Balenciaga，Harry”之類的話。

Demonflyingfox 告訴 TechCrunch，他有意讓他的視頻變得足夠奇怪，以至於沒有人會意外地相信它們是真的。（一般觀眾都知道，Joe Rogan 從未真正採訪過耶穌基督，而鄧布利多在《哈利波特》電影中很遺憾地沒有穿上皮夾克，戴上墨鏡）。此外，他還故意使用 Midjourney 4，而不是更新的軟件，以便他的角色看起來不那麼逼真。

“我所做的事情顯然是假的，我並不擔心傳播錯誤信息，這也是我的意圖，”demonflyingfox 說。“但我知道工具的力量，而且現在這樣做非常容易。”

前提越可信，我們就越有可能將合成圖像視為事實。如果你不是教皇着裝方面的專家，你可能就會相信教皇在冬季外出時穿一件非常棒的白色羽絨服——要知道這位教皇，他的前衛搖滾專輯在 Pitchfork 上得到了評論，他還曾在阿根廷的夜總會當過保鏢。

甚至連超級名模 Chrissy Teigen 也被這對這組圖像信以為真。她在推特上稱：“我以為教皇的羽絨服是真的，沒有多想。”“我不可能在未來的技術中生存。”

除了“時尚教皇”，特朗普被捕的人工智能圖片也在網上瘋傳，但任何人只要願意掃描自己的推特時間軸，就能迅速核實事實，以尋找真正新聞突發的證據。對於人工智能生成的歷史事件來說，這一過程就不那麼明顯了。

就在幾天前，Reddit 用戶 u/Arctic_Chilean 在 Midjourney subreddit 上發布了一組人工智能生成的照片，聲稱它們描繪了“2001 年卡斯卡迪亞 9.1 大地震和海嘯”，襲擊了美國和加拿大。在 reddit 的這個版塊里，我們致力於用 Midjourney 的人工智能工具進行實驗，很明顯，卡斯卡迪亞大地震並不是一個真實的事件。但是，如果 r/Midjourney 只是你訂閱的眾多子 reddits 中的一個，你就很容易不加思索地消費這些圖片。

一個 Reddit 用戶寫道：“難道只有我一個人覺得‘我怎麼不記得發生過這件事’。….. 直到看到這個子 reddit？

這些圖像與現實非常相似，以至於人們相信它可能是真的。卡斯卡迪亞俯衝帶是太平洋西北部附近的一條真實的斷層線，1700 年曾發生過大規模的破壞性地震。該地區的人們擔心，這種規模的災難可能在我們的有生之年再次發生，這種認識使人工智能生成的未來潛在事件的場景充滿了不祥之感。

有時，像 ChatGPT 和 Bing AI 這樣的人工智能工具會產生”幻覺“– 當它們自信地用虛假信息回答問題時，就會使用這一術語。淹沒在合成圖像的海洋中，我們可能都處於集體產生幻覺的邊緣。

“我正想罵你呢，因為你在這個分論壇上發布了舊新聞，”r/midjourney 的一個 Redditor 評論道。“這些看起來太真實，太瘋狂了。”

互聯網社區傾向於聚集在一個小眾的想法周圍，並構建出關於它的深入知識，就像一種合作構建世界的行為（參見：“Goncharov”）。自然，這些虛假的歷史事件也發生了同樣的事情，Reddit 用戶開始創造他們自己的歷史，講述 2001 年地震如何影響全球政治。

“儘管 2001 年康科迪亞大地震的規模和破壞力很大，但似乎 10 年後，很少有人記得這一事件，”另一位用戶在一篇捏造的新聞文章中寫道，對這場從未發生的地震進行了錯誤的命名。“這可能是由於全球反恐戰爭、伊拉克戰爭和經濟大衰退等綜合因素造成的。”

最初發布這些圖片的 Redditor 推測在 9/11 之前發生的重大災難將如何影響反恐戰爭，認為這場災難的經濟影響可能會削弱對入侵伊拉克的支持。

隨着廣泛可用的 AI 圖像生成器變得更加成熟，它們的創作可能會超過我們對大量可信但完全虛假的圖像的適應能力。不管是好是壞，現在我們可以瞬間創造出自己的“Goncharov”，將任何模糊的虛構變成有形的東西，並將其放到網上。

雖然這些創作很多都是無害的，但不難想象合成圖像將如何操縱公眾對當前或歷史事件的認識。

事實證明，“巴黎世家教皇”是一個 31 歲的有服用致幻藥物的建築工人的創意，他告訴 BuzzFeed，他沒有考慮人工智能圖像的後果。他說：“如果他們不開始實施法律來規範它，情況肯定會變得嚴重。”

事實上，英國和美國一些州的立法者已經頒布禁令，禁止未經同意的深度偽造的人工智能色情。但像卡斯卡迪亞大地震和 Balenciaga Pope 這樣的 meme 並不具有內在的危害性，也不會很快面臨監管。

人工智能生成的圖像仍然不完美。地震中街道的標誌看起來像是用 Simlish 寫的，而且 AI 生成的圖像中三指手的現象要比你在自然界中發現的多。通常，如果你足夠仔細地觀察人工智能生成的圖像，你就會發現一些奇怪的畸變，一組像素會告訴你圖像有問題。但現在越來越難區分的是，什麼是真實的，什麼是想象的，更難以想象接下來會發生什麼。