原創(chuàng) 文摘菌 大數(shù)據(jù)文摘

大數(shù)據(jù)文摘出品

俄羅斯和烏克蘭沖突尚未結(jié)束，網(wǎng)絡(luò)中也還硝煙彌漫。

近日，一條烏克蘭總統(tǒng)弗拉基米爾·澤連斯基（Volodymyr Zelensky）的“視頻”被廣泛傳播，在視頻中，澤連斯基呼吁烏克蘭士兵放下武器。

從視頻來(lái)看，澤連斯基的臉顯得很不自然，文摘的老讀者應(yīng)該很快能辨認(rèn)出來(lái)，這明明又是一款用Deepfake做的換頭“視頻”。

這條視頻周三被黑客放到烏克蘭一家被黑的新聞網(wǎng)站上，隨后被揭穿和刪除。

只不過(guò)，因?yàn)檫@條視頻在推特上傳播的也很廣，觀看人數(shù)超過(guò)25萬(wàn)，澤連斯基本人也在推特發(fā)文辟謠。

烏克蘭國(guó)防情報(bào)預(yù)測(cè)：就是俄羅斯干的

在這份大概一分鐘長(zhǎng)的偽造視頻中，烏克蘭總統(tǒng)澤連斯基似乎在告訴士兵們放下武器，放棄對(duì)俄戰(zhàn)斗。

盡管還沒(méi)人宣稱為此事負(fù)責(zé)，但是在烏克蘭國(guó)防情報(bào)眼中，俄羅斯的嫌疑最大。

這個(gè)月初，烏克蘭國(guó)防情報(bào)還專門在推特向大家科普什么是Deepfake，在科普視頻中，包括美國(guó)現(xiàn)任總統(tǒng)拜登等多國(guó)政要都以Fake形象出鏡。

烏克蘭國(guó)防情報(bào)在推特中寫(xiě)道，

你們可能都聽(tīng)說(shuō)過(guò) Deepfake 技術(shù)，它是深度學(xué)習(xí)和欺詐的組合，一種基于人工智能合成人類圖像的技術(shù)。俄羅斯聯(lián)邦的挑釁正在準(zhǔn)備中。

這似乎預(yù)示了這次澤連斯基Deepfake的出現(xiàn)。

不過(guò)，澤連斯基這個(gè)Deepfake的視頻似乎活干的比較粗糙。雖然視頻中的對(duì)口型還過(guò)得去，但觀眾很快就指出，澤連斯基的口音不對(duì)，仔細(xì)觀察他的頭部和聲音并不真實(shí)。

隨后，F(xiàn)acebook、YouTube和Twitter 的官員表示，這段視頻因違反政策而被從他們的平臺(tái)上刪除。

這個(gè)視頻作為戰(zhàn)爭(zhēng)狀態(tài)下第一個(gè)針對(duì)一國(guó)元首的Deepfake視頻，預(yù)示著一種新的輿論戰(zhàn)形式。

加州大學(xué)伯克利分校(University of California，Berkeley)教授、數(shù)字媒體取證專家哈尼 · 法里德(Hany Farid)說(shuō)，“這是我們看到的第一個(gè)真正站穩(wěn)腳跟的案例，但我懷疑這只是冰山一角。”

之后，澤連斯基在他的Telegram頻道發(fā)布的一段視頻中回應(yīng)這段假視頻說(shuō): “我們正在保衛(wèi)我們的土地，我們的孩子，我們的家庭。所以我們不打算放下武器。直到我們的勝利?！?/p>

Deepfake的作用不容小覷

烏克蘭國(guó)家電視臺(tái)“烏克蘭24”(Ukraine 24)證實(shí)，黑客設(shè)法通過(guò)電視直播發(fā)送了虛假的澤連斯基消息，這條滾動(dòng)文本新聞被稱為The ticker，該視頻在該電視臺(tái)的網(wǎng)站上短暫出現(xiàn)。這是“敵方黑客”所為，該電臺(tái)稱。

黑客們?cè)跒蹩颂m24小時(shí)廣播的信息敦促烏克蘭人停止戰(zhàn)斗，放棄武器。大西洋理事會(huì)的歐亞研究員Roman Osadchuk表示，他們還聲稱澤連斯基逃離了基輔，這些信息在VKontakte上廣為傳播，VKontakte是俄羅斯第一大社交媒體。

研究人員表示，盡管Deepfake不是特別復(fù)雜，但它仍應(yīng)被視為危險(xiǎn)。

Deepfake是一種使用AI深度學(xué)習(xí)，能夠?qū)⒁粡垐D片中人的臉換到其他人的圖片上的技術(shù)。通過(guò)這種技術(shù)，我們可以創(chuàng)建一個(gè)非常逼真的“假”視頻或圖片，“換臉”因此得名。

研究人員使用自動(dòng)編碼器神經(jīng)結(jié)構(gòu)，使這一想法成為現(xiàn)實(shí)?；舅悸贩浅：?jiǎn)單：對(duì)于每張臉，我們都訓(xùn)練一套編碼器和相應(yīng)的解碼神經(jīng)網(wǎng)絡(luò)。編碼時(shí)，使用的是第一個(gè)人的圖片。而解碼時(shí)，卻是使用第二個(gè)人解碼器。

對(duì)于訓(xùn)練部分，需要搜集每個(gè)人幾百?gòu)埐煌藙?shì)的圖片，圖片不足時(shí)，還可以從現(xiàn)有視頻中提取。在神經(jīng)網(wǎng)絡(luò)訓(xùn)練并學(xué)習(xí)了關(guān)于每個(gè)人面部的特征之后，它自己就能預(yù)測(cè)想出這個(gè)人還沒(méi)擺出來(lái)的姿勢(shì)。

Deepfake從娛樂(lè)圈走向政治圈

剛出來(lái)的時(shí)候，Deepfake更多只是作為一種玩具，用來(lái)整蠱朋友或者調(diào)侃明星。

后來(lái)，Deepfake逐漸開(kāi)始“走向政壇”。

2019年，美國(guó)眾議院議長(zhǎng)Nancy Pelosi的一段深度偽造的談話視頻出現(xiàn)在社交媒體上，這段視頻經(jīng)由特朗普總統(tǒng)分享，在Facebook上獲得了超過(guò)250萬(wàn)次的瀏覽量。

早些的時(shí)候，奧巴馬的臉被“借用”來(lái)攻擊特朗普，該視頻在網(wǎng)站上也獲得480萬(wàn)的瀏覽量。

特朗普本人也難逃一劫，西雅圖電視網(wǎng)曾播放過(guò)一段Deepfake的特朗普演講視頻，視頻中特朗普滿臉通紅，還不時(shí)做一些滑稽的表情。由于Deepfake技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上，美國(guó)兩黨開(kāi)始擔(dān)心該技術(shù)將成為針對(duì)美國(guó)和其他西方國(guó)家發(fā)起虛假信息戰(zhàn)爭(zhēng)的最新武器。

2019年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開(kāi)關(guān)于人工智能Deepfake的聽(tīng)證會(huì)，公開(kāi)談?wù)摿薉eepfake技術(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。

去年，包括拉脫維亞議會(huì)外交事務(wù)委員會(huì)主席Rihards Kols，以及來(lái)自愛(ài)沙尼亞和立陶宛的議員，英國(guó)外交事務(wù)特別委員會(huì)主席Tom Tugendhat在內(nèi)的一眾政治家都被一個(gè)Deepfake黑客騙了，他們收到了一些“俄羅斯反對(duì)派人物”的視頻會(huì)議邀請(qǐng)，還煞有其事地討論了克里米亞問(wèn)題之類的政治事務(wù)，結(jié)果發(fā)現(xiàn)在這些所謂的“俄羅斯反對(duì)派人物”都是別人用Deepfake換臉假冒的。

能夠打敗魔法的只有魔法？

盡管許多國(guó)家都發(fā)布了監(jiān)管Deepfake相關(guān)技術(shù)的法規(guī)，但是像這種在戰(zhàn)爭(zhēng)中發(fā)生的偽造事件，顯然沒(méi)有法律能管，即使甄別真假公布于眾，才是被偽造一方的當(dāng)務(wù)之急。

人眼如果無(wú)法分辨，能不能用技術(shù)手段檢測(cè)Deepfake呢？

答案是可以的，能夠打敗魔法的也許還是魔法。

就在Deepfake開(kāi)源不久，F(xiàn)acebook首席技術(shù)官M(fèi)ike Schroepfer就發(fā)布博客宣布，公司正和微軟聯(lián)合來(lái)自麻省理工、牛津等大學(xué)的研究者，通過(guò)置辦“Deepfakes鑒別挑戰(zhàn)賽”，探索如何通過(guò)數(shù)據(jù)集和基準(zhǔn)測(cè)試檢測(cè)Deepfake換臉視頻。

美國(guó)國(guó)防部也研究了一項(xiàng)名為Forensic的圖像鑒定技術(shù)。他們的思路是尋找圖片和視頻中的不一致性，例如不一致的燈光、陰影和相機(jī)噪音。

加州大學(xué)河濱分校的學(xué)者也提出了檢測(cè)Deepfake偽造圖像的新算法。同樣的，算法的一個(gè)組成部分是各種“遞歸神經(jīng)網(wǎng)絡(luò)”，它能將有問(wèn)題的圖像分割成小塊，然后逐像素觀察這些小塊。神經(jīng)網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練可以檢測(cè)出數(shù)千幅Deepfake圖像，它找到了贗品在單像素水平上的一些特質(zhì)。

孵化自清華大學(xué)人工智能研究院的RealAI團(tuán)隊(duì)也宣稱，由于Deepfake生成的造假視頻畫(huà)面會(huì)有不“自然”的紋理存在，他們通過(guò)海量視頻訓(xùn)練神經(jīng)網(wǎng)絡(luò)，讓其學(xué)習(xí)正常情況中的紋理特征，再以此檢測(cè)造假視頻中不一致的紋理。利用該技術(shù)，可以對(duì)造假視頻實(shí)現(xiàn)逐幀檢測(cè)，準(zhǔn)確率高達(dá)90%以上。

原標(biāo)題：《Deepfake首次參與戰(zhàn)爭(zhēng)！烏克蘭總統(tǒng)被偽造投降視頻，無(wú)奈推特辟謠》

閱讀原文