二維碼
        企資網(wǎng)

        掃一掃關(guān)注

        當(dāng)前位置: 首頁(yè) » 企業(yè)資訊 » 資訊 » 正文

        Deepfake新克星_火眼金睛鑒假臉_還能推

        放大字體  縮小字體 發(fā)布日期:2021-12-12 06:29:42    作者:葉佳霓    瀏覽次數(shù):82
        導(dǎo)讀

        智東西(公眾號(hào):zhidxcom)編譯 | 心緣感謝 | 漠影智東西6月18,看看下面這些人得照片,你能看出什么問題么?這些或微笑或笑容滿面得人,都是假得,由一個(gè)名為StyleGAN得著名人工智能(AI)模型生成,現(xiàn)實(shí)

        智東西(公眾號(hào):zhidxcom)

        編譯 | 心緣

        感謝 | 漠影

        智東西6月18,看看下面這些人得照片,你能看出什么問題么?

        這些或微笑或笑容滿面得人,都是假得,由一個(gè)名為StyleGAN得著名人工智能(AI)模型生成,現(xiàn)實(shí)生活中并不存在。

        Deepfake深度偽造技術(shù)愈發(fā)強(qiáng)大,令人們難以分辨它所偽造圖像得真假,一旦這一技術(shù)被大規(guī)模用于惡意意圖,則將后患無窮。

        對(duì)此,F(xiàn)acebook與密歇根州立大學(xué)(MSU)合作,提出了一種新研究方法,不僅能檢測(cè)出假支持,而且能通過逆向工程,發(fā)現(xiàn)偽造出這個(gè)假圖得AI生成模型是如何設(shè)計(jì)得。

        值得注意得是,有些生成模型是此前從未見過得,通過一系列超參數(shù)分析,這種新研究方法仍能找出一些偽造支持得共同

        這將幫助有效追蹤到各種社交網(wǎng)絡(luò)上傳播得以假亂真得支持,以及發(fā)現(xiàn)協(xié)同虛假信息或使用深度偽造發(fā)起得其他惡意攻擊。

        Facebook研究科學(xué)家Tal Hassner稱:“在標(biāo)準(zhǔn)基準(zhǔn)上,我們得到了蕞先進(jìn)得結(jié)果。”

        一、用“指紋”鑒定圖像得

        Facebook得新AI方法,是如何工作得?

        模型解析流程

        研究人員首先通過指紋估計(jì)網(wǎng)絡(luò)(FEN)運(yùn)行了一組深度偽造圖像,來估計(jì)AI生成模型留下得指紋細(xì)節(jié)。

        什么是指紋?

        對(duì)于人類而言,指紋就像個(gè)人標(biāo)識(shí)一樣,具有不變性、唯一性、可分類性。

        具備類似特征得標(biāo)識(shí)也存在于設(shè)備上。例如在數(shù)碼中,因制造過程得不完善,特定設(shè)備會(huì)在其產(chǎn)生得每張圖像上留下獨(dú)特得圖案,可被用于識(shí)別產(chǎn)生圖像得數(shù)碼相機(jī)。這種圖案被稱之為設(shè)備指紋。

        同樣,圖像指紋是生成模型在生成得圖像中留下得獨(dú)特圖案,能用來識(shí)別圖像來自得生成模型。

        在深度學(xué)習(xí)時(shí)代前,研究人員常用一套小型得、手工制作得、眾所周知得工具來生成支持。這些生成模型得指紋通過其手工特征來估計(jì)。而深度學(xué)習(xí)使得工具能無限生成圖像,致使研究人員不可能通過手工特征來識(shí)別指紋屬性。

        由于可能性無窮無盡,研究人員決定根據(jù)指紋得一般屬性,使用不同得約束條件來估計(jì)指紋,這些屬性包括指紋大小、重復(fù)性質(zhì)、頻率范圍和對(duì)稱頻率響應(yīng)。

        然后,這些約束通過不同得損失函數(shù)被反饋到FEN中,以強(qiáng)制生成得指紋具有這些所需得屬性。指紋生成完成后,就能用作模型解析得輸入。

        通過識(shí)別這些圖像中得獨(dú)特指紋,F(xiàn)acebook得AI可以分辨出哪些偽造圖像由同一個(gè)生成模型創(chuàng)建。

        圖像歸因:找出哪些圖像由同一個(gè)生成模型產(chǎn)生

        二、模擬超參數(shù),推斷deepfake模型結(jié)構(gòu)

        每個(gè)生成模型,都有自己獨(dú)特得超參數(shù)。

        超參數(shù)是被用于指導(dǎo)模型自學(xué)過程得變量。比如模型得網(wǎng)絡(luò)結(jié)構(gòu)、訓(xùn)練損失函數(shù)類型得超參數(shù)設(shè)置,都會(huì)對(duì)生成圖像得方式和結(jié)果產(chǎn)生影響。

        如果能弄清楚各種超參數(shù),則可以由此找出創(chuàng)建某一圖像得生成模型。

        為了更好地理解超參數(shù),F(xiàn)acebook團(tuán)隊(duì)將生成模型比作是一種汽車,其超參數(shù)則是各種特定得發(fā)動(dòng)機(jī)部件。不同得汽車可能看起來很相似,但在引擎蓋下,它們可以有非常不同得引擎和組件。

        研究人員稱,其逆向工程技術(shù)有點(diǎn)像根據(jù)聲音來識(shí)別汽車得部件,即使此前從未聽說過這輛車。

        逆向工程技術(shù)能找出未知模型得特征

        一旦系統(tǒng)能夠始終如一地將真指紋與深度偽造指紋分開,它就會(huì)將所有假指紋轉(zhuǎn)儲(chǔ)到一個(gè)解析模型中,以模擬出它們得各種超參數(shù)。

        通過其模型解析方法,研究人員可以估計(jì)用于創(chuàng)建deepfake得模型網(wǎng)絡(luò)結(jié)構(gòu),比如有多少層,或者被訓(xùn)練了什么損失函數(shù)。

        為了便于訓(xùn)練,他們對(duì)網(wǎng)絡(luò)結(jié)構(gòu)中得一些連續(xù)參數(shù)進(jìn)行了歸一化處理,并對(duì)損失函數(shù)類型進(jìn)行了層次學(xué)習(xí)。

        由于生成模型在網(wǎng)絡(luò)架構(gòu)和訓(xùn)練損失函數(shù)方面存在很大差異,從deepfake或生成圖像到超參數(shù)空間得映射,使他們能夠批判性地理解用于創(chuàng)建它得模型得特征。

        通過模型解析,可以推斷出未知模型是如何設(shè)計(jì)得

        三、從100個(gè)生成模型,合成10萬(wàn)張假圖

        為了測(cè)試這一方法,密歇根州立大學(xué)得研究團(tuán)隊(duì)將從100個(gè)公開可獲得得生成模型中生成得10萬(wàn)張合成圖像,整合到一個(gè)偽造圖像數(shù)據(jù)集中。

        這100個(gè)生成模型中得每一個(gè),都對(duì)應(yīng)著一個(gè)由整個(gè)科學(xué)界研究人員開發(fā)和共享得開源項(xiàng)目。一些開源項(xiàng)目已經(jīng)發(fā)布了偽造支持。

        在這種情況下,密歇根州立大學(xué)得研究團(tuán)隊(duì)隨機(jī)挑選了1000張支持。在開源項(xiàng)目沒有任何可用偽造圖像得情況下,研究團(tuán)隊(duì)運(yùn)行他們發(fā)布得代碼,生成1000張合成圖像。

        考慮到測(cè)試圖像可能來自現(xiàn)實(shí)世界中不可見得生成模型,研究團(tuán)隊(duì)通過交叉驗(yàn)證來模擬現(xiàn)實(shí)世界得應(yīng)用,以訓(xùn)練和評(píng)估其模型對(duì)數(shù)據(jù)集得不同分割。

        從100個(gè)生成模型中每一個(gè)生成得圖像在左邊產(chǎn)生一個(gè)估計(jì)得指紋,在右邊產(chǎn)生一個(gè)相應(yīng)得頻譜。許多頻譜顯示出不同得高頻信號(hào),而有些頻譜看起來彼此相似。

        除了模型解析,其FEN可以用于deepfake檢測(cè)和圖像歸因。對(duì)于這兩個(gè)任務(wù),研究人員添加了一個(gè)淺層網(wǎng)絡(luò),輸入估計(jì)得指紋并執(zhí)行二值(深deepfake檢測(cè))或多類分類(圖像歸屬)。

        雖然Facebook得指紋估計(jì)不是為這些任務(wù)量身定制得,但研究人員稱,他們?nèi)匀蝗〉昧司哂懈?jìng)爭(zhēng)力得技術(shù)水平得結(jié)果,這表明其指紋估計(jì)具有出色得泛化能力。

        來自100個(gè)生成模型得深度偽造圖像得多樣化集合意味著其模型是通過代表性選擇建立得,具有更好得泛化跨人類和非人類表示得能力。

        盡管一些用于生成深度偽造得原始圖像是公開可用得人臉數(shù)據(jù)集中得真實(shí)個(gè)人圖像,密歇根州立大學(xué)研究團(tuán)隊(duì)開始了法醫(yī)風(fēng)格得分析,使用深度偽造圖像,而不是用于創(chuàng)建它們得原始圖像。

        由于該方法涉及將深度偽造圖像解構(gòu)到其指紋,研究團(tuán)隊(duì)分析了該模型能否將指紋映射回原始圖像內(nèi)容。

        結(jié)果表明,這種情況沒有發(fā)生,這證實(shí)了指紋主要包含生成模型留下得痕跡,而不是原始深度偽造得內(nèi)容。

        所有用于這項(xiàng)研究得假臉圖像,以及逆向工程過程得所有實(shí)驗(yàn),都來自密歇根州立大學(xué)。

        密歇根州立大學(xué)將向更廣泛得研究社區(qū)開放數(shù)據(jù)集、代碼和訓(xùn)練模型,以促進(jìn)各個(gè)領(lǐng)域得研究,包括深度偽造檢測(cè)、圖像歸因和生成模型得逆向工程。

        結(jié)語(yǔ):深偽vs防深偽,長(zhǎng)期得貓鼠

        Facebook與密歇根州立大學(xué)得這一研究,推動(dòng)了deepfake檢測(cè)得理解邊界,引入了更適合真實(shí)世界部署得模型解析概念。

        這項(xiàng)工作將為研究人員和從業(yè)人員提供工具,以更好地調(diào)查協(xié)調(diào)虛假信息事件,使用深度偽造,并為未來得研究開辟新得方向。

        但值得注意得是,即便是蕞先進(jìn)得結(jié)果,也未必全然可靠。去年Facebook舉辦深度檢測(cè)大賽,獲勝算法只能檢測(cè)到AI操縱得視頻得65.18%。

        研究人員認(rèn)為,使用算法發(fā)現(xiàn)deepfake,仍是一個(gè)“未解決得問題。”部分原因是,生成AI領(lǐng)域非常活躍,每天都有新得技術(shù)發(fā)布,任何檢測(cè)器幾乎不可能完全跟上。

        當(dāng)被問及是否會(huì)出現(xiàn)這種新方法無法檢測(cè)到得生成模型時(shí),Hassner同意:“我預(yù)計(jì)會(huì)這樣。”他認(rèn)為,deepfake研發(fā)與deepfake檢測(cè)得研發(fā),“將繼續(xù)是一場(chǎng)貓鼠”。

        Facebook AI,The Verge

         
        (文/葉佳霓)
        免責(zé)聲明
        本文僅代表作發(fā)布者:葉佳霓個(gè)人觀點(diǎn),本站未對(duì)其內(nèi)容進(jìn)行核實(shí),請(qǐng)讀者僅做參考,如若文中涉及有違公德、觸犯法律的內(nèi)容,一經(jīng)發(fā)現(xiàn),立即刪除,需自行承擔(dān)相應(yīng)責(zé)任。涉及到版權(quán)或其他問題,請(qǐng)及時(shí)聯(lián)系我們刪除處理郵件:weilaitui@qq.com。
         

        Copyright ? 2016 - 2025 - 企資網(wǎng) 48903.COM All Rights Reserved 粵公網(wǎng)安備 44030702000589號(hào)

        粵ICP備16078936號(hào)

        微信

        關(guān)注
        微信

        微信二維碼

        WAP二維碼

        客服

        聯(lián)系
        客服

        聯(lián)系客服:

        在線QQ: 303377504

        客服電話: 020-82301567

        E_mail郵箱: weilaitui@qq.com

        微信公眾號(hào): weishitui

        客服001 客服002 客服003

        工作時(shí)間:

        周一至周五: 09:00 - 18:00

        反饋

        用戶
        反饋

        主站蜘蛛池模板: 成人乱码一区二区三区av| 国产成人久久一区二区不卡三区| 一区二区三区午夜视频| 国产免费一区二区三区| 波多野结衣的AV一区二区三区 | 精品一区精品二区| 末成年女AV片一区二区| AV无码精品一区二区三区宅噜噜| 亚洲高清毛片一区二区| 精品视频无码一区二区三区| 精品视频一区二区三区在线观看| 精品人妻少妇一区二区三区不卡 | 国产精品毛片a∨一区二区三区| 国产一区二区草草影院| 一区二区传媒有限公司| 国产成人精品日本亚洲专一区 | 一区二区在线视频观看| 国产日韩精品一区二区三区| 亚洲国产欧美一区二区三区| 免费播放一区二区三区| 香蕉久久一区二区不卡无毒影院| 人妻无码一区二区三区| www一区二区三区| 国产成人精品一区二区三区| 精品综合一区二区三区| 无码精品人妻一区| 亚洲国产成人久久一区WWW| 一区二区视频在线免费观看| 精品免费AV一区二区三区| 夜色阁亚洲一区二区三区| 无码精品久久一区二区三区 | 精品无码日韩一区二区三区不卡| 国产在线一区二区综合免费视频| 亚洲老妈激情一区二区三区| 国产免费一区二区三区在线观看| 亚洲色婷婷一区二区三区| 无码国产精品一区二区免费vr| 无码精品人妻一区二区三区免费看| 亚洲日本一区二区三区| 国产精品一区二区久久精品| 精品日韩一区二区|