楊冪“換臉”視頻熱傳 AI讓你想變誰就變誰?
原版朱茵
換臉楊冪
近日,有網(wǎng)友上傳了一段楊冪“換臉”視頻,視頻中制作者通過AI技術(shù),把楊冪的臉換到了朱茵在《射雕英雄傳》中飾演的角色黃蓉上。該視頻立刻引發(fā)全網(wǎng)熱議,熱搜不斷。網(wǎng)友紛紛表示這段視頻毫無違和感,甚至“感謝科技,終于讓楊冪有了演技”。網(wǎng)絡(luò)大面積驚嘆之余,這種“分分鐘換臉”的黑科技也讓人細(xì)思極恐。
揚(yáng)子晚報(bào)/揚(yáng)眼記者 孔小平
【事件回放】
“楊冪版黃蓉”竟毫無破綻
94版《射雕英雄傳》里朱茵扮演的黃蓉非常靈動(dòng)俏皮,不少場(chǎng)景堪稱經(jīng)典。B站一位叫“換臉哥”的UP主,將楊冪的臉用AI技術(shù)換到了劇中“黃蓉”的身上,看下來,“楊冪版黃蓉”的表情和肢體動(dòng)作很順暢,絲毫看不出破綻,因?yàn)樘普,在網(wǎng)上也迅速引起軒然大波。據(jù)悉,這位換臉哥此前就發(fā)布了多個(gè)給影視劇角色換臉的視頻,被換臉的有《冰與火之歌》里的龍媽,《泰坦尼克號(hào)》里的rose,《喜劇之王》里的柳飄飄,《古墓麗影》里的勞拉等等,而替換上去的,都是楊冪。
這不是個(gè)例
該視頻出現(xiàn)后網(wǎng)友從驚呆到驚嘆。網(wǎng)上甚至有個(gè)話題叫“將朱茵的黃蓉?fù)Q成楊冪的臉”,閱讀量居然飆升到1.1億多,討論更有2.5萬個(gè)。有網(wǎng)友表示,在技術(shù)的加持下,誰都能成為演技派,以后換臉技術(shù)是不是會(huì)成為摳圖表演者的新捷徑了?未來明星們拍戲無需到場(chǎng),直接簽訂一份“允許換臉”的授權(quán)合同,就可以影視作品制作了。
其實(shí)“AI換臉”并不是從@換臉哥開始的,只是因?yàn)椤皸顑绨纥S蓉”而引發(fā)了更廣泛的關(guān)注。
@換臉哥制作這段逼真視頻的工具叫deepfake,國外在2017年就出現(xiàn)了,曾有人用明星換臉制作了一些不雅視頻,不幸中招的明星包括蓋爾·加朵、斯嘉麗·約翰遜等。當(dāng)時(shí)引發(fā)了很大爭議,不少平臺(tái)都明確禁止此類視頻傳播。
“簡直是技術(shù)猥褻,求整治”
在deepfake傳入國內(nèi)后,國內(nèi)也有網(wǎng)友制作過換臉視頻。比如把宅男們喜聞樂見的女主播換成國內(nèi)當(dāng)紅小花,播放量都在幾十萬。之前好萊塢女演員斯嘉麗·約翰遜就曾預(yù)言,“讓任何一個(gè)人成為這項(xiàng)技術(shù)的攻擊目標(biāo)只是時(shí)間問題!
因此記者看到很多清醒的網(wǎng)友也認(rèn)識(shí)到,公眾人物只是首當(dāng)其沖“被技術(shù)”的,如果有人惡意利用和濫用,那任何人可以變成任何人,對(duì)所有人都不安全。更有網(wǎng)友表示,“換臉”簡直是一種赤裸裸的“技術(shù)猥褻”。無數(shù)網(wǎng)友呼吁相關(guān)部門“求整治”!
發(fā)布者已下架相關(guān)視頻
27日,該視頻發(fā)布者@換臉哥發(fā)微博道歉,表示已與楊冪官方工作室溝通,并下架了相關(guān)視頻。并稱,普通的AI換臉技術(shù)可能只能用于娛樂作用,諸如軍事用途等更高級(jí)別的AI技術(shù),其安全性高,目前的民用AI技術(shù)也不會(huì)構(gòu)成威脅,并表示這對(duì)所有人來說是一個(gè)警示,大家應(yīng)尊重版權(quán)與肖像權(quán),專注于技術(shù)本身。
【連鎖反應(yīng)】
細(xì)思極恐,刷臉支付安全嗎?
此事無疑給社會(huì)造成了一定負(fù)面影響,但細(xì)思極恐,如今無人駕駛、人臉識(shí)別、智慧城市、智能家居等各類場(chǎng)景中都在運(yùn)用AI,包括人臉識(shí)別系統(tǒng),但一旦后端控制系統(tǒng)被攻擊,出現(xiàn)規(guī);、連鎖式的崩盤,AI失控的后果不堪設(shè)想。網(wǎng)上報(bào)道顯示,2019年1月,荷蘭Deeptrace實(shí)驗(yàn)室發(fā)布一份deepfake發(fā)展報(bào)告稱,2018年“deepfake”關(guān)鍵詞的搜索次數(shù)比2017年增長了1000倍。
27日深夜,@阿里安全在微博做出科普和回應(yīng)。阿里安全圖靈實(shí)驗(yàn)室高級(jí)算法專家覺奧在視頻中指出,當(dāng)前主流的換臉技術(shù)是基于深度學(xué)習(xí)模型的,其核心是一個(gè)“自動(dòng)編碼器”,具體而言,通過人臉檢測(cè)技術(shù),把視頻中兩個(gè)人,比如朱茵和楊冪的臉抓取下來,數(shù)量需要幾千到幾萬張,之后訓(xùn)練這個(gè)自動(dòng)編碼器和兩個(gè)解碼器,一個(gè)解碼器生成朱茵,另一個(gè)生成楊冪,訓(xùn)練好以后,輸入朱茵的臉就能生成楊冪的臉了。
這一技術(shù)的應(yīng)用會(huì)引發(fā)何種問題?覺奧表示,除了換臉引發(fā)的道德和倫理問題,“黑灰產(chǎn)業(yè)”利用AI換臉,是目前常見的一種攻擊手段,“在人臉識(shí)別系統(tǒng)中,識(shí)別換臉的技術(shù)叫活體檢測(cè)技術(shù),這是一個(gè)攻防對(duì)抗技術(shù),即用AI的手段來解決AI的攻擊!庇X奧也表示,通過深度學(xué)習(xí)技術(shù),訓(xùn)練模型,來通過兩者的紋理、膚色、反光等特性的不同而識(shí)別出來?蓪(shí)現(xiàn)在毫秒級(jí)時(shí)間內(nèi)揪出假人臉,目前識(shí)別準(zhǔn)確率達(dá)到99.9%。同時(shí)他也指出,“這幾年,由于深度學(xué)習(xí)的迅猛發(fā)展,攻、防的技術(shù)都在不斷進(jìn)步,這是一個(gè)持續(xù)、動(dòng)態(tài)對(duì)抗的過程,我們有信心和能力做好!
為此@阿里安全表示,阿里的人臉識(shí)別活體檢測(cè)技術(shù)能夠毫秒級(jí)辨別,成功率高達(dá)99.9%,防控技術(shù)還是有的,大家無需過于擔(dān)憂。
【記者采訪】
新技術(shù)不能突破法律底線
南京大學(xué)法學(xué)院教授、博導(dǎo)徐棣楓接受記者采訪時(shí)表示,早前也有過模擬明星聲音的侵權(quán)行為,他認(rèn)為,“AI換臉術(shù)”作為科技來說,是沒有對(duì)錯(cuò)之分的。AI換臉明星,與不經(jīng)允許使用別人照片的行為是類似的,都涉嫌侵犯肖像權(quán)。不合理使用技術(shù)的平臺(tái)和個(gè)人,都應(yīng)該受到法律的約束。
那“換臉術(shù)”應(yīng)用的邊界在哪里?徐棣楓表示,以前是PS照片,現(xiàn)在換臉術(shù)就是PS視頻,不能隨便用別人的照片和視頻這些法律意識(shí)也在漸漸養(yǎng)成。另外,這種AI換臉技術(shù)存在一定的潛在風(fēng)險(xiǎn),目前有對(duì)其適用的法律規(guī)范。
采訪中也有傳播方面的專家表示,AI技術(shù)發(fā)展使普通人能享受到科技帶來的便利,但新技術(shù)應(yīng)該驅(qū)動(dòng)良性的文化創(chuàng)意更新迭代,切忌用到歪路上去,更不能突破底線挑戰(zhàn)公序良俗。