面部識別技術(shù)已經(jīng)越來越普遍地被用在我們的生活中。
每天,我們刷臉解鎖手機(jī),翻看相冊里已根據(jù)人臉分類好的照片,甚至在上傳圖片到社交網(wǎng)絡(luò)上時(shí)也不用自己填寫人名,因?yàn)锳I已經(jīng)識別出你圖片中人物的名字了。
但如果有一天,AI也能欺騙AI,以假亂真呢?
外媒VentureBeat報(bào)道稱,近日,F(xiàn)acebook的人工智能實(shí)驗(yàn)室Facebook AI Research(FAIR)開發(fā)出一種“去識別”系統(tǒng),該系統(tǒng)可以欺騙面部識別系統(tǒng),例如,讓面部識別系統(tǒng)將你識別為一位女明星。
圖源:the verge
盡管,2015年Facebook才被起訴違反了《伊利諾伊州生物識別信息隱私法案》。該法案要求,公司在收集和存儲(chǔ)包括面部掃描在內(nèi)的生物識別數(shù)據(jù)時(shí),需要制定公共政策。而Facebook在其“標(biāo)簽建議”功能中使用了生物識別技術(shù),卻并沒有制定相關(guān)政策。
但FAIR此次開發(fā)的“去識別”技術(shù)卻是反人臉識別的。該技術(shù)通過機(jī)器學(xué)習(xí),能夠?qū)崟r(shí)地改變視頻中人臉的關(guān)鍵面部特征。它可以用在視頻,甚至是實(shí)時(shí)視頻中。
事實(shí)上這種“去識別”技術(shù)過去已經(jīng)存在,許多公司已經(jīng)擁有了對靜態(tài)圖像“去識別”的技術(shù),如初創(chuàng)公司D-ID。該公司聲稱,其技術(shù)能改變一張人臉圖片中的生物信息,使圖片無法被人臉識別算法識別,但兩張圖片看上去仍是一樣的。
圖源:D-ID
還有一種被稱為對抗圖案(Adversarial Example) 的圖形,它利用電腦視覺軟件在訓(xùn)練識別特定特征時(shí)的漏洞,讓識別系統(tǒng)產(chǎn)生誤判。例如,有一副印有對抗圖案的墨鏡,能夠使面部識別系統(tǒng)誤認(rèn)為你是女演員Milla Jovovich。
過去的技術(shù)通常應(yīng)用于從監(jiān)控?cái)z像頭等渠道獲得的照片、靜止影像,或是已事先計(jì)劃好利用對抗圖像欺騙人臉識別系統(tǒng)。現(xiàn)在,F(xiàn)AIR的研究針對實(shí)時(shí)影像和視頻腳本,F(xiàn)AIR稱這項(xiàng)技術(shù)成果是行業(yè)首例,且它足以抵抗精密的面部識別系統(tǒng)。
“面部識別可能會(huì)導(dǎo)致隱私的丟失,并且可能有人使用面部替換的技術(shù)來制作誤導(dǎo)性視頻。”一篇解釋該技術(shù)的論文稱,“最近,世界上關(guān)于人臉識別技術(shù)的發(fā)展和濫用,激起了人們了解反人臉識別技術(shù)的需求。我們的研究成果,是唯一適用于包括實(shí)時(shí)視頻在內(nèi)的所有視頻文件的技術(shù),并且呈現(xiàn)的效果遠(yuǎn)遠(yuǎn)超過理論值。”
據(jù)VentureBeat報(bào)道,F(xiàn)acebook并不打算在任何商業(yè)產(chǎn)品中使用這個(gè)反人臉識別技術(shù),但這項(xiàng)研究可能會(huì)對未來的個(gè)人隱私保護(hù)工具產(chǎn)生影響。并且,就像該研究在“誤導(dǎo)性視頻”中所強(qiáng)調(diào)的那樣,它能夠防止個(gè)人肖像被用于制造偽造視頻。
目前,Deepface等偽造視頻的問題嚴(yán)重,用于制作Deepface的工具也日益精密。AI行業(yè)正在努力攻克這些問題。Facebook此次的研究成果,便提供了一種可行的方法。
同時(shí),立法機(jī)關(guān)與科技公司也正在嘗試著推出類似的可檢測視頻是否造假的工具,并著力于推出限制偽造視頻、影像等傳播的相關(guān)監(jiān)管政策。本文來自界面新聞