這個(gè)案例喚醒了人們對(duì)于使用日趨廣泛的人臉識(shí)別等AI應(yīng)用的擔(dān)心，由此也開(kāi)始在心中盤(pán)算，當(dāng)我們?cè)谙硎蹵I帶來(lái)的新體驗(yàn)的同時(shí)，可能付出的安全代價(jià)。
AI的安全問(wèn)題
實(shí)際上，上面這個(gè)案例只是AI安全一個(gè)層面上的問(wèn)題，如果仔細(xì)劃分，會(huì)發(fā)現(xiàn)今天的AI至少面臨三個(gè)層面的挑戰(zhàn)：
第一個(gè)層面，是AI技術(shù)本身內(nèi)在的安全風(fēng)險(xiǎn)。要知道，AI所依賴的機(jī)器學(xué)習(xí)實(shí)際上是將傳統(tǒng)上我們所依賴的正常的邏輯變成“黑箱操作”，我們只知道決策輸出的結(jié)果，而對(duì)于神經(jīng)網(wǎng)絡(luò)內(nèi)在工作的邏輯并不是完全掌握，這是AI與傳統(tǒng)上的“自動(dòng)控制”最大的區(qū)別。如果在這個(gè)過(guò)程中，機(jī)器學(xué)習(xí)的數(shù)據(jù)被污染，就會(huì)影響樣本和判斷的準(zhǔn)確性；機(jī)器學(xué)習(xí)模型自身存在的缺陷，會(huì)帶來(lái)更加隱蔽的安全問(wèn)題。也就是說(shuō)，比起傳統(tǒng)的信息安全問(wèn)題，AI內(nèi)在的安全問(wèn)題更難于發(fā)現(xiàn)和及時(shí)應(yīng)對(duì)。
第二個(gè)層面，是AI技術(shù)被惡意使用的問(wèn)題。歷史的經(jīng)驗(yàn)告訴我們，黑客總是會(huì)跟隨最新技術(shù)，甚至有時(shí)候還會(huì)引領(lǐng)最新技術(shù)。AI的出現(xiàn)，無(wú)疑給黑客提供了新的進(jìn)攻武器，他們可以使用機(jī)器學(xué)習(xí)進(jìn)行海量數(shù)據(jù)分析，對(duì)于攻擊目標(biāo)的安全策略和方法進(jìn)行揣摩，并找到突破口。要知道，安全領(lǐng)域的困境就在于：防御者必須預(yù)測(cè)并阻斷進(jìn)攻者可能使用的一萬(wàn)種攻擊手段，而進(jìn)攻者只需要利用防御者的一個(gè)漏洞就可以完成入侵，達(dá)到目的。因此在全球數(shù)字化轉(zhuǎn)型快速推進(jìn)之時(shí)，隨著AI技術(shù)的發(fā)展，信息安全風(fēng)險(xiǎn)比以往任何時(shí)候都要高。
第三個(gè)層面，是AI應(yīng)用中存在的隱私泄露、數(shù)據(jù)濫用等問(wèn)題。文章開(kāi)頭所提到的例子，就屬于這個(gè)范疇。而且在AI與物聯(lián)網(wǎng)疊加催生出“人工智能物聯(lián)網(wǎng)（AIoT）”之后，這種風(fēng)險(xiǎn)性傳播的速度會(huì)更快，影響的范圍會(huì)更廣，防范難度自然也會(huì)更大。
應(yīng)對(duì)AI安全挑戰(zhàn)
如此看來(lái)，AI的安全問(wèn)題著實(shí)難解。不過(guò)再難，也需要擰緊“安全閥”，這是一個(gè)必須要解決的問(wèn)題。
缺少工具可能是在求解AI難題時(shí)，最大的困惑。全球知名的白帽黑客Kevin Mitnick就曾經(jīng)表示，現(xiàn)在還沒(méi)有真正符合AI核心技術(shù)的工具或產(chǎn)品出現(xiàn)，他自己對(duì)于AI產(chǎn)品進(jìn)行安全分析評(píng)估的經(jīng)驗(yàn)也是不足的。
不過(guò)，就像AI可以被黑客用來(lái)作為攻擊的手段一樣，AI強(qiáng)大的能力，本身也可以作為一種安全工具被加以利用。今天的網(wǎng)絡(luò)安全廠商正在引入AI技術(shù)，去解決傳統(tǒng)防御方案解決不了的新威脅，提高原有檢測(cè)方案的檢測(cè)精度，進(jìn)行更高效自動(dòng)化數(shù)據(jù)分類，實(shí)現(xiàn)更快的威脅響應(yīng)處置。也就是說(shuō)，AI不僅可以被用于對(duì)抗已有的攻擊，也可去感知和預(yù)測(cè)未來(lái)可能發(fā)生的安全威脅，這就使得安全防御變得更加積極。
根據(jù)中國(guó)信通院發(fā)布的《中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)白皮書(shū)(2019 年)》，在網(wǎng)絡(luò)安全領(lǐng)域，AI技術(shù)正在發(fā)力的地方包括（但不限于）以下這些方面：
- 在異常流量檢測(cè)方面，AI為加密流量分析提供新方案。
- 在惡意軟件防御方面，針對(duì)特定場(chǎng)景的AI應(yīng)用取得積極進(jìn)展。
- 在異常行為分析方面，AI可成為模式識(shí)別的有效補(bǔ)充。
- 在敏感數(shù)據(jù)保護(hù)方面，AI助力數(shù)據(jù)識(shí)別和保護(hù)能力提升。
- 在安全運(yùn)營(yíng)管理方面，基于AI的安全編排與自動(dòng)化響應(yīng)(SORA)逐漸興起。
有了AI作為安全防御的利器，人們的下一步就是要去探索一個(gè)體系化的安全解決方案。比如，為了應(yīng)對(duì)AI模型各個(gè)環(huán)節(jié)可能存在的安全風(fēng)險(xiǎn)，并給出相應(yīng)的防御建議，騰訊就發(fā)布了一個(gè)“AI安全攻擊矩陣”。
這個(gè)AI安全攻防矩陣的意義在于：它可以覆蓋從AI模型開(kāi)發(fā)前的環(huán)境搭建，到模型的訓(xùn)練部署，以及后期的使用維護(hù)的整個(gè)AI產(chǎn)品生命周期，盡可能列舉出在這個(gè)過(guò)程中可能遇到的所有安全問(wèn)題，并給出相應(yīng)的應(yīng)對(duì)策略。這樣一來(lái)，對(duì)照這個(gè)“矩陣”，開(kāi)發(fā)者就可以根據(jù)AI部署運(yùn)營(yíng)的基本情況，排查可能存在的安全問(wèn)題，并根據(jù)推薦的防御建議布防，降低已知的安全風(fēng)險(xiǎn)。雖然這樣的探索，目前來(lái)看只是一個(gè)起步，但也算是一個(gè)不錯(cuò)的開(kāi)端。
技術(shù)之外的努力
當(dāng)然，由于AI對(duì)于人類社會(huì)的觸動(dòng)是多方面、深層次的，所以AI安全策略也不能僅僅停留在技術(shù)層面。具體來(lái)講，在技術(shù)之外，我們至少在兩個(gè)方面必須有所行動(dòng)：
- 一是從法律角度構(gòu)筑安全防線，通過(guò)立法明確AI安全的“紅線”，讓黑客及AI濫用者付出應(yīng)有的代價(jià)；
- 二是建立行業(yè)公認(rèn)的行為準(zhǔn)則，通過(guò)行業(yè)自律等方式，覆蓋那些由于法律滯后于技術(shù)發(fā)展可能出現(xiàn)的灰色地帶，給用戶安全以最大化的保障，這也是為AI長(zhǎng)足發(fā)展?fàn)I造一個(gè)更健康的生態(tài)。
在文章的最后，分享一組數(shù)據(jù)：根據(jù)IDC的研究數(shù)據(jù)，2019年全球網(wǎng)絡(luò)安全支出較2018增長(zhǎng)了近9.4%，達(dá)到1066.3億美元；然而與此同時(shí)，有機(jī)構(gòu)預(yù)測(cè)同期網(wǎng)絡(luò)犯罪的總成本可能超過(guò)2萬(wàn)億美元，也就是說(shuō)網(wǎng)絡(luò)犯罪活動(dòng)的成本是安全支出的20倍左右。
這就是人們所面臨的安全環(huán)境，而且AI的出現(xiàn)會(huì)讓這種環(huán)境更為復(fù)雜。而在安全的問(wèn)題上，決不能妥協(xié)，因?yàn)殛P(guān)鍵之處一旦失守，可不是丟一張“臉”的數(shù)據(jù)那么簡(jiǎn)單了。這種讓人細(xì)思極恐的壓力，也正是業(yè)界進(jìn)步的動(dòng)力所在。
請(qǐng)關(guān)注安富利官方微信
關(guān)于安富利公司
安富利是一家全球技術(shù)解決方案提供商，擁有廣泛的生態(tài)系統(tǒng)，可在產(chǎn)品生命周期的每個(gè)階段為客戶提供設(shè)計(jì)、產(chǎn)品、營(yíng)銷和供應(yīng)鏈專業(yè)知識(shí)。我們將創(chuàng)意轉(zhuǎn)化為智能解決方案，減少將產(chǎn)品投放市場(chǎng)所需的時(shí)間、成本和復(fù)雜性。近一個(gè)世紀(jì)以來(lái)，安富利一直致力于幫助全球客戶和供應(yīng)商實(shí)現(xiàn)技術(shù)的變革。了解安富利的更多信息，歡迎瀏覽<http://www.avnet.com/>。
