朱浩齊：網(wǎng)易云安全（易盾）是網(wǎng)易云旗下的一站式安全服務(wù)，脫胎于網(wǎng)易安全部門。我們?cè)谶^(guò)去20年主要是為網(wǎng)易所有產(chǎn)品提供安全風(fēng)控支持，覆蓋內(nèi)容安全、移動(dòng)安全、網(wǎng)絡(luò)安全和業(yè)務(wù)安全。

　　網(wǎng)易云安全和其他安全廠商不同的是，我們一直是業(yè)務(wù)場(chǎng)景驅(qū)動(dòng)的安全保障，例如內(nèi)容安全團(tuán)隊(duì)就是因?yàn)楫?dāng)時(shí)網(wǎng)易博客等UGC產(chǎn)品遇到有組織大規(guī)模的有害垃圾內(nèi)容攻擊，在網(wǎng)易集團(tuán)高層的決策下，快速成立的，我們應(yīng)該是國(guó)內(nèi)第一個(gè)大公司中成立這類的團(tuán)隊(duì)。我在易盾主要負(fù)責(zé)云安全服務(wù)的技術(shù)研發(fā)，特別是涉及到智能識(shí)別的內(nèi)容安全和基于大數(shù)據(jù)的業(yè)務(wù)安全服務(wù)。

　　朱浩齊：信息技術(shù)革命使得社會(huì)分工協(xié)同越來(lái)越緊密，何況在一個(gè)公司內(nèi)部，所以我們作為網(wǎng)易產(chǎn)品的基礎(chǔ)安全支持部門，也只是做了我們應(yīng)該做的事情。但是在幫助產(chǎn)品搭建內(nèi)容安全體系的時(shí)候，確實(shí)有很多細(xì)節(jié)需要相互討論和理解。比如新聞跟貼，網(wǎng)易有蓋樓的特色，但是存在一種可能就是一些樓層有問(wèn)題，其他沒(méi)問(wèn)題，那我們就需要跟產(chǎn)品討論，讓產(chǎn)品增加拆樓的功能，可以把我們認(rèn)為有問(wèn)題的樓層都拆掉（刪除）。這其實(shí)對(duì)整個(gè)跟貼系統(tǒng)來(lái)說(shuō)是比較大的改動(dòng)，公司確實(shí)投入了較大資源進(jìn)行架構(gòu)升級(jí)。

　　此外，云音樂(lè)在設(shè)計(jì)之初就借鑒了跟貼的問(wèn)題，設(shè)計(jì)上就不允許多層樓。（最多兩層）。但是跟云音樂(lè)的合作中我們更進(jìn)了一步，除了有害內(nèi)容清理之外，我們還嘗試做一些“運(yùn)營(yíng)需求”的功能：比如對(duì)于無(wú)意義灌水，破壞社區(qū)氛圍的謾罵等內(nèi)容進(jìn)行識(shí)別和清理。結(jié)果也還不錯(cuò)，其實(shí)網(wǎng)民在網(wǎng)絡(luò)上也會(huì)跟隨社區(qū)的風(fēng)氣而調(diào)整自己的行為。

　　朱浩齊：我們非常看好視聽(tīng)行業(yè)的發(fā)展，也看好LiveVideoStack所代表的多媒體視聽(tīng)技術(shù)社群的未來(lái)。網(wǎng)易在娛樂(lè)多媒體方面一直有探索性產(chǎn)品，但易盾是從一個(gè)特別的側(cè)面感受到視聽(tīng)行業(yè)的爆發(fā)。本質(zhì)上我們的內(nèi)容安全服務(wù)是內(nèi)容識(shí)別，我們目前一天大概識(shí)別十億條信息，成立以來(lái)，發(fā)現(xiàn)圖片、視頻、音頻所占比例爆發(fā)性提升。

　　我們和服務(wù)客戶的交流也驗(yàn)證了，內(nèi)容行業(yè)一直朝向更富媒體和社交互動(dòng)的方向發(fā)展，不斷為用戶拓展新的體驗(yàn)。近兩年，產(chǎn)業(yè)中凸顯出三個(gè)趨勢(shì)：第一是垂直滲透，視聽(tīng)互動(dòng)正在作為標(biāo)配功能嵌入到旅游、金融、電商等行業(yè)應(yīng)用。另外，不同媒體形式的交叉融合正在加快，媒體不斷增加新的視聽(tīng)內(nèi)容，音樂(lè)應(yīng)用上線短視頻等，泛媒體泛娛樂(lè)成為共識(shí)。最后，更多媒體形式、更多互動(dòng)和海量?jī)?nèi)容也給視聽(tīng)平臺(tái)帶來(lái)更大更復(fù)雜的內(nèi)容安全監(jiān)管壓力，內(nèi)容安全必須走向智能化。

　　朱浩齊：在技術(shù)上，盡快采用基于自然語(yǔ)言處理、深度學(xué)習(xí)技術(shù)的智能識(shí)別技術(shù)改造傳統(tǒng)以關(guān)鍵字和特征庫(kù)為代表的內(nèi)容識(shí)別技術(shù)，保證對(duì)文字、圖片、語(yǔ)音，特別是直播視頻的覆蓋。在產(chǎn)品上，應(yīng)該注意內(nèi)容發(fā)布特別是UGC互動(dòng)接口的覆蓋度，除了評(píng)論、博客、相冊(cè)、彈幕等，不能疏漏昵稱、頭像等簽名等角落。在策略上，應(yīng)該建立對(duì)有害信息精細(xì)明確的審核體系和應(yīng)對(duì)流程，做好應(yīng)急響應(yīng)。

　　朱浩齊：信息理解的難度確實(shí)越來(lái)越大，但近年來(lái)有效的技術(shù)手段也在不斷更新。一方面我們嘗試使用多種技術(shù)融合的方式去理解日趨復(fù)雜的多媒體內(nèi)容，例如在圖片分析過(guò)程中我們會(huì)使用多個(gè)深度網(wǎng)絡(luò)結(jié)合的方式去提取圖片語(yǔ)義信息，同時(shí)通過(guò)NLP技術(shù)對(duì)OCR抓取的文字信息進(jìn)行情感、意義的理解，最后綜合圖像、文字的理解對(duì)信息進(jìn)行有效判定；另一方面，由于互聯(lián)網(wǎng)視頻內(nèi)容不斷增多，在靜態(tài)圖像處理的基礎(chǔ)上，我們使用了視頻分析技術(shù)更好地對(duì)流媒體內(nèi)容進(jìn)行解讀。此外，聲紋識(shí)別技術(shù)也是安全領(lǐng)域的重要研究課題，我們也在嘗試使用端到端的聲紋技術(shù)去輔助身份認(rèn)證。

　　朱浩齊：安全是一個(gè)嚴(yán)肅又嚴(yán)謹(jǐn)?shù)男袠I(yè)，一個(gè)小的問(wèn)題可能都會(huì)導(dǎo)致企業(yè)嚴(yán)重危機(jī)，其實(shí)不應(yīng)該談什么樂(lè)趣吧（對(duì)比游戲，社交，電商等領(lǐng)域）。因?yàn)楹苡锌赡苣愕臉?lè)趣是建立在別人的痛苦之上的（比如研究安全問(wèn)題會(huì)很有意思，了解發(fā)生的細(xì)節(jié)，思考補(bǔ)救的措施，探索新的風(fēng)險(xiǎn)點(diǎn)等等，但那往往是有產(chǎn)品被通報(bào)有安全問(wèn)題了之后發(fā)生的）。當(dāng)然幫助客戶解決安全問(wèn)題帶來(lái)的成就感是很強(qiáng)的，跟黑產(chǎn)的斗智斗勇也算苦中作樂(lè)吧。我們是在解決一些“反人性”的問(wèn)題，做起來(lái)很難，做成了會(huì)很開心。

　　朱浩齊：計(jì)算機(jī)發(fā)明之前的信息安全歷史主要是密碼學(xué)范疇，比如加密電報(bào)之類的。隨著計(jì)算機(jī)技術(shù)的發(fā)展，信息安全領(lǐng)域不斷擴(kuò)大，現(xiàn)在已經(jīng)包含有網(wǎng)絡(luò)安全，系統(tǒng)安全，移動(dòng)安全，業(yè)務(wù)安全，內(nèi)容安全等等業(yè)務(wù)了。與此同時(shí)，信息安全的威脅也在不斷升級(jí)，安全事件頻發(fā)，對(duì)安全工作帶來(lái)的挑戰(zhàn)也越來(lái)越大。我認(rèn)為未來(lái)也會(huì)有一樣的發(fā)展趨勢(shì)：安全范圍和安全威脅同時(shí)增加。

　　LiveVideoStack：安全部門在企業(yè)中的地位往往不高，對(duì)于許多管理層而言，安全是成本中心而非利潤(rùn)中心。但安全又無(wú)小事，一個(gè)小紕漏可能給公司和客戶帶來(lái)巨大的損失。您是如何看待安全這一特殊的行業(yè)？有哪些難忘的故事可以分享。

　　朱浩齊：安全行業(yè)門檻比較高，并且確實(shí)有吃力不討好的嫌疑，所以圈子不如其他信息技術(shù)行業(yè)廣大。但是隨著安全事件的發(fā)生，越來(lái)越多的企業(yè)領(lǐng)導(dǎo)和政府官員都開始意識(shí)到信息安全的重要性了，相關(guān)法律法規(guī)也不斷完善。我認(rèn)為安全行業(yè)的地位隨著時(shí)間的推移必然會(huì)慢慢升高。并且規(guī)�；�之后安全行業(yè)也可以有商業(yè)化的探索，既能幫助公司解決安全問(wèn)題，又可以成為利潤(rùn)來(lái)源。

　　朱浩齊：確切的說(shuō)，網(wǎng)易內(nèi)部的安全工作分成了兩個(gè)部分，一個(gè)是為集團(tuán)服務(wù)的基礎(chǔ)技術(shù)研究工作，一個(gè)是商業(yè)化安全產(chǎn)品的易盾團(tuán)隊(duì)，商業(yè)化的部門是盈利中心，它做的就是把網(wǎng)易20年積累的部分內(nèi)部技術(shù)提供給有需要的企業(yè)，形成商業(yè)化的服務(wù)。產(chǎn)生這樣的舉措我覺(jué)得是順理成章的事情。一方面技術(shù)需要落地到更多的場(chǎng)景來(lái)證明和保持其先進(jìn)性，另外一方面把高門檻的安全服務(wù)商業(yè)化之后能更快的滿足安全市場(chǎng)的需求，幫助有需要的企業(yè)迅速實(shí)現(xiàn)安全體系建設(shè)，減少安全風(fēng)險(xiǎn)，提高企業(yè)的效率并且減少其成本。

　　朱浩齊：其實(shí)AI技術(shù)很早就有了，只是近年來(lái)在新的算法和新的高性能硬件助力下產(chǎn)生的效果有明顯進(jìn)步，在特定范圍內(nèi)甚至可以做到比人更精準(zhǔn)高效的結(jié)果。目前我們把AI技術(shù)應(yīng)用在內(nèi)容安全和業(yè)務(wù)安全領(lǐng)域，使用更好的模型來(lái)識(shí)別內(nèi)容和識(shí)別風(fēng)險(xiǎn)行為。至于AI探索的方向那太多了，語(yǔ)音識(shí)別、翻譯、機(jī)器人、人臉識(shí)別、自動(dòng)駕駛等等，可以說(shuō)現(xiàn)在資本投入多的大熱方向都是被看好的。

　　朱浩齊：其實(shí)做用戶畫像只需要用戶各個(gè)維度的數(shù)據(jù)，但不需要明文數(shù)據(jù)。對(duì)于模型來(lái)說(shuō)只要數(shù)據(jù)能保持一致性即可。所以我們一方面在部門內(nèi)部建立了數(shù)據(jù)保密制度，根據(jù)數(shù)據(jù)重要性等級(jí)劃分了權(quán)限，另外一個(gè)方面盡量的把真實(shí)的數(shù)據(jù)做了脫敏處理，比如手機(jī)號(hào)碼，直接哈希成另外一個(gè)值即可，無(wú)法逆向，人也不能理解，這樣數(shù)據(jù)就算泄露也不會(huì)造成隱私泄露的問(wèn)題。

　　朱浩齊：5G的理論速度提升，對(duì)于更大更清楚的內(nèi)容傳播肯定會(huì)帶來(lái)好處，不過(guò)這對(duì)內(nèi)容安全來(lái)說(shuō)還好，不會(huì)有太大的壓力。但是5G普及對(duì)于接入設(shè)備數(shù)量的大幅提升，可能會(huì)進(jìn)一步降低黑客的攻擊門檻，導(dǎo)致安全成本大幅提升。

　　娛樂(lè)多媒體開發(fā)應(yīng)用實(shí)踐隨著海量多媒體應(yīng)用的普及和爆發(fā)，用戶體驗(yàn)、成本控制以及內(nèi)容安全等方面也提出了更高的要求。如果你想了解泛娛樂(lè)行業(yè)的發(fā)展趨勢(shì)與技術(shù)難點(diǎn)，5月19日，上海，歡迎來(lái)到《娛樂(lè)多媒體開發(fā)應(yīng)用實(shí)踐》專題，與網(wǎng)易云易盾CTO朱浩齊、咪咕視訊技術(shù)總監(jiān)王琦、PP云資深架構(gòu)師朱明亮、戰(zhàn)旗直播流媒體研發(fā)工程師石碩面對(duì)面，他們將分別從海量與高帶寬下的內(nèi)容安全挑戰(zhàn)，5G帶來(lái)的基于與挑戰(zhàn)，高清賽事直播的挑戰(zhàn)，以及成本控制與用戶體驗(yàn)保障等角度分享多媒體開發(fā)最新技術(shù)實(shí)踐與應(yīng)用案例。