首頁熱門文章
周鴻祎：人工智能是數(shù)據(jù)智能，要防止“數(shù)據(jù)投毒”
發(fā)布時間：2018-11-09 分類：趨勢研究
“人工智能在給我們帶來賦能的同時，自身的安全問題被忽視了，當(dāng)前人工智能系統(tǒng)本質(zhì)上是數(shù)據(jù)智能，要防止數(shù)據(jù)投毒?！?1月8日，周鴻祎在烏鎮(zhèn)互聯(lián)網(wǎng)大會上重申了對未來網(wǎng)絡(luò)安全的謹(jǐn)慎態(tài)度。
AI人工智能在此次大會上依然是熱詞，有專家預(yù)測稱，2030年之前全球會有萬億計的智能設(shè)備連到互聯(lián)網(wǎng)上。隨著人工智能技術(shù)的發(fā)展，軟件定義一切，萬物皆要互聯(lián)，網(wǎng)絡(luò)安全也將產(chǎn)生巨大的威脅。
周鴻祎表示，人工智能是大數(shù)據(jù)訓(xùn)練出來的，訓(xùn)練的數(shù)據(jù)可以被污染，也叫“數(shù)據(jù)投毒”。比如，通過給智能汽車輸入“污染”過的訓(xùn)練樣本，就可以把“禁止通行”的交通標(biāo)志牌識別為“可以通行”，從而造成交通事故和人員傷亡。與此同時，人工智能識別數(shù)據(jù)的傳感器也可以被干擾。同樣是智能汽車，用激光筆對著無人駕駛車的激光雷達(dá)晃一晃，車就可能瞬間停下來，被后車追尾。另外，周鴻祎還表示，人工智能內(nèi)部復(fù)雜的計算邏輯和決策過程還不透明，可以被欺騙或繞過，通過這種方式，家里的智能音響甚至可以變成竊聽器。
未來的世界是一個被軟件吞噬，充滿漏洞的世界，沒有固若金湯的防線。對網(wǎng)絡(luò)安全而言，同樣需要借助人工智能、大數(shù)據(jù)和云計算這些新技術(shù)的力量。在昨天的領(lǐng)先成果發(fā)布會上，360推出的“安全大腦”獲得世界互聯(lián)網(wǎng)領(lǐng)先科技成果獎。360“安全大腦”就是借助人工智能技術(shù)，依靠大數(shù)據(jù)偵測，從浩如煙海的數(shù)據(jù)中尋找蛛絲馬跡，識別異常的訪問和行為，然后進(jìn)行溯源，最后交給安全專家進(jìn)行決策。
另外，周鴻祎進(jìn)一步解釋說，習(xí)主席提出沒有網(wǎng)絡(luò)安全就沒有國家安全，未來的軍事網(wǎng)絡(luò)、工業(yè)網(wǎng)絡(luò)，國防工業(yè)、政府網(wǎng)絡(luò)和個人網(wǎng)絡(luò)的安全實際是一個整體。這要求我們要用國家級的視野看待網(wǎng)絡(luò)安全，每個國家都要建自己國家級的網(wǎng)絡(luò)安全大數(shù)據(jù)系統(tǒng)，擁有國家級的視野，國家級的數(shù)據(jù)，最后才能真正抵御國家級的攻擊。
我們推出的360安全大腦嚴(yán)格來說，并不是市場行為，而是國家行為。我們愿意把自己的經(jīng)驗、數(shù)據(jù)、技術(shù)、能力開放出來，與安全公司一起合作，把安全大腦本身的核心技術(shù)和大數(shù)據(jù)打造好，成為很多安全公司背后的賦能者，在國內(nèi)真正把一個大的生態(tài)做起來，大家合作把安全大腦打造成國之重器。
在此次大會上，沈南鵬也發(fā)表了相同的觀點。他介紹，中國的風(fēng)險投資過去20年投的最多是電子商務(wù)，但過去45年，美國紅杉投資最多的是安全領(lǐng)域。他還建議需要把更多的資源和產(chǎn)業(yè)重心放在安全領(lǐng)域中，未來的智能產(chǎn)品越來越豐富和復(fù)雜的時候，相應(yīng)的安全產(chǎn)品也要能夠跟上去。
