首頁熱門文章
魯傳穎：人工智能領(lǐng)域亟須新安全觀
發(fā)布時間：2019-09-06 分類：趨勢研究 來源：環(huán)球網(wǎng)
近日，美國國防部聯(lián)合人工智能中心主任沙納漢聲稱，2020將是美軍在人工智能領(lǐng)域?qū)崿F(xiàn)突破的一年。明年中心的人員將增加60個編制，預(yù)算增長3倍，并將在一系列項目上快速取得突破。沙納漢認(rèn)為，要應(yīng)對大國在人工智能領(lǐng)域的競爭，美國必須要加大、加快在人工智能軍事應(yīng)用領(lǐng)域的投入。
美軍大舉在人工智能領(lǐng)域布局，反映了人工智能的武器化、實戰(zhàn)化正在逐步成為現(xiàn)實。從人類歷史上看，軍事是推動科技進(jìn)步的重要力量，包括核武器、互聯(lián)網(wǎng)等很多重大科技領(lǐng)域的突破都是源自軍事目的。國家出于軍事目的發(fā)展具有戰(zhàn)略意義的高科技在當(dāng)代也非常普遍，越來越多的國家開始加速布局人工智能在軍事領(lǐng)域的應(yīng)用。
值得警惕的是，當(dāng)代國際關(guān)系領(lǐng)域一個顯著的“安全困境”就是大國為謀取戰(zhàn)略競爭優(yōu)勢而發(fā)展高科技武器，引起眾多國家效仿，反而惡化了整體的安全環(huán)境。人工智能已成為引發(fā)“安全困境”的新領(lǐng)域，人工智能軍事化發(fā)展的安全困境將會伴隨大國不斷加大投入而提前到來。
因此，國際社會應(yīng)當(dāng)建立一種新的安全觀來看待人工智能的安全問題，包括從技術(shù)安全、應(yīng)用安全和體系安全三個層面來應(yīng)對人工智能的安全困境。
一是要關(guān)注人工智能自身的技術(shù)安全問題。算法黑箱、自主決策、數(shù)據(jù)安全都有可能帶來人工智能武器的失控，并由此帶來嚴(yán)重的安全后果。因此，如何在確保安全的前提下開展人工智能軍事應(yīng)用至關(guān)重要。
二是人工智能應(yīng)用中的安全。不負(fù)責(zé)任地使用人工智能武器或是隨意擴(kuò)散，都有可能給國際社會造成嚴(yán)重的安全、經(jīng)濟(jì)和社會層面?zhèn)Α１热鐬E用人工智能武器造成無辜平民的傷亡，恐怖分子獲取人工智能武器將會實施的重大恐怖襲擊。
三是必須關(guān)注人工智能在軍事領(lǐng)域的應(yīng)用對國際安全體系造成的顛覆。隨著人工智能的發(fā)展，戰(zhàn)爭的形態(tài)將被徹底改變。軍人、戰(zhàn)場和戰(zhàn)爭模式會發(fā)生顛覆性的變化。程序員將成為軍人中的重要組成部分，更加精確的殺傷將會使得戰(zhàn)場范圍更加廣闊，傳統(tǒng)的戰(zhàn)爭決策模式也難以適應(yīng)人工智能快速反應(yīng)的決策。如此巨大的變化將會使傳統(tǒng)的國際安全架構(gòu)難以適應(yīng)新挑戰(zhàn)，現(xiàn)有的沖突降級、危機(jī)管控、建立信任措施等維護(hù)國際安全的手段無法解決大國在人工智能軍事領(lǐng)域的沖突，危及國際安全體系穩(wěn)定。
新的安全觀有助于更好地理解人工智能軍事化應(yīng)用所帶來的安全挑戰(zhàn)，但要應(yīng)對挑戰(zhàn)，還需要建立新的治理機(jī)制。
首先，要建立以技術(shù)治理為主體的人工智能全球治理體系，改變國家的安全觀念，更加積極地促進(jìn)知識和經(jīng)驗的分享來維護(hù)體系安全，而不是通過壟斷技術(shù)來獲取競爭優(yōu)勢。其次，人工智能的全球治理應(yīng)當(dāng)處理好政府與其他利益攸關(guān)方的關(guān)系。人工智能具有軍民兩用性，技術(shù)在軍事領(lǐng)域的應(yīng)用會對民用產(chǎn)生負(fù)面影響。如谷歌和亞馬遜都因為與軍方開展人工智能合作而遭到了員工和客戶的反對。最后，應(yīng)有約束大國發(fā)展和使用軍事人工智能的國際機(jī)制，形成大國審慎考慮自身行為帶來安全困境的輿論氛圍。(作者是上海國際問題研究院網(wǎng)絡(luò)空間國際治理研究中心秘書長)
