|
據(jù)美聯(lián)社5月30日消息，喬什洛斯皮諾索創(chuàng)辦的首家網(wǎng)絡(luò)安全初創(chuàng)公司在2017年被雷神forcepoint網(wǎng)絡(luò)安全公司收購。他的第二家網(wǎng)絡(luò)安全公司Shift5，主要以提供硬件和軟件解決方案,以保護(hù)運(yùn)營技術(shù)(OT)平臺,如飛機(jī)、火車、地面戰(zhàn)車和大型采礦和施工車輛。為此主要與美國軍方、鐵路運(yùn)營商和包括捷藍(lán)航空在內(nèi)的航空公司合作。這位36歲的前陸軍上尉是2009年西點(diǎn)軍校畢業(yè)生和羅德學(xué)者，他花了十多年時間為國家安全局和美國網(wǎng)絡(luò)司令部編寫黑客工具。最近，洛斯皮諾索對參議院軍事小組委員會表示，人工智能如何幫助保護(hù)軍事行動。這位首席執(zhí)行官兼程序員與美聯(lián)社討論了這個話題，以及武器系統(tǒng)中的軟件漏洞，是如何對美國軍方構(gòu)成重大威脅的。為確保觀點(diǎn)清晰和篇幅的考慮，采訪內(nèi)容進(jìn)行了相關(guān)的編輯。
Shield AI公司正在為無人系統(tǒng)構(gòu)建自動駕駛技術(shù)，以訓(xùn)練它們在不使用GPS、通信或遠(yuǎn)程飛行員的情況下執(zhí)行任務(wù)，例如對抗綜合防空系統(tǒng)（圖片來源：Shield AI公司） 問：在你的證詞中，你描述了人工智能技術(shù)面臨的兩個主要威脅：一個是欺騙，這是不言自明的。另一個是數(shù)據(jù)中毒。你能解釋一下嗎？答：考慮數(shù)據(jù)中毒的一種方法是數(shù)字虛假信息。如果對手能夠制作人工智能技術(shù)看到的數(shù)據(jù)，他們可以深刻影響該技術(shù)的運(yùn)作方式。問：是否會發(fā)生數(shù)據(jù)中毒？答：我們沒有廣泛地看到這一點(diǎn)，但它已經(jīng)發(fā)生了。最著名的案例之一發(fā)生在2016年，微軟發(fā)布了一個名為Tay的Twitter聊天機(jī)器人，它可以從網(wǎng)上的對話中學(xué)習(xí)。惡意用戶合謀在推特上發(fā)布辱罵性、攻擊性的語言。Tay開始產(chǎn)生煽動性內(nèi)容，隨后微軟將其下線。問：人工智能不僅僅是聊天機(jī)器人。長期以來，它一直是網(wǎng)絡(luò)安全不可或缺的一部分，對吧？答：人工智能被用于電子郵件過濾器，以嘗試標(biāo)記和隔離垃圾郵件和網(wǎng)絡(luò)釣魚誘餌。另一個例子是端點(diǎn)，例如筆記本電腦上的防病毒程序，或在網(wǎng)絡(luò)上運(yùn)行的惡意軟件檢測軟件。當(dāng)然，攻擊性黑客也使用人工智能來嘗試擊敗這些分類系統(tǒng)。這就是所謂的對抗性人工智能。問：我們來談?wù)勡娛萝浖到y(tǒng)。2018年政府問責(zé)局的一份報告稱，幾乎所有新開發(fā)的武器系統(tǒng)都存在關(guān)鍵任務(wù)漏洞。五角大樓正在考慮將人工智能應(yīng)用到這樣的系統(tǒng)中?答：這里有兩個問題。首先，我們需要充分保護(hù)現(xiàn)有的武器系統(tǒng)的安全，這是我們欠下的技術(shù)債，需要很長時間才能還清。然后，還有一個保護(hù)人工智能算法的新領(lǐng)域——我們將安裝的新東西。政府問責(zé)局的報告并沒有真正談到人工智能。所以暫時忘掉人工智能吧。如果這些系統(tǒng)保持現(xiàn)狀，它們?nèi)匀环浅４嗳酢?/span>我們正在討論突破極限，并添加人工智能支持的功能，以改善維護(hù)和運(yùn)營智能等，這都很棒。但我們正在“紙牌屋”之上建造。許多系統(tǒng)已有數(shù)十年的歷史，采用數(shù)字技術(shù)進(jìn)行了改造。飛機(jī)、地面車輛、太空資產(chǎn)和潛艇等軍事裝備，它們現(xiàn)在是相互關(guān)聯(lián)的。為此，我們正在交換數(shù)據(jù)，但這些系統(tǒng)漏洞百出，難以升級，可能會受到攻擊。一旦攻擊者獲得訪問權(quán)限，那么一切都就結(jié)束了。有時，構(gòu)建新平臺比重新設(shè)計(jì)現(xiàn)有系統(tǒng)的數(shù)字組件更容易。但人工智能在保護(hù)這些系統(tǒng)方面可以發(fā)揮作用。如果有人試圖破壞它們，那么人工智能可以用來防御。問：你作證說，正如一些人所敦促的那樣，暫停人工智能研究將是一個壞主意，因?yàn)樗欣诖髧偁幒蜐撛趯κ帧５阋矊θ斯ぶ悄墚a(chǎn)品的盲目發(fā)展感到擔(dān)憂，這是為什么?答：我討厭宿命論的觀點(diǎn)，但所謂的“燃燒使用”案例似乎適用。將產(chǎn)品匆忙推向市場往往會導(dǎo)致許多問題(被黑客攻擊、失敗、造成意外損害)。為此，我們應(yīng)該建立安全機(jī)制。“我預(yù)計(jì)人工智能的發(fā)展速度將會加快，我們可能不會停下來，以一種安全和負(fù)責(zé)任的方式來做這件事。”至少白宮和國會正在討論這些問題。問：似乎很多公司，包括國防領(lǐng)域的公司，都急于發(fā)布不完全成熟的人工智能產(chǎn)品？答：每家科技公司和許多非科技公司都幾乎向人工智能做出了不和諧的轉(zhuǎn)變。經(jīng)濟(jì)混亂即將到來，商業(yè)模式將從根本上改變。錯位已經(jīng)發(fā)生或即將到來——企業(yè)領(lǐng)導(dǎo)者正努力不讓自己稿得措手不及。問：那么人工智能在軍事決策中如何應(yīng)用呢？答：人工智能在軍事決策應(yīng)用，主要體現(xiàn)在人工智能算法應(yīng)用。為此，我們正在收集的數(shù)據(jù)，已經(jīng)準(zhǔn)備好讓致命武器系統(tǒng)做出決定。但目前我們離這些要求還有很遠(yuǎn)的路要走。
|
