單純從科幻小說的角度來看,軍事機器人似乎是個糟糕的主意。從《終結者》(The Terminator)到《黑客帝國》(The Matrix),流行文化充滿了強大機器肆虐橫行的故事,它們總是努力擺脫制造者的控制,擊敗任何試圖阻止它們的力量。早在20世紀20年代,捷克作家卡雷爾·查佩克(Karel Capek)就在舞臺劇《羅森的萬能機器人》(Rossum's Universal Robots)中首次提出了機器人(robot)這個詞,并預言人類命運將終結在人工生命之手。
盡管有這些電影發(fā)出警告,但是陸地、空中以及海上機器人依然不斷從科幻小說中涌現(xiàn),成為現(xiàn)代武器庫的標準部分,現(xiàn)在甚至有人正認真討論開發(fā)殺手機器人和無人機,它們不僅可獨立思考,甚至還能相互交流。
自從2011年9/11恐怖襲擊發(fā)生以來,美國軍方已經部署了數(shù)以萬計的遙控機器人。在中東,無人機已成為一種常見的作戰(zhàn)武器。無人駕駛陸地戰(zhàn)車已經幫助美國軍隊在伊拉克和阿富汗安全地摧毀了大量路邊炸彈。水下無人機被用來收集科學和偵察數(shù)據(jù),并幫助排除水雷。
其他國家軍隊和各種武裝組織也正在開發(fā)自己的戰(zhàn)斗機器人,通過開發(fā)進攻性和防御性的機器人技術,很可能引發(fā)類似冷戰(zhàn)式的軍備競賽。支持者認為,軍事機器人會拯救更多生命,而不是危及生命,比如那些已經應用到實踐中的炸彈排爆機器人。
各國軍隊正開始著手進行整合,包括考慮何時以及如何將越來越多的自主機器人應用到各種軍事行動中。然而與民用自動化卡車、拖拉機或鏟車相似,他們也面臨安全性和有效性等相同的問題。世界各國領導人也在積極考慮,如果沒有人類發(fā)出的明確命令,機器人是否應被允許開火或啟用其他武器。所以,以完成任務為使命、類似終結者的殺人機器可能不再那樣遙遠。
美國軍方的機器人計劃同樣令人擔憂。2001年10月7日,也就是9/11恐怖襲擊發(fā)生1個月后,機器人首次證明了它是一種致命武器的價值。到阿富汗戰(zhàn)爭爆發(fā)時,名為MQ-1的捕食者無人機首次發(fā)動了致命空襲。這架無人駕駛飛機現(xiàn)在已成為華盛頓國家航空航天博物館的重要象征。
在小布什總統(tǒng)(George W. Bush)使用無人機取得初步成功后,捕食者和更大的收割者無人機的使用迅速增加。小布什的繼任者巴拉克·奧巴馬(Barack Obama)同樣大力支持使用無人機,促使其數(shù)量進一步擴大。外交關系高級研究員邁卡·曾科(Micah Zenko)估計,奧巴馬授權的無人機襲擊高達506次,而布什授權還不到50次。
批評人士表示,由數(shù)百或數(shù)千公里以外的操作員遠程操控無人機很難做到萬無一失?;槎Y和其他平民集會遭到意外襲擊事件屢見不鮮,成為無人機項目的最大困擾之一。奧巴馬在2013年演講中說,利用無人機對恐怖分子發(fā)動襲擊依然是最佳方案。他說:“與無人機相比,傳統(tǒng)的空軍或導彈更不準確,并有可能造成更多平民傷亡和引發(fā)更多地方憤怒。這些入侵領土行為使我們被視為占領軍隊,會產生許多意想不到而難以控制的后果,進而造成大量平民傷亡,導致暴力沖突加劇。”
2013年,美國參議員林賽·格雷厄姆(Lindsey Graham)估計,約有4700人在美國無人機襲擊中身亡。他說:“有時你會攻擊到無辜的人,我討厭這樣,但我們正處于戰(zhàn)爭中,我們已經擊斃了許多基地組織高級成員。”唐納德·特朗普(Donald Trump)在就任總統(tǒng)后的頭幾個月里,繼續(xù)授權CIA增加無人機襲擊次數(shù)。在去年大選期間,他甚至提倡使用捕食者無人機進行邊境巡邏。
據(jù)美國智囊機構New America Foundation估計,美國面臨裝備無人機的敵軍威脅日益加劇,現(xiàn)在已經有86個國家擁有某種無人機,其中包括19個已經擁有或正在獲得武裝無人機技術的國家。該基金會報告說:“2011年研究發(fā)現(xiàn),世界各國政府、公司和研究機構共有約680個活躍的無人機開發(fā)項目,而六年前只有195個。”恐怖組織也在關注這項空中技術:IS使用商業(yè)和定制無人機進行監(jiān)視,最近甚至還向伊拉克部隊投放炸彈。
在伊拉克和阿富汗,路邊炸彈和簡易爆炸裝置已經造成數(shù)以千計的美軍士兵傷殘或者死亡,無人地面車輛可以幫助拆除它們,地面機器人已經展示出拯救生命的巨大潛力。New America Foundation戰(zhàn)略專家、《連線戰(zhàn)爭:機器人革命和21世紀沖突》(Wired for War: The Robotics Revolution and Conflict in the 21st Centur)的作者彼得·辛格(Peter Singer)2009年寫道,部署在伊拉克的軍用地面機器人數(shù)量2004年末大約為150個,4年后已經增加到大約12000個。
美國軍方發(fā)言人多弗·施瓦茨(Dov Schwartz)承認:“多達1000輛無人地面車輛已在伊拉克和阿富汗被炸毀,但它們挽救了無數(shù)生命。”早在2002年初,類似坦克的便攜式遙控汽車PackBots就被部署在阿富汗,幫助搜尋布滿陷阱的洞穴和隱藏的敵人。當時,這些機器由麻省理工學院分拆的公司iRobot制造,以Roomba和Braava等自動地板清洗機為基礎。該公司的軍事部門去年剝離出來,組建了總部位于馬薩諸塞州的Endeavor Robotics公司。
PackBot被證明在前線部隊中很受歡迎。一位陸軍上校在2003年稱,與損失士兵相比,更換機器人顯然更劃算。iRobot公司推出了新的模型,可以拆除拆除炸彈和應對伏擊,也能用于偵察和處理炸彈。Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)表示:“在與客戶和最終用戶的協(xié)調中,我們在不斷學習。因為與我們的遐想相比,他們總是知道自己更需要什么。我們總是需要這樣的迭代過程:把設備交給他們,他們提供反饋,然后我們進行重新設計,最終幫助他們完成任務。”
2005年,PackBot成為環(huán)納斯達克交易所首個開市敲鐘的機器人,預示著iRobot公司7200萬美元的IPO活動開市。到2012年,iRobot公司宣布已經向國防機構和警察機構售出超過5000個機器人,包括能夠攜帶68公斤負重的超級戰(zhàn)士PackBot、重量僅2.3公斤的FirstLook。其中,F(xiàn)irstLook屬于通常被稱為“異類”的機器人,因為它們可以被扔到很難看到的地方,或者從車上滾下去,甚至被扔到建筑物里面檢查潛在威脅。
專為軍方和執(zhí)法機構提供各種設備的ReconRobotics公司首席執(zhí)行官兼總裁馬克·特雷納(Mack Traynor)表示:“軍隊將使用機器人偵察道路、下涵洞,以及進入狹窄的地方。曾有海軍陸戰(zhàn)隊上士告訴我,當他被外派執(zhí)行任務的時候,負責連隊里最大的家伙。他要做的,就是把它盡量扔到遠處。”
同樣,美國海軍始終在使用機器人定位水雷。2003年,被稱為遠程環(huán)境監(jiān)控單元(REMUS)的魚雷形無人潛艇第一次被用于在伊拉克港口城市烏姆蓋斯爾(Umm Qasr)周圍尋找水雷。這些裝置幫助水手在水面下發(fā)現(xiàn)了幾十個可疑物體。
作為偵察工具,這些機器人過去幾十年已被證明非常有價值,包括1985年幫助找到泰坦尼克號的殘骸。它們還被用來尋找沉船和失事飛機的“黑匣子”。1999年,美國海軍水下無人機Deep Drone在楠塔基特附近成功找到發(fā)生空難的埃及航班飛行數(shù)據(jù)記錄儀。
但到目前為止,反水雷無人機大多辜負了人們的期望。所謂的遙控獵雷系統(tǒng)(Remote Minehunting System,簡稱RMS)去年被正式取消,因為此前參議院武裝部隊委員會主席約翰·麥凱恩(John McCain)發(fā)表了一份措辭嚴厲的報告,稱該系統(tǒng)斥資7.06億美元、歷時開發(fā)16年,卻依然沒有提供任何幫助。麥凱恩寫道:“簡單地說,雖然RMS的總體支出只比原計劃略高一點,但它只產出了半數(shù)系統(tǒng),這意味著超過了單位成本的兩倍,并要花兩倍的時間來解決這個問題。而且,它也不起作用。”
存在爭議的地方在于,海軍始終在使用訓練有素的海豚和海獅尋找水雷。官員們稱,一旦證明有機器能夠勝任這些工作,他們計劃執(zhí)行淘汰海洋哺乳動物的計劃。2016年11月份,美國國防部總檢查官辦公室警告說,這個計劃中的機器名叫Knifefish,可部署在淺水區(qū),與海軍中新開發(fā)的瀕海戰(zhàn)斗艦協(xié)同作戰(zhàn)??墒?,它們可能無法在2017年使用。Knifefish是美國海軍淘汰海豚等動物計劃的重要組成部分。
軍事機器人的革命還有很多需要改進的地方。隨著美國五角大樓從快速的戰(zhàn)時收購轉變?yōu)殚L期的機器人項目,它面臨著許多挑戰(zhàn)。這些挑戰(zhàn)與普通科技項目差不多,而非像科幻小說中描述的那樣恐怖。比如,它需要確保來自不同廠商的設備能夠很好地兼容,還要弄清楚哪些新工具能讓操作變得更安全、更高效。
2013年發(fā)布的25年路線圖強調,確保未來機器人能夠共享數(shù)據(jù)并相互協(xié)作非常重要。該計劃要求機器人使用標準化接口,以便機器人可以使用其他廠商的傳感器以及工具等附加硬件,就像來自不同制造商的計算機可以與相同的USB設備進行通信那樣。報告中警告稱:“升級現(xiàn)有的專有零部件可能是昂貴的,在后勤上也是不可行的,因為整個平臺可能都需要更換。這種封閉的發(fā)展方式導致許多不利的特點,阻礙了進步技術的應用和新能力的采用。”
施瓦茨透露,美國陸軍去年啟動了兩個標準模塊化機器人平臺的采購流程,初步計算需要采購大約4400臺設備。他們的目標是最終能夠從不同的供應商那里購買到能夠兼容的硬件,如輻射傳感器和機器人手臂,而不必更換車身,只需保持零部件更新即可。
這種做法至少得到了部分承包商的贊賞,這將使他們能夠把精力集中在專門的知識領域上。諾斯洛普-格魯曼公司地面部隊和防護系統(tǒng)主管林肯·哈德遜(Lincoln Hudson)說:“作為機動性提供商,我們可以真正專注于那些使特定平臺能夠去做其他事情的東西,而不必跟上最新技術的發(fā)展,比如說攝像頭。”
除了互操作性問題外,國防部和國土安全部等機構也越來越多地投資于跟蹤和擊落敵方無人機的技術,從無線電干擾、黑客工具再到霰彈以及誘捕網等。專家擔心無人機可被用于對美國發(fā)動恐怖襲擊。風投公司Spectrum 28聯(lián)合創(chuàng)始人兼合伙人肯特·霍(Kent Ho)表示:“很顯然,無人機是提供類似生物制劑的完美武器。”
最終,未來無人機技術可能引發(fā)新一輪的軍備競賽,無人機開發(fā)人員正設計可以擊退或躲避敵方無人機攻擊的更先進機器。巴德學院下屬無人機研究中心主任丹·蓋廷格(Dan Gettinger)說,到目前為止,美國在無人機領域還沒有迫切需求,這在很大程度上是因為沒有空中威脅。他說:“捕食者、收割者以及類似的灰鷹無人機,它們都不是設計用于空對空戰(zhàn)斗的。”它們正在伊拉克、阿富汗、敘利亞、索馬里和也門上空飛行,那里沒有空對空作戰(zhàn)需求或防空威脅。”
與今天的同類機器人相比,未來幾代軍事機器人幾乎肯定會比它們擁有更大的自主性,但它們是否能做出攸關人類生死的決定呢?Endeavor Robotics首席執(zhí)行官肖恩·比拉特(Sean Bielat)說:“我無法想象這樣的情況,你絕對不想要能夠自主決定是否傷害人類的機器人。”
但是其他人正在想象這種可能,同時拉響警報,包括梵蒂岡。前梵蒂岡駐聯(lián)合國代表、大主教西爾瓦諾·托馬西(Silvano Tomasi)曾在2015年相關會議上稱,這些該裝置有助于加大富國和窮國之間的權力差距。他說:“我們需要注意的另一個重要方面是武裝機器人的魅力和它們所產生的力量感。它們的使用可能會讓人產生‘無所不能’感覺,而不再僅僅限于正當防衛(wèi)。”
當機器人處于支持角色時,自主的論點達到最強。當時并在地圖上進行標注時,地面機器人可以預見性地準備物資和導航通過困難地形。巴德學院下屬無人機研究中心主任丹·蓋廷格(Dan Gettinger)表示,在理想情況下,它們也足夠可靠,可以與部隊共同行軍,而不需要部隊人員專門注意它們。他說:“如果你想讓機器人帶著所有裝備,同時還不希望任何人在任何時候控制這個機器人,這只會增加額外的復雜性。”
自動船只和潛艇將能夠與其他機器人進行越來越復雜的機動和協(xié)調,即使是當它們在與人類指揮官失去聯(lián)系時。美國海軍研究所最近展示的水面艦艇顯示,它們能夠集體攻擊目標,將來甚至可以用于港口防御。海軍研究所發(fā)言人大衛(wèi)·薩馬利(David Smalley)稱:“在演示中,無人艦隊在大面積的開放水域執(zhí)行了巡邏任務。當未知船只駛入該地區(qū)時,這些無人船只合作確定哪艘巡邏能夠最快逼近未知船只,并把它歸類為無害的或可疑的。它們還能與其他船只協(xié)助追蹤未知船只,而其他船則繼續(xù)巡邏該區(qū)域。”
類似的船只也可在危險區(qū)域巡邏或監(jiān)控更廣闊的海域,在很大程度上,這要比載人船只成本更便宜。美國海軍研究辦公室項目官羅伯特·布里佐拉拉(Robert Brizzolara)稱:“如果我們能用無人艇代替載人船只開進雷區(qū),這將是一個巨大的優(yōu)勢。”
海軍無人系統(tǒng)指揮部發(fā)言人卡拉·英林(Kara Yingling)指出,海軍機器人,特別是那些在水下操作的機器人,需要比無人機或陸地機器人有更強的自主性,因為它們更容易與人類操作者失去聯(lián)系。“無人駕駛潛水艇(UUV)的態(tài)勢感知需要一定程度的自主能力,這與現(xiàn)有的無人系統(tǒng)不同。如果有飛行員遠程操控,無人機(UAV)依然給人有人操控的感覺。而UUV不太可能在水下的通信回路中始終保持與人類的聯(lián)系。”
有些自主空中無人機可能會大群飛行,它們需要比人類給出轉彎指示更快的速度,根據(jù)自己所處環(huán)境做出群體決定并改變隊形。美國賓夕法尼亞大學工程學院院長、被譽為空中機器人之父的維嘉?庫馬爾(Vijay Kumar)說:“如果你要我保護建筑,我可能會說,建筑太大了,我要招聘我的朋友。”
在公眾對“殺手機器人”橫行或自動間諜無人機正巡邏城市的恐慌中,美軍和其他國家軍隊對于軍事機器人的自主程度顯得十分謹慎。Endeavor Robotics公司的比拉特說:“自主技術已經領先于客戶的需求,我們正在與客戶密切合作,看看執(zhí)行他們任務最切實可行的方案。”
部分原因是人們本質上不愿引進新的、復雜的、具有潛在危險的機器。比拉特表示:“引入的任何自主功能都必須以減少潛在傷害為目標。”指揮官們可能會更傾向于把自我導航的機器人帶入戰(zhàn)場,前提是它們更多地建立在平民生活之上。比拉特說:“我認為,通過谷歌或者Uber的無人駕駛汽車,或者特斯拉的自動駕駛模式,我們的社會將會越來越習慣于機器自主化,進而軍事客戶也會變得更舒適。”
但軍方領導人也對所謂的“全自主武器”保持警惕:機器人可以在沒有人為干預的情況下選擇目標、瞄準以及射擊。這些設備也已經成為可能,而且不僅僅是在美國出現(xiàn)。英國廣播公司2015年報道稱,韓國武器制造商已經開發(fā)出機槍炮塔,并部署在中東地區(qū)。這些設備可以向入侵者發(fā)出口頭警告,并發(fā)出明確的人類命令。它的初始版本可能自己決定是否開火。但到目前為止,客戶始終堅持,這些產品只有經人類許可才會開火。
這個領域的研究人員經常將系統(tǒng)分為兩種,第一種是“人在回路中(humans in the loop)”或“人在回路上(humans on the loop)”,前者需要有人類選擇每個目標,而后者則有機器人選擇目標并開火,但人類擁有要求它停止行動的絕對權力。第二種是“人在回路外(humans out of the loop)”,人類缺少控制機器的權威,也許是因為機器人超出了通信的有效距離。
到目前為止,當涉及到機器人像人類開火的多數(shù)情況下,美國軍方高級官員一直試圖保持“人在回路中”狀態(tài)。美國軍方在3月份公布的戰(zhàn)略文件中說:“軍隊力求維持對所有自主性系統(tǒng)的人為控制,主要通過確保當前和未來‘人在回路中’的狀態(tài)來實現(xiàn)這個目標。”
這符合2012年國防部長卡特(Ash Carter)為自主武器制定的規(guī)則??ㄌ叵铝顚C器人進行嚴格的測試,并要堅決抵制黑客襲擊。他還特別要求,半自主機器人不允許選擇新的目標,即使是在無法與人類溝通的情況下。有人監(jiān)視的機器人可以選擇非人類目標,比如來襲導彈或者其他機器人,常識及時攔截或發(fā)動飽和攻擊。完全自主機器人只限于對物質目標發(fā)動“非致命的,非動能的”攻擊,如某些形式的電擊。美國智庫“新美國安全中心”下屬未來戰(zhàn)爭計劃部主任、高級研究員保羅·沙雷(Paul Scharre)稱,在實踐中,可以攻擊類似機載雷達干擾器這樣的自動化設備。
至少有19個國家和國際組織,包括人權觀察組織,呼吁國際上禁止研發(fā)和部署自主致命機器人,可能類似于現(xiàn)在對不可探測的地雷和致盲激光武器的限制。2012年,多個非政府組織啟動了他們稱之為“禁止殺手機器人”的運動,聯(lián)合國也就這個問題舉行了一系列國際會議。
俄羅斯總統(tǒng)普京(Vladimir Putin)最近表示,很有興趣推進本國的軍事自主性技術,而俄羅斯對于是否參加限制機器人的國際討論猶豫不決,此類會談將在今年繼續(xù)進行。美國國防部的“自主武器五年政策”也計劃在2017年進行重新評估。這意味著,特朗普和普京很有可能最終決定自主武器系統(tǒng)如何從實驗室轉移到戰(zhàn)場上。
人權觀察組織武器部門的宣傳總監(jiān)、“禁止殺手機器人”運動全球協(xié)調員瑪麗·韋勒姆(Mary Wareham)說:“有人擔心人類的生死將由機器決定,這似乎是大多數(shù)人無法接受的。” 人權觀察組織在2012年的報告中稱,完全自主的致命武裝機器甚至可能不符合現(xiàn)有國際法。它們可能不夠聰明,無法識別出戰(zhàn)斗人員與平民的區(qū)別。
報告中舉例稱:一個受驚的母親可能會追趕她的兩個孩子,并大聲要求他們停止在士兵附近玩玩具槍的行為。而人類士兵能識別出母親的恐懼,并確認孩子們在玩游戲,從而認識到他們的意圖是無害的??墒峭耆灾鞯奈淦骺赡苤豢吹接腥伺苓^來,還有2人手中持有武器。對于前者,它會保持克制,后者可能立刻發(fā)動攻擊。
這些自主性武器還可能與國際法的其他要求相矛盾:這些機器決定是否發(fā)動攻擊完全從軍事利益考慮,而不在乎是否對平民造成潛在危險,甚至必要時使用武力。它們也可能缺乏人性約束和同情心,這些都可以約束部隊,以免做出不人道的事情。報告中警告稱:“沒有感情的機器人可能成為專制獨 裁者打擊異己的工具,而不擔心自己的軍隊會倒戈。”
但是有些專家說,自主機器人經過嚴格的開發(fā)和適當?shù)臏y試,可能有助于在高危情況下保護平民安全。而且它們可能避免犯下人類的錯誤,也不會危及手無寸鐵的旁觀者。佐治亞州理工學院下屬計算機學院主管研究和空間規(guī)劃的副院長、移動機器人實驗室主任羅納德·阿爾金(Ronald Arkin)說:“它們的行動可能比人類更保守,并承擔更多的風險。它們不會表現(xiàn)出恐懼、挫折、憤怒或是導致人判斷錯誤的情緒。”
阿爾金反對完全禁止機器人,盡管他承認應該對它們進行仔細監(jiān)管。他說,這些機器人不應該被部署到戰(zhàn)斗中,直到他們被證明始終堅守國際法,而且比人類軍隊做得更好。阿爾金還稱:“如果我們徹底禁止這種技術,那么我們也失去了幫助非戰(zhàn)斗人員和減少非戰(zhàn)斗人員傷亡的潛力。”
阿爾金指出,機器人的開發(fā)人員應該避開編程技術,比如某些機器學習形式,這些技術可以引導產生人類無法輕易進入的決策過程。他說:“如果這些系統(tǒng)將被使用,監(jiān)管是關鍵。機器人應該以被分級和控制的方式進入戰(zhàn)場,而不是急匆匆地胡亂投放。”
將對機器人采取什么樣的監(jiān)管形式,很可能在未來幾年內決定。國防部的政策(正式名稱為國防部第3000.09號指令)將在今年被重新審視:如果在11月份其簽署5周年時不補發(fā)或“重新認證”,它的有效期會自動延期五年。目前還不清楚特朗普總統(tǒng)和國防部長詹姆斯·馬蒂斯(James Mattis)將如何選擇,五角大樓發(fā)言人拒絕評論該政策的潛在變化。
但在去年12月份,美軍現(xiàn)任參謀長史蒂芬·格洛維斯(Steven Groves)曾表示,美國不太可能支持禁止自主武器,這有利于維持美軍的軍事優(yōu)勢。他在Heritage Foundation的2015年會議上說:“國會應該資助自主技術的研究和開發(fā),致命自主武器系統(tǒng)提高美國國家安全的能力尚未得到充分探索,禁止或暫停此類研究不符合美國利益。”
然而,格洛維斯提倡簽署國際協(xié)議,規(guī)定何時、何地以及如何在戰(zhàn)斗中合法使用自主機器人。這可以解決許多人的擔憂,包括擔心其會危及平民安全。美國國務院1名官員表示:“美國正加入《化學武器公約》,并在討論‘致命自主武器系統(tǒng)中的新興技術’?,F(xiàn)在還不知道這些專家討論會取得什么樣的結果。”普京總統(tǒng)也談到“自主機器人系統(tǒng)”研究對俄羅斯的重要性,稱其可能“從根本上改變常規(guī)軍隊的武器裝備”。