軍事 | 人工智能20年后會(huì)毀滅人類?

稿源:南方人物周刊 | 作者: 文 / 朱江明 日期: 2018-01-03

公眾開始擔(dān)心,類似電影《終結(jié)者》中的天網(wǎng)系統(tǒng),會(huì)不會(huì)在不遠(yuǎn)的將來出現(xiàn),給人類造成毀滅性的打擊呢?

近日,韓國(guó)圍棋國(guó)手李世乭和谷歌人工智能系統(tǒng)AlphaGo對(duì)弈,成為全世界的新聞焦點(diǎn)。圍棋一直被視為棋類運(yùn)動(dòng)中最為復(fù)雜的一種,復(fù)雜到其排列組合數(shù)量甚至超過了宇宙中原子數(shù)量的總和,因此任何計(jì)算機(jī)系統(tǒng)都無法用窮舉法(計(jì)算所有可能)來戰(zhàn)勝人類,此前計(jì)算機(jī)圍棋系統(tǒng)與專業(yè)選手對(duì)弈時(shí)幾乎不堪一擊。AlphaGo系統(tǒng)卻在半年前成功擊敗了歐洲圍棋冠軍,并且在與李世乭的對(duì)弈中連續(xù)取勝。盡管這次對(duì)弈只是圍棋上的對(duì)決,然而由于圍棋一直被人類棋手所壟斷,計(jì)算機(jī)對(duì)決人類頂尖選手并獲勝本身就具備象征意義。公眾開始擔(dān)心,類似電影《終結(jié)者》中的天網(wǎng)系統(tǒng),會(huì)不會(huì)在不遠(yuǎn)的將來出現(xiàn),給人類造成毀滅性的打擊呢?

盡管無人機(jī)和無人戰(zhàn)車已經(jīng)開始在戰(zhàn)場(chǎng)上普及,大量的武裝無人機(jī)甚至承擔(dān)了大部分針對(duì)基地組織等恐怖組織的打擊任務(wù)。美軍早已成立了專門的無人機(jī)作戰(zhàn)司令部,來統(tǒng)籌各軍兵種的無人機(jī)使用,這一切都意味著人工智能武器正在戰(zhàn)場(chǎng)上普及。然而我們必須承認(rèn)一個(gè)事實(shí)——無人戰(zhàn)爭(zhēng)時(shí)代還未全面到來。

從李世乭對(duì)弈AlphaGo的第四局就可以看出,電腦系統(tǒng)在對(duì)方出其不意的攻勢(shì)之下,出現(xiàn)了嚴(yán)重的系統(tǒng)紊亂。當(dāng)這種情況出現(xiàn)時(shí),系統(tǒng)的錯(cuò)誤反應(yīng)可能會(huì)導(dǎo)致戰(zhàn)術(shù)上非常嚴(yán)重的失誤,進(jìn)而使全局失敗。圍棋對(duì)弈的確需要非常復(fù)雜的計(jì)算,然而與戰(zhàn)場(chǎng)環(huán)境相比,圍棋恐怕仍有所不如。

從最近美軍無人機(jī)曾經(jīng)多次被伊朗成功擊落或者俘獲就可以看出,具備一定程度自主運(yùn)作的無人機(jī)平臺(tái),實(shí)際上仍存在很多并未暴露的缺陷。只有通過高強(qiáng)度的對(duì)抗,無人作戰(zhàn)平臺(tái)的設(shè)計(jì)者才能發(fā)現(xiàn)這些漏洞從而提高整體的表現(xiàn)。然而從現(xiàn)在的國(guó)際環(huán)境來看,全球缺乏與美軍勢(shì)均力敵的作戰(zhàn)對(duì)手,自然無法誕生這種足以提升無人作戰(zhàn)系統(tǒng)能力的復(fù)雜環(huán)境。

在現(xiàn)實(shí)中,美國(guó)空軍甚至認(rèn)為在反恐戰(zhàn)場(chǎng)上的作戰(zhàn)設(shè)定比軍演更簡(jiǎn)單。這導(dǎo)致相關(guān)系統(tǒng)無法從實(shí)戰(zhàn)中獲得壓力測(cè)試的數(shù)據(jù),也就意味著系統(tǒng)很可能存在一些容易被人利用的漏洞。顯然美國(guó)軍方對(duì)此心知肚明,盡管無人機(jī)已經(jīng)被廣泛應(yīng)用于戰(zhàn)爭(zhēng),有人作戰(zhàn)平臺(tái)依舊是戰(zhàn)場(chǎng)的主力。無人作戰(zhàn)平臺(tái)暫時(shí)只是承擔(dān)了“打下手”的工作,例如長(zhǎng)期的偵察監(jiān)視和針對(duì)特定目標(biāo)的攻擊。全面戰(zhàn)爭(zhēng)還需要依靠戰(zhàn)斗機(jī)、轟炸機(jī)等有人空中力量的支援。不僅類似無人機(jī)這種機(jī)器人的作戰(zhàn)武器成熟度不足,即使是已經(jīng)相當(dāng)成熟的自動(dòng)化防空系統(tǒng),也還需要保持人工干預(yù)的能力。此前,在歷次戰(zhàn)爭(zhēng)中自動(dòng)化防空系統(tǒng)都出現(xiàn)過誤擊友軍的情況。

除此之外,還有所謂自動(dòng)化的末日系統(tǒng)。早在蘇聯(lián)時(shí)代,曾有計(jì)劃將核反擊的任務(wù)完全交由計(jì)算機(jī)系統(tǒng)來完成,這樣即便高層全部陣亡,蘇聯(lián)仍舊具備核反擊能力。然而蘇聯(lián)人并不信賴這套系統(tǒng),因?yàn)楫?dāng)時(shí)曾經(jīng)數(shù)次出現(xiàn)因?yàn)橛?jì)算機(jī)錯(cuò)誤而幾乎導(dǎo)致全球核戰(zhàn)危機(jī)爆發(fā)。無論是人工智能還是自動(dòng)化計(jì)算機(jī)系統(tǒng),在武器裝備的應(yīng)用范圍一直被嚴(yán)格限制和管控,從設(shè)計(jì)之初就保留了足夠的人工干預(yù)接口,這不僅是對(duì)其發(fā)展的擔(dān)心,同時(shí)也是避免其自身可靠性出現(xiàn)問題的必要措施。由此可見,在10年內(nèi)出現(xiàn)天網(wǎng)這種系統(tǒng)的概率并不高,當(dāng)然10年后的情況卻很難說。

美國(guó)軍方正在研究使用大量無人機(jī)進(jìn)行所謂蜂群(swarm)協(xié)同作戰(zhàn)。與過去猶如孤狼行動(dòng)的無人機(jī)相比,蜂群化作戰(zhàn)等于讓一個(gè)批次的無人機(jī),自行協(xié)同作戰(zhàn)。這些無人機(jī)不僅能分享各自獲得的情報(bào),并且能自動(dòng)分配攻擊目標(biāo)的先后順序,同時(shí)在部分被擊落的情況下,剩余的機(jī)組仍能夠繼續(xù)完成任務(wù)。這種作戰(zhàn)模式已經(jīng)不僅僅是航空動(dòng)力學(xué)的問題,還涉及到非常復(fù)雜的算法和更為高級(jí)的人工智能標(biāo)準(zhǔn)。盡管現(xiàn)在蜂群概念主要應(yīng)用于小型無人機(jī)集群,然而這種模式一旦被證明成功,必然會(huì)被應(yīng)用于更為大型的無人作戰(zhàn)平臺(tái),將對(duì)戰(zhàn)爭(zhēng)的發(fā)展產(chǎn)生深遠(yuǎn)的影響。

蜂群無人機(jī)作戰(zhàn)概念的出現(xiàn),其實(shí)說明了一個(gè)問題,無人機(jī)現(xiàn)在還不具備集群攻擊能力,無人作戰(zhàn)平臺(tái)的技術(shù)還很原始。當(dāng)然一旦蜂群作戰(zhàn)系統(tǒng)試驗(yàn)成功,更為接近電影《終結(jié)者》中殺人機(jī)器人的武器也就真正出現(xiàn)了。好在經(jīng)歷了蘇聯(lián)“自動(dòng)化末日系統(tǒng)”的驚悚教訓(xùn),各國(guó)都不會(huì)把最為關(guān)鍵的毀滅性武器交給計(jì)算機(jī)掌握。而且蜂群模式現(xiàn)在還處于測(cè)試階段,在不玩核戰(zhàn)爭(zhēng)的情況下,按照現(xiàn)有的人工智能技術(shù)發(fā)展,20年內(nèi)還是無法毀滅人類的。

網(wǎng)友評(píng)論

用戶名:
你的評(píng)論:

   
南方人物周刊 2024 第806期 總第806期
出版時(shí)間:2024年09月16日
 
?2004-2022 廣東南方數(shù)媒工場(chǎng)科技有限責(zé)任公司 版權(quán)所有
粵ICP備13019428號(hào)-3
地址:廣東省廣州市廣州大道中289號(hào)南方報(bào)業(yè)傳媒集團(tuán)南方人物周刊雜志社
聯(lián)系:南方人物周刊新媒體部