還記得電影《戰(zhàn)狼2》中掛著機(jī)槍在空中到處“突突”的殺人無人機(jī)嗎？還記得科幻片《黑鏡》中被黑客入侵的機(jī)器“殺人蜂”的恐怖場(chǎng)景嗎？人與武器的關(guān)系，是軍事領(lǐng)域亙古不變的話題。試想，如果賦予智能無人作戰(zhàn)系統(tǒng)“生殺大權(quán)”，甚至實(shí)現(xiàn)“機(jī)器代理人戰(zhàn)爭(zhēng)”，那么《黑鏡》等電影中的場(chǎng)景或?qū)⒆優(yōu)楝F(xiàn)實(shí)。避免無人作戰(zhàn)系統(tǒng)擁有“自主開火權(quán)”，確保戰(zhàn)爭(zhēng)人類可控，或?qū)⒊蔀橹悄軕?zhàn)爭(zhēng)時(shí)代人類的“自我救贖”。

　　智能戰(zhàn)爭(zhēng)面臨失控風(fēng)險(xiǎn)

　　人工智能技術(shù)與無人化作戰(zhàn)系統(tǒng)，正加速叩開未來智能化戰(zhàn)爭(zhēng)的大門。

　　也別高興得太早，智能機(jī)器人“大兵”若真的在戰(zhàn)場(chǎng)上沖鋒陷陣，未來戰(zhàn)爭(zhēng)或?qū)⒚媾R巨大的失控風(fēng)險(xiǎn)。2015年7月，美國一臺(tái)“發(fā)瘋”的機(jī)器人曾“失手”將一名裝配工人殺死。據(jù)說，伊拉克戰(zhàn)場(chǎng)上，美軍的“劍”式戰(zhàn)斗機(jī)器人曾無故將槍口指向己方指揮官。

　　在復(fù)雜戰(zhàn)場(chǎng)環(huán)境下，擁有高度智能的無人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識(shí)別錯(cuò)誤、通信降級(jí)甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等情況，而諸如濫殺無辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來了巨大隱患。

　　其實(shí)，人們對(duì)于智能武器系統(tǒng)的擔(dān)憂，從命名伊始就初見端倪。機(jī)器人的英文名為“Robot”，其原意就是“農(nóng)奴式被強(qiáng)迫的勞動(dòng)者”。未來的智能化戰(zhàn)爭(zhēng)，戰(zhàn)場(chǎng)上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由“被強(qiáng)迫勞動(dòng)”的戰(zhàn)斗機(jī)器人來完成。一旦人類授予了智能武器系統(tǒng)“自主開火權(quán)”，這群毫無感情、不知疲倦的鋼鐵機(jī)器會(huì)不會(huì)濫殺無辜，甚至調(diào)轉(zhuǎn)槍口成為“人類終結(jié)者”？這是我們必須直面的問題。

　　一方面，誰能為智能武器的“濫殺無辜”來買單。人工智能武器的智能化一旦超過一定程度，是否會(huì)出現(xiàn)自作主張甚至濫殺無辜的情況，我們不得而知。就拿美軍對(duì)藏匿的恐怖分子開展定點(diǎn)清除行動(dòng)來說，無人機(jī)在殺死武裝人員的同時(shí)也可能“誤殺”了大量平民，這還是在有人干預(yù)的情況下。一旦人被完全排斥在“戰(zhàn)爭(zhēng)回路”之外，智能作戰(zhàn)平臺(tái)由于自身的“不靠譜”極有可能造成武力濫用，或?qū)��?duì)戰(zhàn)爭(zhēng)倫理道德產(chǎn)生巨大沖擊。

　　另一方面，智能武器的戰(zhàn)場(chǎng)失控程度難以估量。武器的智能化程度越高，其內(nèi)部控制軟硬件的規(guī)模就越龐大、復(fù)雜，出現(xiàn)故障的概率也相應(yīng)增大。資料顯示，美國空軍一架無人機(jī)曾突然自動(dòng)向地面一處重要設(shè)施發(fā)射導(dǎo)彈，而事故原因是飛機(jī)的火控系統(tǒng)出了故障。在戰(zhàn)備值班與演習(xí)過程中，美軍也多次出現(xiàn)通用戰(zhàn)場(chǎng)態(tài)勢(shì)分析系統(tǒng)因軟件故障而被迫中斷的情況，進(jìn)而導(dǎo)致作戰(zhàn)方案無法按時(shí)生成。

　　絕不能離開人類的控制

　　人工智能和無人作戰(zhàn)帶給人類的究竟是威脅還是發(fā)展，關(guān)鍵在于如何利用。人作為“戰(zhàn)爭(zhēng)回路”的主體，必須牢牢掌握未來智能戰(zhàn)爭(zhēng)的“開火權(quán)”。

　　人們?cè)谘兄浦悄軣o人作戰(zhàn)系統(tǒng)時(shí)，為防止出現(xiàn)因失控而導(dǎo)致的意外事故，要求操作人員在必要時(shí)可以解除系統(tǒng)功能。英國空軍研制的“雷神”無人飛行器可攜帶武器直接攻擊地面目標(biāo)，盡管該型無人機(jī)上裝備有可識(shí)別危險(xiǎn)目標(biāo)的機(jī)載計(jì)算機(jī)，但目前依然主要采用由地面人員控制的工作模式，發(fā)起攻擊時(shí)必須通過地面人員授權(quán)才能開火。

　　此外，還可以在智能作戰(zhàn)平臺(tái)中提前進(jìn)行設(shè)置。一方面，可以通過代碼控制智能武器的“大腦”。在智能武器出廠啟用之前，人們可以提前設(shè)置“后門”式自毀模塊，從而在需要時(shí)令智能武器徹底死機(jī)或自行報(bào)廢。同時(shí)，由于智能武器的控制中樞是計(jì)算機(jī)，可在編寫軟件時(shí)加入相關(guān)控制程序。另一方面，智能武器的攻擊目標(biāo)和攻擊方式也應(yīng)受到明確限制。例如，如何使“武裝自主系統(tǒng)”摧毀敵方武器而非作戰(zhàn)人員，便可以通過設(shè)計(jì)來實(shí)現(xiàn)。

　　當(dāng)然，更直接的辦法是只為智能武器平臺(tái)配備非致命性武器。未來，電磁脈沖武器、網(wǎng)絡(luò)攻擊武器、高功率微波武器等新概念武器，或?qū)�為智能武器平臺(tái)的安全使用提供新的技術(shù)思路。

　　人機(jī)協(xié)同是“最優(yōu)解”

　　無論未來的武器系統(tǒng)如何高度智能化，人是戰(zhàn)爭(zhēng)的主導(dǎo)因素這一基本條件不會(huì)改變。未來智能化戰(zhàn)爭(zhēng)，允許改變的只是人與武器裝備的戰(zhàn)場(chǎng)協(xié)作方式，人機(jī)協(xié)同將成為無人武器戰(zhàn)場(chǎng)運(yùn)用的“最終答案”。

　　目前，美軍正在進(jìn)行“有人-無人”協(xié)同作戰(zhàn)試驗(yàn)，其中較為著名的當(dāng)屬“忠誠僚機(jī)”計(jì)劃。“忠誠僚機(jī)”計(jì)劃就是為有人戰(zhàn)斗機(jī)找一群忠誠可靠的無人僚機(jī)，從而大幅提升人機(jī)協(xié)同作戰(zhàn)能力。據(jù)專家估算，即便擁有極高計(jì)算能力，無人僚機(jī)在響應(yīng)或執(zhí)行指令時(shí)通常會(huì)有2秒鐘的滯后，這在瞬息萬變的智能化戰(zhàn)爭(zhēng)中是“致命傷”�？紤]到人類大腦可以更為迅速地響應(yīng)事態(tài)發(fā)展，人類飛行員依舊是未來戰(zhàn)場(chǎng)不可或缺的作戰(zhàn)主力。

　　作為美軍“第三次抵消戰(zhàn)略”重點(diǎn)發(fā)展的技術(shù)領(lǐng)域之一，“忠誠僚機(jī)”計(jì)劃有望首先發(fā)展出由第四代戰(zhàn)斗機(jī)改進(jìn)而來的無人駕駛僚機(jī)。2017年4月，“臭鼬工廠”就與美國空軍研究實(shí)驗(yàn)室等機(jī)構(gòu)一起完成了基于“忠誠僚機(jī)”概念的人機(jī)編組實(shí)驗(yàn)，實(shí)現(xiàn)了無人僚機(jī)自主與長(zhǎng)機(jī)編隊(duì)飛行并開展對(duì)地打擊，為美軍新型作戰(zhàn)模式打上了一針“強(qiáng)心劑”。

　　可以預(yù)見，隨著“有人-無人”協(xié)同作戰(zhàn)的穩(wěn)步發(fā)展，智能武器系統(tǒng)不僅將作為“戰(zhàn)場(chǎng)先鋒”實(shí)施偵察監(jiān)視、障礙排除、火力摧毀等作戰(zhàn)任務(wù)，還可進(jìn)一步實(shí)現(xiàn)有人與無人作戰(zhàn)力量的混合編組。如此一來，不僅避免了無人作戰(zhàn)平臺(tái)“濫殺無辜”，還能以少量人力來指揮大量智能武器系統(tǒng)作戰(zhàn)。這種有人參與的“無人戰(zhàn)爭(zhēng)”，或?qū)⒊蔀槲磥碇悄芑瘧?zhàn)爭(zhēng)的新常態(tài)。（許玥凡 張璦敏）

分享讓更多人看到