騰訊科技訊 隨著人工智能的發展，可以自主選擇目標進行攻擊的機器人正在迅速成為現實。在新技術的推動下，人類可能會放棄決定如何使用致命武力的控制權。完全自主的武器也被稱為“殺手機器人”，它們正在迅速從科幻作品走向現實世界。

研究人員擔心在未來，事關生死的決定將由機器做出，超出人類的控制之外。造成過度傷害，或錯誤把平民當成攻擊目標的風險將會因此增加，而且還沒有人可以被問責。

機器人缺乏真實的情感，特別是同情心，大量的決定將會在這種情況下做出。人類可以根據以往的經驗和道德方面的考慮，逐個案例進行判斷，做出相應的決定。但是想把這種判斷方式復制到完全自主的武器上幾乎是不可能的，預編程的機器無法應對所有場景。

把技術置于外交之上，將會帶來可怕的、空前的人道主義災難。

自主武器可以在陸地、空中或海上開展行動，武裝沖突和執法行動的方式可能會產生翻天覆地的變化。支持的一方說，開發“殺手機器人”是必要的，因為現代軍事行動非常迅速，讓機器人作戰可以防止士兵和警察遭受傷害。但它們對人類構成的威脅，可能會比它們在軍事或執法方面帶來的好處更多。

禁止研發“殺手機器人”的行動

一些人指出，如果關于攻擊目標的決定不再由人類來做，世界將會變得非常危險。鑒于完全自主武器在道德、法律和責任上的風險，它們的研發、生產和使用現在就需要加以阻止，不能等待。而化解這種威脅的最好辦法，就是對無人操控的武器實施國際禁令。

一些國家已經在使用Reaper這樣的無人機在戰區開展任務。如果在激烈的戰斗中，出現了機器人非法殺人的情況，那應該由誰來承擔責任呢？人權觀察組織今年早些時候發布了一份報告，得出了一個非常令人不安的答案：沒有人。

該報告名為《殺手機器人問責機制的缺失》。該組織說，我們必須改變這種缺乏問責制的狀況，禁止研發和使用“殺手機器人”。

“不問責，意味著對今后的犯罪行為沒有威懾力，對受害者沒有進行補償，對肇事者沒有進行社會譴責，”該報告的主要作者、人權觀察組織高級兵種部研究員邦尼·多徹蒂寫道。

機器人缺乏真實的情感，包括同情心。此外，對于它們殺死的人來說， 生命 具有怎樣的價值，沒有生命的機器是無法真正了解的。讓機器人來決定什么時候使用武力，是在剝奪人的尊嚴。國際法主張保護平民和士兵，只有當機器處于人類的控制之下時，國際法才能得到遵行。

聯合國在日內瓦舉行了為期一周的會議，討論殺手機器人的問題。至少有20個國家在會議上表示，攻擊目標的選擇應該由人類來負責。哈佛法學院在這期間發布了一份相關報告，獲得了很多人的支持，已經有兩個組織在爭取禁止完全自主的武器。

哈佛法學院的報告呼吁人類在科技高速發展的時代依然要保持對所有武器系統的控制權，包括選擇攻擊目標、拯救生命、確保國際法得到遵守的控制權。

“機器早就開始充當戰爭工具了，但是之前，它們的使用方式是由人類控制的，”邦尼·多徹蒂?！艾F在如果人類會放棄這種控制權，把事關生死的決定交給機器，風險就太大了?！?/p>

軍備競賽的威脅

有些人支持讓機器人去打仗，以免人類在戰場上送命。但去年，1000多名技術和機器人技術的專家——包括科學家霍金，特斯拉首席執行官伊隆·馬斯克和 蘋果 聯合創始人史蒂夫·沃茲尼亞克——警告說，這種武器可以在數十年，乃至數年內研制成功。

在一封公開信中，他們表示，如果任何一個軍事強國推動自主武器的發展，“那么全球軍備競賽幾乎是不可避免的，這種技術軌跡的終點顯而易見：自主武器將成為明天的卡拉什尼科夫沖鋒槍?！?/p>

總部位于倫敦的“禁止殺手機器人”組織表示：有些國家正在賦予作戰武器更大的自主權，這些國家包括美國、中國、以色列、韓國、俄羅斯和英國。

今年3月，五角大樓的一名高層官員透露了幾個不久前還屬于科幻作品的項目，其中包括可以躲避導彈的衛星，自主飛行的F-16戰斗機，以及機器人海軍艦隊。

盡管五角大樓不打算開發一種無需人類指揮就能開展殺戮行動的武器，但國防部副部長羅伯特·奧克暗示，如果用敵人研發出這樣的武器，情況可能就會改變。

“如果我們的競爭對手更加愿意把生死大權下放給機器，隨著競爭的開展，我們就不得不做出最利于我們競爭地位的決定，”他說。

奧克在五角大樓的工作之一是確保美軍保持技術優勢，在他透露的一個項目中，空軍把一架F-16戰機改裝為一個半自主的無人戰斗機，與一架載人的F-35噴氣式戰斗機一同飛行。

五角大樓的研究人員還正在開發一種小型炸彈，它搭載了攝像頭和傳感器，可以提高瞄準能力。其他項目還包括機器人艦隊，以及炮彈時速高達7250公里的電磁軌道炮等。（云開）

精彩視頻推薦

推廣：熱點之下另有內幕，新聞之外別有洞天，了解TMT江湖隱秘故事，關注微信公眾號“騰訊深網”：qqshenwang