馬斯克

騰訊科技訊 8月21日消息，據外媒報道，聯合國現在必須采取行動，以禁止自主武器（又稱殺人機器人）的使用。這是美國 太空 探索技術公司SpaceX、特斯拉電動汽車公司首席執行官伊隆·馬斯克（Elon Musk），連同 谷歌 ( 微博 )DeepMind聯合創始人穆斯塔法·蘇利曼（Mustafa Suleyman）在內的116名機器人和人工智能（AI）領域領袖人物所簽署公開信中的內容，敦促聯合國阻止這項技術改變我們所熟悉的沖突模式。

公開信中稱：“致命的自主武器有可能成為戰爭中的第三次革命。一旦它們發展起來，可能導致武裝沖突以比以往任何時候更大的規模進行，而且速度比人類所能理解的還要快。”這封信明確概述了自主武器的使用如何超出控制，如何落入壞人之手的細節。信中稱：“這些自主武器可能成為恐怖武器，比如獨裁者和恐怖分子可能對無辜人群使用。我們沒有太多時間可浪費，一旦潘多拉的盒子打開，就很難再關閉。”

機器人和AI社區，以及人權組織始終認為，自主武器很可能成為沖突地區制造極端反人類罪的罪魁禍首。Campaign to Stop Killer Robots組織首席協調員瑪麗·韋勒姆（Mary Wareham）稱：“殺手機器人將把人類從殺戮決定中排擠出去，這跨越了我們認為不應該超越的基本道德和倫理底線。”

這封公開信發布在聯合國即將就致命自主武器問題進行正式討論之前。鑒于聯合國此前已經成立政府專家小組來審查這個問題，公開信中懇求這些專家找到一種方法，來防止獲得這類武器的軍備競賽。這封信是在墨爾本召開的國際AI聯合會議開幕時發布的，該會議參與者都是世界領先的機器人和AI領域專家。

如信中所述，聯合國小組原定于周一開始工作，但最終被推遲到11月份。隨后，這封信敦促專家小組在未來幾個月內“加倍努力”。這不是AI和機器人專家們首次發布警告，敦促我們需要禁止研發軍事機器人。2015年，馬斯克、物理學家史蒂芬·霍金（Stephen Hawking）以及 蘋果 聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）等3000多名AI研究人員曾簽署公開信，要求禁止開發“超過人類控制意義之外的自主武器”。當時，研究人員們說，AI軍備競賽是個“糟糕的主意”。2年后，新的公開信中警告說，糟糕的主意可能引發災難。（編譯/金鹿）