【騰訊科技編者按】《麻省理工科技評論》本周刊文稱，隨著機器人變得越來越智能，甚至可以識別人類的情緒和反應，它們也在形成自身的情感。然而，這可能帶來許多問題，且并不能讓機器人變得更像人類。

以下為文章主要內容：

Octavia是一款用于海軍艦只滅火的機器人。近期，她掌握了一系列復雜的面部表情。

當機器人關機時，看起來就像是真人大小的娃娃。機器人有著圓潤的白色面龐和挺拔的鼻子。機器人的塑料眉毛貼在前額上，就像兩個翻過來的獨木舟。

然而，在機器人開機后，眼睛將會張開，并呈現出表情。她會點頭表示理解；睜大眼睛揚起眉毛發出警報；或是把頭歪向一側同時撇嘴，表示困惑。在一種漫畫效果下，她甚至可以彎起一側眉毛，擠另一側的眼睛，同時敲打金屬手指，就像是在策劃什么機密事件。

不過，Octavia的面部表情還不是最引人關注的特點。更令人驚訝的是，這些情緒直接來自她與人類互動的互動。例如，在發現自己的戰友時，她看起來會很高興。但如果戰友給了意料之外的命令時，她會看起來很驚訝。而如果有人發來了無法理解的指令，那么她看起來會很迷惑。

由于可以處理海量環境信息，Octavia可以表現出適當的情緒。Octavia能夠觀察、聆聽和觸摸。利用嵌入眼睛里的兩個攝像頭，她可以觀察周圍環境，分析面部特征、膚色和衣飾。利用4個麥克風和名為Sphinx的語音識別程序，她可以探測語音。她還能通過觸摸去感知25種不同對象，并用手指將這些對象擺弄至特定的姿態和形狀。這些感知機能構成了Octavia“具體認知架構”的一部分。作為開發者的美國海軍人工智能應用研究中心表示，這些技術使她可以“以類似人類的方式去思考和行動”。

這令人興奮，但還不算震驚。讓機器像人類一樣去行事，這樣的想法并不新穎。早在18世紀時，自動化裝置就可以跳舞、計時、打鼓和彈琴。我們甚至已經習慣于機器可以像人類一樣思考。人類認知能力的象征，例如成為國際象棋大師，或是作出一首精妙的十四行詩，已經被計算機所掌握。

然而，Octavia的行動，例如睜開眼睛，用揚起眉毛去表示困惑，似乎要更進一步。這些行為表明，除了以人類的方式去思考之外，Octavia還可以體驗到人類的情感。

當然，這些情感并不是真實存在的。美國海軍人工智能中心智能系統部門負責人格雷高利·特拉夫頓（Gregory Trafton）表示，設計這些表情只是為了展示Octavia的思考內容，方便人們與她交流。然而，在想法和感覺之間劃清界限并非永遠可行。特拉夫頓指出，“很明顯，人們的想法和情緒是不同的兩件事，但會相互影響。”而如果“情緒影響認知或者認知影響情緒”，那么在智能機器的發展過程中，Octavia的思考、推理和感知能力將帶來更大的問題。在什么樣的情況下，機器能聰明到去感受某些東西？我們怎么才能知道這一點？

個性化的感受

Octavia的程序包含心智理論，這意味著她可以預見人類戰友的精神狀態。她能夠理解，人類可能同時存在相互矛盾的想法和意圖。當Octavia被要求執行預期之外的命令時，她會進行模擬，以確定發出命令的戰友在想什么，以及為什么他認為這個預期之外的目的是合理的。在這個過程中，Octavia運用自己的世界模型，但進行稍許調整，試圖找到通往既定目標的途徑。當她把頭歪向一邊，皺起眉毛時，這就表明她正在運行模擬程序，試圖更好 地理 解戰友的想法。

Octavia的程序中并沒有包含情緒模型。她的心智理論是一種認知模式，但功能更側重移情。這是人類情感中最有價值的部分。

其他機器人廠商回避了關于機器人情感智能的問題。例如，軟銀開發了人形機器人Pepper，這種機器人可以作為人類的伴侶而存在。軟銀表示，“Pepper喜歡和你互動，希望更多地學習你的品味、你的習慣，以及最簡單的問題，你是誰”。但盡管Pepper可以識別人類的情緒，并且可以用微笑或悲傷表情來做出回應，但沒有人可以說，Pepper實際上體驗到了這些情緒。

那么，機器人的開發者會怎么說？一方面，關于體驗情緒這件事，我們所知的依然非常有限。

近幾年，心理學和神經 科學 的突破性研究重新定義了情緒的概念，導致我們更加難以確定和描述情緒。美國東北大學心理學家麗莎·費爾德曼·巴雷特（Lisa Feldman Barrett）等科學家指出，我們在成長過程中所處的文化會極大地影響我們的情緒。實際上，即使是同一個人，在不同情況下情緒也會有極大的差異。

盡管我們與其他人和動物有著同樣的“情感”，例如快樂、不愉快、興奮和冷靜，但對于特定情況，我們的細微情感會有很大差別。例如，恐懼是一種在文化上得到認同的概念，但會以多種方式在我們的身體中得到體現。恐懼可以來自多種不同的刺激，在我們的大腦中有多種不同表現，并在我們的臉上反映為多種不同表情。我們的大腦中并沒有統一的“恐懼中樞”或“恐懼回路”，而我們的臉上也沒有統一的“恐懼表情”。基于情況的不同，我們以各種不同方式去處理并表現自己的恐懼情緒。而通過與他人的互動，我們學會識別并標記“恐懼”。

因此，恐懼實際上是一種泛義的“傘型概念”，而非來自大腦的某個具體部分。巴雷特指出，我們通過身體系統的相互作用來構建情緒。那么，程序員要如何準確在機器人中還原人類的情緒？

優秀的士兵

圍繞機器人情緒還存在倫理難題，類似Octavia的軍用機器人尤其如此。這些軍用機器人會被派遣至可怕、痛苦，或是可能致命的環境中，替代人類去展開任務。

美國陸軍于2017年贊助了一場主題為“瘋狂科學家倡議”的大會。陸軍訓練和條令司令部副司令員凱文·曼谷姆（Kevin Mangum）中將明確指出，機器人應當是自動化的。“隨著我們關注日益復雜的世界，毫無疑問，機器人、自動化系統和人工智能將發揮作用。”2017年美國陸軍機器人和自動化系統戰略預測，對自動化系統的全面整合將于2040年到來。這將取代當前的炸彈處理機器人，以及其他由人工遠程遙控的機器人。

當這些機器人能夠自主行動和思考時，它們是否應當像Octavia一樣，表現出類似人類的情緒？程序中是否應當這樣做？如果我們把這樣的機器人送上戰場，機器人不僅要和人類伙伴一同思考，還要與他們分享同樣的感受？

從一方面來看，答案當然是否定的。如果我們設計機器人的目的是讓它們進入危險的環境，那么加入感知恐怖、創傷或痛苦的能力將是非常殘忍的。

另一方面，如果情緒影響智力，或智力影響情緒，那么我們能否認為，沒有情緒的機器人會成為優秀的士兵？缺乏情緒是否會導致愚蠢的決定、不必要的風險，或是過于殘酷的行為？沒有情緒的機器人是否會做出被認為戰爭犯罪的行為？或者說，沒有恐懼或憤怒情緒的機器人能比人類做出更明智的決定？

還有一種可能。如果情緒和智力密不可分，智能機器人必然擁有情感，那么問題在于，機器人應當擁有多少情感已經超出了程序員對智能的控制。

情感依賴

還有個問題在于，這些機器人會如何影響他們的人類伙伴。

截至2010年，美國陸軍已部署了大約3000個小型戰術機器人。在很大程度上，這是為了應對戰爭中的簡易爆炸裝置。這些機器人可以替代人類士兵，進入容易暴露的街道、黑暗的洞穴，通過狹窄的通道，拆除不可預知的簡易爆炸裝置。

這些機器人的具體型號包括iRobot的PackBot和QinetiQ北美公司的Talon，并不算特別先進。這些機器人看起來有些像是好萊塢電影中的機器人瓦力，四四方方的金屬身體在橡膠履帶上保持平衡，從而穿越巖石地形、爬樓梯，以及在昏暗的走廊里走動。它們還配備了裝有攝像頭的機械臂，以探查周圍環境，而爪子則可以處理爆炸裝置。

這些機器人非常有用，但并不是完全自動化的。它們需要遙控操作，就像遙控玩具車一樣。實際上，PackBot并沒有比iRobot的拳頭產品Roomba掃地機器人先進太多。

然而，盡管這些機器人并沒有給人眼前一亮的感覺，但人類士兵仍然與它們形成了關聯。朱莉·卡朋特（Julie Carpenter）在“軍事場景的文化和人類機器人互動”中展示了混合愉快和痛苦的復雜關系。

卡朋特問到一名士兵對被摧毀機器人的感覺，后者的回答是：“盡管并不明顯，但感覺有些類似于好友受傷，或是戰友陣亡。毫無疑問這是一種失去的感覺。”

另一名士兵則將機器人比作寵物犬：“你會像照顧戰友一樣照顧好機器人，確保機器人清理干凈，電池一直有電。如果機器人沒有在使用，那么你會以最好的方式去保管機器人，因為你知道如果沒有機器人，一切就輪到你上。”

甚至還有一名士兵提到，他的戰友給機器人起了人類的名字。

這些士兵都強調，機器人是工具，而不是有感情的 生物 。盡管如此，他們還是會給機器人起人類的名字，并在夜間妥善保管機器人。他們以開玩笑的方式來看待這樣的行為，但這樣的笑話中流露出了一些令人不安的跡象。卡朋特采訪的士兵似乎有兩種不同的感受。他們意識到，照顧一個沒有情感的機器人是荒謬的，且機器人被設計成易耗品，但他們仍然傾向于在一定程度上去照顧這些機器人。

如果對于PackBot和Talon這樣的機器人，士兵的態度已經是這樣，那么對于類似Octavia的機器人他們又會是什么樣的態度？后一種機器人能夠觀察、傾聽和觸摸，并猜測人類戰友的心理。

給予機器人情感將帶來倫理問題，但我們更傾向于關注技術創新對機器人本身的影響。《銀翼殺手》和《西部世界》等電影電視關注人類如何以娛樂的心態對待機器人，給機器人造成創傷。不過，也有反面問題需要考慮：機器人對人類造成創傷，甚至帶來死亡。

更復雜的是，如果類似Octavia的機器人最終感受到人類的情感，那么這些情感不可能僅僅是人工賦予的認知架構的一部分。如果機器人獲得類似人類的情感，那么情感就會隨著機器人與戰友關系，以及周圍環境的變化而變化。

例如，如果機器人的“一生”就是去火場里滅火，或是獨自行走在沙漠里拆除爆炸裝置，那么她的情感就會和那些受到保護的機器人，或受保護的人類不同。無論她臉上表達出的情緒是什么，如果在一個非人類的環境下“生活”，那么她的真實情緒將無法辨認。（編譯/陳樺）