本文系網(wǎng)易智能工作室（公眾號 smartman 163）出品。聚焦AI，讀懂下一個(gè)大時(shí)代！

【網(wǎng)易智能訊 9月24日消息】最近，“電車難題”這個(gè)一個(gè)廣為人知的道德倫理思想實(shí)驗(yàn)，重新出現(xiàn)在人們的視野中。當(dāng)未來由汽車來決定我們的生死時(shí)，這個(gè)難題將成為噩夢般的存在。然而，在許多研究自動(dòng)駕駛汽車的專家眼中，關(guān)于電車難題的討論是過于偏激的。他們認(rèn)為電車難題是嘩眾取寵，而且也無關(guān)緊要的。但這種態(tài)度是不對的。由于自動(dòng)駕駛汽車的出現(xiàn)，電車難題將得到解決。更重要的是，關(guān)于這個(gè)難題的答案還將深刻地重塑美國的法律。

要想理解電車難題，首先要考慮這樣的情況：你現(xiàn)在正站在一座天橋上。在你的腳下，一條鐵軌被分成一條主干道和另一條路線。在主干道上，有50人被綁在鐵軌上。在主干道上，一輛電車從橋下疾馳而過，向被困住的人們沖來。幸運(yùn)的是，天橋上有一個(gè)杠桿，當(dāng)它被拉動(dòng)的時(shí)候，電車能夠改道到另一條路。但不幸的是，另一條路也有人被綁在軌道上，不過只有一個(gè)人被綁，而不是50人。在這種情況下，你會(huì)選擇拉杠桿嗎？

現(xiàn)在，再重新考慮一下這個(gè)情況：你站在橋上，有50人被綁在鐵軌上，然而這一次只有一條軌道。你旁邊有一個(gè)很胖的人，他正斜靠在欄桿上。一個(gè)可怕的想法浮現(xiàn)在你的腦海里――你可以輕易地把那個(gè)人推到軌道上。當(dāng)電車撞到他的時(shí)候，它就會(huì)停下來，這樣就可以拯救50人的生命。你會(huì)去推那個(gè)男人嗎？

這個(gè)問題沒有所謂的對或錯(cuò)的答案。但值得注意的是，很多人都說，他們會(huì)選擇拉杠桿，但是卻不敢伸手推那個(gè)男人。識(shí)別一種對于大多數(shù)人來說都是可以接受的道德準(zhǔn)則（也就是說，在所有情境下人們都不會(huì)反對它）同時(shí)還要在遇到反對意見時(shí)為它辯護(hù)，這是很困難的。比如，如果你的指導(dǎo)原則是盡量減少人員傷亡，那么推倒那個(gè)男人和反對拉杠桿之間并沒有什么區(qū)別。但我們都得承認(rèn)，推倒那個(gè)男人的感覺是不一樣的，看起來就像是謀殺。電車難題凸顯了一種令人不安的可能性：我們的道德直覺一方面是由公認(rèn)的原則支配的，但同時(shí)，也受到一些隨意的、膚淺的因素的支配。

不難看出，公路情景與這存在著相似之處，比如，為了避免撞車而調(diào)轉(zhuǎn)方向盤，這就意味著要撞上咖啡館的顧客。但許多專家指出，電車難題的情況已經(jīng)很少見了。自動(dòng)駕駛技術(shù)承諾比任何人工操作都更安全，只會(huì)讓電車難題變得更稀有。他們聲稱，僅僅因?yàn)檫@點(diǎn)恐懼就去阻礙一項(xiàng)可能會(huì)帶來無數(shù)好處的技術(shù)的傳播，是非常不可理喻的。

這種反應(yīng)是有道理的，但它對汽車安全的狹隘關(guān)注忽視了一個(gè)更廣泛的問題：電車難題遍及美國法學(xué)。民事陪審團(tuán)最常扮演的角色是確定被告的行為是否合理，即在將成本和風(fēng)險(xiǎn)從一方轉(zhuǎn)移到另一方時(shí)的行動(dòng)是否合理。為了做出這些裁決，陪審團(tuán)通常會(huì)被要求采用一種粗略的數(shù)學(xué)公式，即所謂的Hand?rule（用20世紀(jì)早期的一位法官Learned?Hand的名字命名）平衡那些受到被告行為影響的人的利益，這是電車難題場景的精髓。當(dāng)然，你不需要成為一名律師就能找出不一致的地方：如果我們只需將數(shù)值插入方程中就能找到正確的答案，那么我們?yōu)槭裁催€需要陪審團(tuán)呢？

事實(shí)是，“Hand rule"在大多數(shù)情況下都能提供一個(gè)可以接受的答案，但有時(shí)卻會(huì)出現(xiàn)兩難的處境。它提出的答案可能會(huì)失敗，因?yàn)槲覀兊牡赖轮庇X并不總是滿足于遵循更高尚的原則。當(dāng)這種情況發(fā)生時(shí)，法律體系依賴于陪審團(tuán)在這個(gè)等式中找到一些回旋的余地，并做出一個(gè)與公眾對于公平的認(rèn)知相一致的裁決。

然而，在自動(dòng)駕駛汽車情況下并沒有回旋余地。和任何計(jì)算機(jī)一樣，在沒有得到指令時(shí)，自動(dòng)駕駛汽車不會(huì)有任何行動(dòng)。程序員無法為它提供應(yīng)用于大多數(shù)場景的指令，而避免考慮特殊情況。同時(shí)，自動(dòng)駕駛汽車必須在不到一秒的時(shí)間內(nèi)做出決定。沒有時(shí)間讓一個(gè)外部的、人類的“道路陪審團(tuán)”對它所處的情景進(jìn)行審查。因此，它只能靠自己。必須有人提出（或者，至少在算法提出的時(shí)候接受）一個(gè)明確的、不含糊的規(guī)則，用于什么時(shí)候拉杠桿、推人、或者轉(zhuǎn)向咖啡廳。社會(huì)必須嚴(yán)肅對待電車難題，不是說自動(dòng)駕駛汽車在該問題得到解決之前就不應(yīng)該投入使用，而是因?yàn)樽詣?dòng)駕駛汽車將會(huì)促使一個(gè)人們達(dá)成一個(gè)解決方案，這個(gè)解決方案所體現(xiàn)的價(jià)值觀很可能會(huì)在包括法律在內(nèi)的許多重要的公民領(lǐng)域中得到采納。

但是，我們能指望誰來審慎地解決這個(gè)電車難題呢？有些學(xué)者認(rèn)為，律師將負(fù)責(zé)解決。這種觀念的問題在于，律師在職業(yè)生涯的大部分時(shí)間里都在逃避為難題提供明確的答案。律師甚至還發(fā)明了一種格言，讓他們的逃避行為顯得負(fù)有責(zé)任：“困難的案例促成糟糕的法律?！笔聦?shí)上，“律師會(huì)拯救我們”的觀點(diǎn)有反向因果的作用：法律不會(huì)影響到電車問題；相反，電車問題及其解決方案將會(huì)影響到法律，例如，它會(huì)影響到法律如何指導(dǎo)陪審團(tuán)去判斷一個(gè)人的行為是否合理。

人們總是很希望有人來解決電車問題。畢竟，要找到一個(gè)解決方案，通常就需要面對一些關(guān)于個(gè)人道德情感的令人不安的真相。例如，如果自動(dòng)駕駛汽車遵循一條簡單的規(guī)則：減少傷亡人數(shù)。那么這條規(guī)定偶爾會(huì)導(dǎo)致令人不快的結(jié)果。比如，為了避免撞到四個(gè)不遵守交通規(guī)則跑到馬路上的成年人而撞倒了走在人行道上的母親和她的兩個(gè)孩子。因此，這項(xiàng)規(guī)定可能會(huì)附加一個(gè)限制性條款：將傷亡人數(shù)降到最低，除非有一方處于危險(xiǎn)之中。

但是，如果面對的對象是四名橫穿馬路的男性和三名橫穿馬路的母親，或者四名橫穿馬路的母親，或者僅僅是四名橫穿馬路的女性，那該怎么辦呢？理性的人可能并不認(rèn)為在這些情境下存在所謂“可接受”的決策，他們會(huì)努力做出合理的選擇。艱難的案件不會(huì)促成糟糕的法律，但會(huì)促成糟糕的法學(xué)家，他們害怕承認(rèn)自己的推理通常是由自私、個(gè)人情感或社會(huì)壓力驅(qū)動(dòng)的。

盡管存在這些挑戰(zhàn)，社會(huì)還是應(yīng)該抵制外包其道德編纂。如果電車問題的答案是反映（或者至少是被告知）社會(huì)中豐富多樣的經(jīng)驗(yàn)、態(tài)度和觀點(diǎn)，那么每個(gè)人都參與到這個(gè)過程中是至關(guān)重要的。專家們可能會(huì)說，電車問題沒什么好擔(dān)心的，但他們忘記了，汽車首先是交通工具。即使你完全不關(guān)心你乘坐自動(dòng)駕駛汽車時(shí)它是如何運(yùn)作的，你也應(yīng)該關(guān)注當(dāng)你離開它們的時(shí)候會(huì)發(fā)生什么。他們正在推動(dòng)社會(huì)走向法律和政治改革，而這些改革不應(yīng)被忽視。

（選自：wired 作者：JAY DONDE 編譯：網(wǎng)易見外智能編譯平臺(tái) 審校：Jayne）

關(guān)注網(wǎng)易智能公眾號（smartman163），獲取人工智能行業(yè)最新報(bào)告。