本文系網(wǎng)易智能工作室（公眾號smartman163）出品。 聚焦AI，讀懂下一個(gè)大時(shí)代！

【網(wǎng)易智能訊 9月8日消息】在今年的“逃逸速度”（Escape velocity）科技峰會上，“人工智能離我們有多遠(yuǎn)、人工智能是否對我們構(gòu)成威脅”成為了最受關(guān)注也最為活躍的話題之一。這個(gè)話題由數(shù)字朋克作家和網(wǎng)絡(luò)安全專家尼克?凱利、eSkin研發(fā)專家喬什?巴普蒂斯特以及暢銷科幻小說《千年戰(zhàn)爭》作者喬?霍爾德曼共同主持。在一小時(shí)的研討過程中，參會者討論的內(nèi)容涉及量子計(jì)算、機(jī)器人技術(shù)、黑客技術(shù)、以及感知智能的倫理問題。

以下是本次研討的一些節(jié)選：

| 人工智能的起源：早期人工智能和象征性推理

喬?霍爾德曼從他在大學(xué)所學(xué)的課程談起，與大家分享了他與人工智能和象征性推理的經(jīng)歷，這些課程涵蓋了哲學(xué)、數(shù)學(xué)和計(jì)算機(jī)科學(xué)。“在你們還沒出生之前，我就開始研究人工智能了，”他開玩笑地說。

他描述了編寫真值表和學(xué)習(xí)準(zhǔn)代數(shù)邏輯的方法，這使他能夠理解早期計(jì)算機(jī)的“思維過程”。他說：“我對符號邏輯有絕對信心，而我對自然語言就沒有這種信心。我不會說它不會說謊，但當(dāng)它說謊時(shí)，你能通過謊言拼湊出真相。”對霍爾德曼來說，編寫真值表時(shí)有一點(diǎn)十分關(guān)鍵：“我十分清楚如何在一個(gè)準(zhǔn)代數(shù)系統(tǒng)中把真相梳理出來，這讓我感受到力量。”

| 感知智能和量子計(jì)算

據(jù)喬什?巴普蒂斯特所說，人工智能有兩個(gè)方面：自治智能，它允許程序在沒有人類參與的情況下執(zhí)行代碼，而感知智能則是自主并有獨(dú)立意識的人工智能。根據(jù)巴普蒂斯特的說法，“真正的感知智能必定包括量子計(jì)算機(jī)。”

他舉了一個(gè)著名的例子來解釋了傳統(tǒng)計(jì)算機(jī)和量子計(jì)算機(jī)之間的區(qū)別：如果你有一幅關(guān)于山丘和山谷的三維圖像，并將其簡化為像素，那么傳統(tǒng)計(jì)算機(jī)就必須對每一個(gè)像素進(jìn)行觀察，以確定最低的點(diǎn)，而量子計(jì)算機(jī)則會查看整個(gè)圖像，并幾乎在瞬間給出答案。

量子計(jì)算機(jī)的神奇力量在于量子位，它類似于所有計(jì)算機(jī)中常見的位元，除了1和0的狀態(tài)，量子位可以存在于1和2的狀態(tài)中，或者兩者都不存在。

這種額外的維度允許計(jì)算能力超越當(dāng)前的極限，從而為人工智能掌握諸如自我意識這樣的先進(jìn)功能提供了可能性。

| 入侵物聯(lián)網(wǎng)

根據(jù)小組成員尼克?凱利的說法，與地球上的人相比，互聯(lián)網(wǎng)所連接的設(shè)備明顯更多。然而，在科技史上的絕大部分時(shí)間里，主流的理念是先引入新設(shè)備，然后再把它們拋到腦后，或者用凱利的話說，“先把它們拿出來看看，然后再把它們鎖起來。”

從冰箱、可穿戴設(shè)備到私人機(jī)器人，數(shù)以百計(jì)的新型聯(lián)網(wǎng)“智能”設(shè)備正進(jìn)入我們的視野。但近年來，黑客控制這些設(shè)備的可能性也在呈幾何級數(shù)增長。

在小組討論中，凱利提到了一個(gè)真實(shí)案例：黑客可以通過大廳里魚缸里的溫度控制程序，侵入賭場內(nèi)聯(lián)網(wǎng)的老虎機(jī)。他們之所以能夠成功，是因?yàn)樵撡€場的聯(lián)網(wǎng)設(shè)備沒有被“隔離”，這意味著一旦黑客控制了某一臺設(shè)備，他們就可以獲得連接該網(wǎng)絡(luò)其他設(shè)備的控制權(quán)。

作為思科的一名網(wǎng)絡(luò)安全專家，凱利對于人工智能失控情況的見解稍有不同。他描述了思科正在探索的一項(xiàng)新舉措，即訓(xùn)練公司網(wǎng)絡(luò)，使其能識別對用戶構(gòu)成風(fēng)險(xiǎn)的網(wǎng)站，然后在達(dá)到某個(gè)閾值后拒絕訪問這些網(wǎng)站。與之類似，如果黑客試圖侵入網(wǎng)絡(luò)，思科的安全程序可以從以往的黑客攻擊中吸取教訓(xùn)，并自動避免類似攻擊。

這種系統(tǒng)的危險(xiǎn)來自于自動系統(tǒng)完全失控，類似于著名的“回形針最大化”思想實(shí)驗(yàn)：一個(gè)系統(tǒng)被訓(xùn)練以達(dá)到最大的安全性和效率，最終可能會決定人類的控制或行動不夠安全或有效，從而導(dǎo)致系統(tǒng)采取行動阻止人類干擾或使用它。

凱利引用了最近Facebook聊天機(jī)器人AI被關(guān)閉的例子，說明當(dāng)我們失去對人工智能的控制后會發(fā)生什么：在試圖學(xué)習(xí)用英語交流之后，F(xiàn)acebook聊天機(jī)器人AI決定，它將創(chuàng)造自己獨(dú)有的、更高效的語言，而人類很難理解這種語言。當(dāng)研究人員意識到它在做什么時(shí)，他們很快關(guān)閉了AI機(jī)器人。

| 科幻小說與人工智能的前景

即使量子計(jì)算機(jī)技術(shù)日趨成熟，人工智能距離成為Skynet那樣復(fù)雜的系統(tǒng)仍有很長的路要走。據(jù)喬什?巴普蒂斯特稱，洛克希德公司的量子計(jì)算部門最近購買了幾臺D-Wave量子計(jì)算機(jī)，公司的一名員工告訴巴普蒂斯特：“如果你知道我們能用這些機(jī)器做出什么來，請一定要告訴我。”

“關(guān)于人工智能，還有很多未知之處，”喬?霍爾德曼說，“這加劇了人們對人工智能的擔(dān)憂。這是一種非理性的恐懼，它在數(shù)學(xué)和科學(xué)上有一定的基礎(chǔ)。人們的這種恐懼可以追溯到很久以前，只不過套上了一層新的外殼。這是對未知的恐懼。”

至于我們離實(shí)現(xiàn)科幻小說中描述的人工智能到底有多近，以及我們是否需要擔(dān)心受到自動機(jī)器人的黑暗統(tǒng)治，霍爾德曼很好地總結(jié)了這一點(diǎn)：“這個(gè)問題既無法估量，又充滿虛構(gòu)色彩。這倒可以當(dāng)作一個(gè)不錯(cuò)的小說開頭。這些都是已經(jīng)存在的問題，而人又是什么？他的運(yùn)算極限又在哪里呢？”（選自：outerspaces ?編譯：網(wǎng)易見外智能編譯平臺 審校：姜啟航）

關(guān)注網(wǎng)易智能公眾號（smartman163），獲取人工智能行業(yè)最新報(bào)告。