探秘 AI 的未來:我們離科幻小說中的人工智能有多近?
這個話題由數字朋克作家和網絡安全專家尼克·凱利、eSkin研發專家喬什·巴普蒂斯特以及暢銷科幻小說《千年戰爭》作者喬·霍爾德曼共同主持。在一小時的研討過程中,參會者討論的內容涉及量子計算、機器人技術、黑客技術、以及感知智能的倫理問題。
他描述了編寫真值表和學習準代數邏輯的方法,這使他能夠理解早期計算機的“思維過程”。他說:“我對符號邏輯有絕對信心,而我對自然語言就沒有這種信心。
我不會說它不會說謊,但當它說謊時,你能通過謊言拼湊出真相。”對霍爾德曼來說,編寫真值表時有一點十分關鍵:“我十分清楚如何在一個準代數系統中把真相梳理出來,這讓我感受到力量。”
量子計算機的神奇力量在于量子位,它類似于所有計算機中常見的位元,除了1和0的狀態,量子位可以存在于1和2的狀態中,或者兩者都不存在。
這種額外的維度允許計算能力超越當前的極限,從而為人工智能掌握諸如自我意識這樣的先進功能提供了可能性。
在小組討論中,凱利提到了一個真實案例:黑客可以通過大廳里魚缸里的溫度控制程序,侵入賭場內聯網的老虎機。他們之所以能夠成功,是因為該賭場的聯網設備沒有被“隔離”,這意味著一旦黑客控制了某一臺設備,他們就可以獲得連接該網絡其他設備的控制權。
與之類似,如果黑客試圖侵入網絡,思科的安全程序可以從以往的黑客攻擊中吸取教訓,并自動避免類似攻擊。
這種系統的危險來自于自動系統完全失控,類似于著名的“回形針最大化”思想實驗:一個系統被訓練以達到最大的安全性和效率,最終可能會決定人類的控制或行動不夠安全或有效,從而導致系統采取行動阻止人類干擾或使用它。
凱利引用了最近Facebook聊天機器人AI被關閉的例子,說明當我們失去對人工智能的控制后會發生什么:在試圖學習用英語交流之后,Facebook聊天機器人AI決定,它將創造自己獨有的、更高效的語言,而人類很難理解這種語言。
當研究人員意識到它在做什么時,他們很快關閉了AI機器人。
至于我們離實現科幻小說中描述的人工智能到底有多近,以及我們是否需要擔心受到自動機器人的黑暗統治,霍爾德曼很好地總結了這一點:“這個問題既無法估量,又充滿虛構色彩。這倒可以當作一個不錯的小說開頭。這些都是已經存在的問題,而人又是什么?他的運算極限又在哪里呢?”