這個話題由數字朋克作家和網絡安全專家尼克·凱利、eSkin研發專家喬什·巴普蒂斯特以及暢銷科幻小說《千年戰爭》作者喬·霍爾德曼共同主持。在一小時的研討過程中，參會者討論的內容涉及量子計算、機器人技術、黑客技術、以及感知智能的倫理問題。

他描述了編寫真值表和學習準代數邏輯的方法，這使他能夠理解早期計算機的“思維過程”。他說：“我對符號邏輯有絕對信心，而我對自然語言就沒有這種信心。

我不會說它不會說謊，但當它說謊時，你能通過謊言拼湊出真相。”對霍爾德曼來說，編寫真值表時有一點十分關鍵：“我十分清楚如何在一個準代數系統中把真相梳理出來，這讓我感受到力量。”

量子計算機的神奇力量在于量子位，它類似于所有計算機中常見的位元，除了1和0的狀態，量子位可以存在于1和2的狀態中，或者兩者都不存在。

這種額外的維度允許計算能力超越當前的極限，從而為人工智能掌握諸如自我意識這樣的先進功能提供了可能性。

在小組討論中，凱利提到了一個真實案例：黑客可以通過大廳里魚缸里的溫度控制程序，侵入賭場內聯網的老虎機。他們之所以能夠成功，是因為該賭場的聯網設備沒有被“隔離”，這意味著一旦黑客控制了某一臺設備，他們就可以獲得連接該網絡其他設備的控制權。

與之類似，如果黑客試圖侵入網絡，思科的安全程序可以從以往的黑客攻擊中吸取教訓，并自動避免類似攻擊。

這種系統的危險來自于自動系統完全失控，類似于著名的“回形針最大化”思想實驗：一個系統被訓練以達到最大的安全性和效率，最終可能會決定人類的控制或行動不夠安全或有效，從而導致系統采取行動阻止人類干擾或使用它。

凱利引用了最近Facebook聊天機器人AI被關閉的例子，說明當我們失去對人工智能的控制后會發生什么：在試圖學習用英語交流之后，Facebook聊天機器人AI決定，它將創造自己獨有的、更高效的語言，而人類很難理解這種語言。

當研究人員意識到它在做什么時，他們很快關閉了AI機器人。

至于我們離實現科幻小說中描述的人工智能到底有多近，以及我們是否需要擔心受到自動機器人的黑暗統治，霍爾德曼很好地總結了這一點：“這個問題既無法估量，又充滿虛構色彩。這倒可以當作一個不錯的小說開頭。這些都是已經存在的問題，而人又是什么？他的運算極限又在哪里呢？”