後記
關燈
小
中
大
上保持平衡，也無法解釋如何把圖片和真實的東西區分開來，甚至無法解釋如何從記憶中獲取事實。
有人可能會再次抱怨：“期望我們把觀察、平衡、記憶等諸如此類的事情講清楚是不公平的。
這些都是我們在學會說話之前就學會的東西！”但是，盡管這種批評在某些方面是公平的，但這也說明了，對于那些從未學過說話的心智的所有子部分而言，溝通是多麼困難——而它們是我們的全部。
“意義”這個概念本身就是一個大小和規模的問題：隻有在一個大到有很多意義的系統中，問什麼東西意味着什麼才有意義。
在非常小的系統中，說某個東西有意義就像說一塊磚是一間很小的房子一樣毫無意義。
現在，我們很容易就會說，心智是一個社會，但這個想法本身是無用的，除非我們能更詳細地說明它的組織形式。
如果所有這些專業部分都同樣具有競争力，那麼就會出現無政府狀态，而且我們學到的越多，能做的就越少。
因此，一定要有某種管理機構，或許大體上按等級組織，比如行業或人類政治社會的分類和細分。
這些級别有什麼用？在我們所知道的那些高效運轉的大型社會中，較低層次的人練習更專業的工作技能，而較高層次的人則關注較長期的計劃和目标。
這也是我們有意識和無意識的想法很難相互轉換的另一個根本原因！我們在意識層面上使用的術語和符号主要是用來表達我們相信自己能實現的目标和完成的計劃——而那些低級别資源的工作則用不為人知的過程和機制來表示。
因此，當我們的意識探測器試圖進入組成心智的無數越來越小的子機器時，它們會觀測到外星人一般的表現，這些表現被用作越來越專門的目的。
問題是，這些微小的内部“語言”很快就會變得難以理解，原因很簡單卻又不可避免。
這與我們熟悉的兩種不同的人類語言之間的翻譯困難是不一樣的，我們理解這個問題的本質：人類語言是如此巨大和豐富，以至于我們很難縮小其意義——我們稱之為“模糊”。
但是，當我們試着去理解心智最低層次的微小語言時，我們遇上了截然相反的問題——因為兩種語言規模越小，它們之間的轉換就越困難，不是因為含義太多，而是太少。
兩個系統所做的事情越少，它們做的事情互相對應的可能性就越小。
于是，翻譯變得完全不可能。
為什麼這比“模糊”的情況還要糟糕呢？因為，盡管“模糊”問題看起來很困難，但是一個看上去非常複雜的問題總還有希望。
當一個問題簡單得無可救藥時，那就一絲希望都沒有了！ 最後，讓我們回到這個問題上：一個機器内部世界裡的模拟生命是怎樣的，與我們日常的現實生活一樣嗎？我的答案是，正如你們現在所知道的，可能非常相似——因為就像我們看到的那樣，我們自己已經作為進程被囚禁在機器内部的機器中。
我們的精神世界裡已經充滿了奇妙的魔法符号與标志，它們為我們“看到”的一切事物增添了意義。
所有受過教育的人都知道，我們的精神世界與我們的科學家所知道的“現實世界”有多不同。
想想你餐廳中的桌子，你的意識心智認為它擁有熟悉的功能、形式和用途：桌子是“一種放東西的物品”。
然而，科學告訴我們，這僅僅存在于心智中；所有的“真正存在”是一個由無數分子組成的社會。
這張桌子貌似保持着它的形狀僅僅是因為其中一些分子被限制在彼此附近振動——因為力場的某些特性阻止它們去追求獨立的路徑。
同樣，當你聽到一個口語詞時，你的心智就會給這個聲音賦予意義屬性。
而在物理學中，這個詞僅僅是你耳朵裡的一股波動的壓力，是由無數空氣分子的碰撞所引起的，至于粒子的距離，這次就不那麼受限制了。
所以現在，讓我們最後來面對它吧：我們每個人都已經體驗過被計算機模拟的感覺了！ “荒謬，”大多數人一開始說，“我當然不覺得自己像個機器！” 然而是什麼讓我們如此确信？一個人怎樣才能聲稱自己知道某件事的感受，除非自己經曆過？請思考一下，要麼你是一台機器，要麼不是。
然後，如你所說，如果你不是一台機器，你就無權表達作為一台機器的感覺。
“很好，但是當然，如果我是一台機器，那麼至少我可以知道這種感覺！” 不。
這隻是一個單純的、架空的假設，相當于說：“我會思考，因此我知道思維是如何運作的。
”但正如我們所看到的，我們的意識思維和它們的産生方式之間存在着相當多級别的機制，這種說法就像說“我會開車，因此我知道引擎的工作原理”一樣荒謬。
“盡管如此，即使大腦是一種計算機，你也必須承認它的規模大得難以想象。
人的大腦包含數十億個腦細胞，而且，很可能每個細胞本身都是極其複雜的。
然後，每個細胞以複雜的方式連接着成千上萬的細胞。
你可以用‘機器’這個詞來形容它，但肯定沒人能造出這麼龐大的東西！” 我完全贊同這種反對意見的态度。
當一個人被比作機器時，會感覺被輕視，就好像被認為微不足道一樣。
而且這樣的比較确實是一種侮辱，隻要“機器”這個名字仍然具有過去時代的含義。
幾千年來，這個詞會讓我們聯想起滑輪、杠杆、火車、打字機，以及其他簡單事物的形象。
同樣，在現代，“計算機”這個詞會讓人們想起數字加法和減法，并在所謂的微型“存儲器”中存儲它們。
然而，這些詞語不再服務于我們的新目的，描述像我們一樣思考的機器；對于這樣的用途，那些古老的術語已經成為我們想說的虛假的名字。
就像“房子”可能代表的東西比木頭和石頭代表的更多，或者僅此而已，我們的心智可能被描述為僅僅是機器而已，也可能代表更多的含義。
至于規模本身的問題，這些反對意見幾乎完全過時了。
1950年，在任何一台計算機都能存儲100萬比特之前，它們都是有意義的。
1960年它們仍然有意義，那時存儲100萬比特的成本是100萬美元。
但是，今天，同樣的存儲器成本卻隻有100美元（我們的政府甚至把美元也變得更廉價了）——而且今天已經誕生了能存儲數十億比特的計算機。
唯一缺少的是讓這些機器智能化的大部分知識。
事實上，正如你可能從這一切中猜到的那樣，人工智能研究的焦點應該是尋找到好的方法，就像文奇的《真名實姓》中所建議的那樣，通過使用符号來連接結構和功能。
如果可能的話，什麼時候能做到這一點呢？永遠都不要說“永不可能”。
有人可能會再次抱怨：“期望我們把觀察、平衡、記憶等諸如此類的事情講清楚是不公平的。
這些都是我們在學會說話之前就學會的東西！”但是，盡管這種批評在某些方面是公平的，但這也說明了，對于那些從未學過說話的心智的所有子部分而言，溝通是多麼困難——而它們是我們的全部。
“意義”這個概念本身就是一個大小和規模的問題：隻有在一個大到有很多意義的系統中，問什麼東西意味着什麼才有意義。
在非常小的系統中，說某個東西有意義就像說一塊磚是一間很小的房子一樣毫無意義。
現在，我們很容易就會說，心智是一個社會，但這個想法本身是無用的，除非我們能更詳細地說明它的組織形式。
如果所有這些專業部分都同樣具有競争力，那麼就會出現無政府狀态，而且我們學到的越多，能做的就越少。
因此，一定要有某種管理機構，或許大體上按等級組織，比如行業或人類政治社會的分類和細分。
這些級别有什麼用？在我們所知道的那些高效運轉的大型社會中，較低層次的人練習更專業的工作技能，而較高層次的人則關注較長期的計劃和目标。
這也是我們有意識和無意識的想法很難相互轉換的另一個根本原因！我們在意識層面上使用的術語和符号主要是用來表達我們相信自己能實現的目标和完成的計劃——而那些低級别資源的工作則用不為人知的過程和機制來表示。
因此，當我們的意識探測器試圖進入組成心智的無數越來越小的子機器時，它們會觀測到外星人一般的表現，這些表現被用作越來越專門的目的。
問題是，這些微小的内部“語言”很快就會變得難以理解，原因很簡單卻又不可避免。
這與我們熟悉的兩種不同的人類語言之間的翻譯困難是不一樣的，我們理解這個問題的本質：人類語言是如此巨大和豐富，以至于我們很難縮小其意義——我們稱之為“模糊”。
但是，當我們試着去理解心智最低層次的微小語言時，我們遇上了截然相反的問題——因為兩種語言規模越小，它們之間的轉換就越困難，不是因為含義太多，而是太少。
兩個系統所做的事情越少，它們做的事情互相對應的可能性就越小。
于是，翻譯變得完全不可能。
為什麼這比“模糊”的情況還要糟糕呢？因為，盡管“模糊”問題看起來很困難，但是一個看上去非常複雜的問題總還有希望。
當一個問題簡單得無可救藥時，那就一絲希望都沒有了！ 最後，讓我們回到這個問題上：一個機器内部世界裡的模拟生命是怎樣的，與我們日常的現實生活一樣嗎？我的答案是，正如你們現在所知道的，可能非常相似——因為就像我們看到的那樣，我們自己已經作為進程被囚禁在機器内部的機器中。
我們的精神世界裡已經充滿了奇妙的魔法符号與标志，它們為我們“看到”的一切事物增添了意義。
所有受過教育的人都知道，我們的精神世界與我們的科學家所知道的“現實世界”有多不同。
想想你餐廳中的桌子，你的意識心智認為它擁有熟悉的功能、形式和用途：桌子是“一種放東西的物品”。
然而，科學告訴我們，這僅僅存在于心智中；所有的“真正存在”是一個由無數分子組成的社會。
這張桌子貌似保持着它的形狀僅僅是因為其中一些分子被限制在彼此附近振動——因為力場的某些特性阻止它們去追求獨立的路徑。
同樣，當你聽到一個口語詞時，你的心智就會給這個聲音賦予意義屬性。
而在物理學中，這個詞僅僅是你耳朵裡的一股波動的壓力，是由無數空氣分子的碰撞所引起的，至于粒子的距離，這次就不那麼受限制了。
所以現在，讓我們最後來面對它吧：我們每個人都已經體驗過被計算機模拟的感覺了！ “荒謬，”大多數人一開始說，“我當然不覺得自己像個機器！” 然而是什麼讓我們如此确信？一個人怎樣才能聲稱自己知道某件事的感受，除非自己經曆過？請思考一下，要麼你是一台機器，要麼不是。
然後，如你所說，如果你不是一台機器，你就無權表達作為一台機器的感覺。
“很好，但是當然，如果我是一台機器，那麼至少我可以知道這種感覺！” 不。
這隻是一個單純的、架空的假設，相當于說：“我會思考，因此我知道思維是如何運作的。
”但正如我們所看到的，我們的意識思維和它們的産生方式之間存在着相當多級别的機制，這種說法就像說“我會開車，因此我知道引擎的工作原理”一樣荒謬。
“盡管如此，即使大腦是一種計算機，你也必須承認它的規模大得難以想象。
人的大腦包含數十億個腦細胞，而且，很可能每個細胞本身都是極其複雜的。
然後，每個細胞以複雜的方式連接着成千上萬的細胞。
你可以用‘機器’這個詞來形容它，但肯定沒人能造出這麼龐大的東西！” 我完全贊同這種反對意見的态度。
當一個人被比作機器時，會感覺被輕視，就好像被認為微不足道一樣。
而且這樣的比較确實是一種侮辱，隻要“機器”這個名字仍然具有過去時代的含義。
幾千年來，這個詞會讓我們聯想起滑輪、杠杆、火車、打字機，以及其他簡單事物的形象。
同樣，在現代，“計算機”這個詞會讓人們想起數字加法和減法，并在所謂的微型“存儲器”中存儲它們。
然而，這些詞語不再服務于我們的新目的，描述像我們一樣思考的機器；對于這樣的用途，那些古老的術語已經成為我們想說的虛假的名字。
就像“房子”可能代表的東西比木頭和石頭代表的更多，或者僅此而已，我們的心智可能被描述為僅僅是機器而已，也可能代表更多的含義。
至于規模本身的問題，這些反對意見幾乎完全過時了。
1950年，在任何一台計算機都能存儲100萬比特之前，它們都是有意義的。
1960年它們仍然有意義，那時存儲100萬比特的成本是100萬美元。
但是，今天，同樣的存儲器成本卻隻有100美元（我們的政府甚至把美元也變得更廉價了）——而且今天已經誕生了能存儲數十億比特的計算機。
唯一缺少的是讓這些機器智能化的大部分知識。
事實上，正如你可能從這一切中猜到的那樣，人工智能研究的焦點應該是尋找到好的方法，就像文奇的《真名實姓》中所建議的那樣，通過使用符号來連接結構和功能。
如果可能的話，什麼時候能做到這一點呢？永遠都不要說“永不可能”。