第3章 自由：數據霸...
關燈
小
中
大
由許多人和機構來做出決定，而專制制度則是把所有信息和權力都集中在一處。
鑒于20世紀的科技水平，把太多信息和權力都集中在一個地方并不是有效率的做法。
在當時，沒有人能夠及時處理完所有信息，并做出正确決定。
這也就成了蘇聯做出的決策水平遠低于美國，蘇聯經濟遠遠落後于美國經濟的部分原因。
然而，人工智能很快就會讓鐘擺擺向相反的方向。
有了人工智能，就能集中處理大量的信息，甚至因為機器學習在分析越多信息之後效果越好，所以人工智能可能會讓集中式系統比分布式系統效率更高。
在不考慮任何隐私問題的前提下，在一個數據庫裡就擁有10億人的完整信息，絕對會比隻有100萬人的部分信息更能訓練出優秀的算法。
舉例來說，如果有某個專制政府要求所有公民進行DNA掃描，再将所有醫療數據提供給中央機構，這時比起那些醫療數據需要嚴格保密的社會，專制政府就能掌握遺傳學和醫學研究的巨大優勢。
一心想把信息集中，在20世紀曾是專制政權的主要弱點，但到了21世紀卻可能成為決定性的優勢。
随着算法變得如此了解我們，某些政權能夠對公民進行絕對的控制，程度甚至超過納粹德國，而且公民可能完全無力抵抗。
這種政權不僅能明确掌握你的感受，甚至還能控制你的感受。
我們并不會回歸到希特勒的時代。
數字獨裁和納粹德國之間的差異，可能就像納粹德國與法國舊制度的差異一樣巨大。
路易十四也是個集權的獨裁者，但當時并沒有足以建立現代極權主義國家的科技。
雖然他的統治并未受到抵抗，但當時既沒有收音機，也沒有電話和火車，他也就很難掌控布列塔尼某個偏遠鄉村的農民甚至巴黎市中心市民的日常生活。
當時不論在意願還是能力上，他都不可能建立群衆政黨、全國青年運動組織或國家教育體系。
是因為20世紀出現了新科技，才讓希特勒有了做這些事的動機和能力。
我們無法預測2084年的數字獨裁政權會有怎樣的動機和能力，但要說他們想成為另一個希特勒，是不太可能的。
如果有人打算用20世紀30年代的方式來重新打這場仗，有可能會遇到完全出乎意料的攻擊，令他們措手不及。
就算民主制度成功适應調整而生存下來，人民也可能遭受到新形态的壓迫和歧視。
現在，已經有越來越多的銀行、企業和機構運用算法來分析數據，做出與我們相關的決定。
你向銀行申請貸款的時候，申請單很可能是由算法處理的，而不是由人類審核的。
算法分析你的大量資料和其他幾百萬人的統計數據，據以決定你是否可靠，該不該給你提供貸款。
一般來說，算法此時會比人類銀行職員表現更佳。
但問題在于，如果算法裡藏着某種不公，我們将很難察覺。
如果銀行拒絕給你貸款，你問：“為什麼？”銀行會說：“算法說不行。
”但你再問：“為什麼算法說不行？我哪裡有問題？”銀行會說：“我們也不知道。
沒人知道這套算法背後的道理，總之就是一套先進機器學習的結果。
我們相信我們的算法，所以不會貸款給你。
” 如果被歧視的是某個群體（例如婦女或黑人），這些群體能夠組織起來，抗議他們集體遭到歧視。
然而，現在算法歧視的有可能就是你這個人，而你完全不知道原因。
有可能是你的DNA、你的過去或者臉譜網賬号上有些什麼，引起了算法的注意。
算法歧視你，并非因為你是個女性或黑人，而是因為你就是你。
就是有些什麼關于你的特質，算法不喜歡。
你不知道究竟是什麼特質，就算你知道，也找不到人和你一起大聲抗議，因為沒有其他人會遇到與你一樣的偏見，隻有你。
到了21世紀，除了過去的集體歧視之外，我們可能還要面臨日益嚴重的個人歧視問題。
在最高的權力階層可能還會有幾個人類，這讓我們有個錯覺，以為算法隻是顧問，最終的權威還是掌握在人類手中。
我們不會任命某個人工智能來擔任德國總理或谷歌的首席執行官，但那位總理和首席執行官的決策會由人工智能制定。
總理手中會有幾個不同的選項，但所有選項都會是大數據分析的結果，反映的也是人工智能看世界的方式，而非人類看世界的方式。
讓我們舉個類似的例子：今天世界各地的政治家似乎可以在各種不同的經濟政策之間做選擇，政治家有種以為自己可以選的錯覺，但真正重要的決定早就由經濟學家、金融專家和商人在提出選項時就做完了。
也就是說，是他們為政治家定下了選擇的方向。
而再過幾十年，就可能是由人工智能來提出選項，供政治家進行挑選了。
人工智能和自然愚蠢 一個好消息是，至少在未來幾十年裡，我們不用擔心科幻小說裡那種人工智能産生意識、殺光或奴役人類的噩夢。
我們會越來越依賴算法為我們做決定，但算法并不太可能開始有意識地操縱人類。
事實上，它們不會有任何意識。
科幻小說常把智能與意識混為一談，并認為如果要有與人類相當甚至更高的智能，計算機就必須發展出意識。
幾乎所有關于人工智能的電影和小說，基本情節都圍繞着計算機或機器人産生意識的那個神奇時刻。
而一旦它們有了意識，不是人類主角愛上機器人，就是機器人打算殺光所有人類，或者二者兼而有之。
但實際上，并沒有理由相信人工智能會獲得意識，因為智能和意識是天差地别的兩種概念。
智能是解決問題的能力，意識則是能夠感受痛苦、喜悅、愛和憤怒等事物的能力。
我們之所以會兩者不分，是因為對人類和其他哺乳動物來說，智能與意識會攜手同行。
哺乳動物處理大多數問題時靠的是“感覺”，但計算機會用完全不同的方式來解決問題。
提高智能的路其實有好幾條，其中隻有一條需要靠意識。
就像飛機不用發展出羽毛，但飛行速度卻比鳥更快，計算機也不用發展出哺乳動物所需要的感受，就能比哺乳動物更會解決問題。
确實，人工智能必須準确分析人類的感受，才能好好替人類治病、找出人類的恐怖分子、為人類推薦另一半、在滿是行人的街道上行車，但是這一切并不需要它自己有任何感覺。
算法隻需要學會辨别猿類在快樂、憤怒或恐懼下的生化模式，而不需要它自己感受到快樂、憤怒或恐懼。
當然，人工智能并不是絕對不可能發展出感受。
我們目前對意識的了解還不足以完全下定論，大緻而言，需要考慮三種可能： 1.意識在某種程度上與有機生化相關，因此隻要是非有機體的系統，就不可能創造出意識。
2.意識與有機生化無關，而與智能有關。
這樣一來，計算機就能夠發展出意識，而且如果計算機要跨過某種智能門檻，就必須發展出意識。
3.意識與有機生化或高智能并無重要關聯。
這樣一來，計算機确實可能發展出意識，但并非絕對。
計算機有可能具備極高的智能，但同時仍然完全不具有意識。
就目前人類具有的知識來看，這些可能都無法排除。
然而，正因為我們對意識所知太少，短時間内似乎并不可能設計出有意識的計算機。
因此，雖然人工智能具有巨大的力量，但在可預見的未來，人工智能的運用在一定程度上還是以人類的意識為準。
這裡的危險在于，如果我們太注重發展人工智能而又太不注意發展人類的意識，那麼計算機有了極先進的人工智能之後，可能隻會增強人類的“自然愚蠢”。
在未來幾十年内，我們不太可能碰到機器人叛亂的問題，但機器人可能會比你的父母更知道怎樣可以觸動你的情緒，并且會運用這種神奇的能力來對你進行推銷，讓你想買某輛車、想把選票投給某個人，或是想接受某種意識形态。
這些機器人能夠找出我們最深層的恐懼、仇恨和渴望，再用它們來對付我們。
從最近全球的選舉和公投就可以預見未來：黑客通過分析選民數據，運用選民現有的偏見，就能知道怎樣操縱單個選民。
科幻驚悚片常常上演的是烈火濃煙、轟轟烈烈的末日景象，但實際上，末日景象可能是在一次又一次的點擊當中悄悄而且平凡地來臨。
想避免這種結果，每投入一美元、一分鐘來提升人工智能，就應該同樣投入一美元、一分鐘來提升人類意識。
但很遺憾，目前對于人類意識的研究和開發并不多。
我們對于人類能力的研發，主要都是為了滿足目前經濟和政治體制的迫切需求，而不是為了讓人類在很久之後仍然是一種保有意識的生物。
上司希望我回複電子郵件越快越好，但他對于我品嘗和欣賞食物的能力毫無興趣。
結果就是我連吃飯的時候都在收電子郵件，也就慢慢失去了重視自己感官感受的能力。
整個經濟體系逼着我要擴大投資組合、讓投資更多元，但完全沒讓我有動機去擴大同理心，讓我的同理心更多元。
于是，我投入大量心力想了解證券交易的種種奧秘，但幾乎不花什麼心思來了解痛苦背後有什麼深層成因。
在此，人類就像是其他經過馴化的家畜。
例如我們培育的奶牛，性情溫順，乳量驚人，但在其他方面遠遠不及其野生祖先，沒那麼靈活，沒那麼好奇，也沒那麼懂得變通。
我們現在也正在培育一種馴化的人類，産生的數據量驚人，而且能夠像海量數據處理裝置中的高效芯片一樣運轉，然而這些“數據牛”絕對稱不上是發揮了人類的最大潛能。
事實上，因為我們還太不了解人類的心智，根本無從得知人類的最大潛能是什麼模樣。
然而，我們幾乎沒有投入什麼心力來探索人類的心智，隻一心想着提升網絡連接的速度及大數據算法的效率。
如果再不注意，最後的局面就會是退化的人類濫用進化的計算機，傷害自己，也傷害世界。
未來的危險還不止數字獨裁一項。
自由主義秩序背後的價值觀除了自由之外，也很重視平等。
自由主義一直強調政治上的平等，也慢慢發現經濟上的平等幾乎同樣重要。
如果沒有社會安全網的機制與一定的經濟平等，自由就毫無意義。
然而，正因為大數據算法可能會抹去自由，同時也就可能創造出曆史上最不平等的社會，讓所有的财富和權力集中在一小群精英手中。
大多數人類的痛苦将不再是受到剝削，而是更糟的局面：再也無足輕重。
鑒于20世紀的科技水平，把太多信息和權力都集中在一個地方并不是有效率的做法。
在當時，沒有人能夠及時處理完所有信息，并做出正确決定。
這也就成了蘇聯做出的決策水平遠低于美國，蘇聯經濟遠遠落後于美國經濟的部分原因。
然而，人工智能很快就會讓鐘擺擺向相反的方向。
有了人工智能，就能集中處理大量的信息，甚至因為機器學習在分析越多信息之後效果越好，所以人工智能可能會讓集中式系統比分布式系統效率更高。
在不考慮任何隐私問題的前提下，在一個數據庫裡就擁有10億人的完整信息，絕對會比隻有100萬人的部分信息更能訓練出優秀的算法。
舉例來說，如果有某個專制政府要求所有公民進行DNA掃描，再将所有醫療數據提供給中央機構，這時比起那些醫療數據需要嚴格保密的社會，專制政府就能掌握遺傳學和醫學研究的巨大優勢。
一心想把信息集中，在20世紀曾是專制政權的主要弱點，但到了21世紀卻可能成為決定性的優勢。
随着算法變得如此了解我們，某些政權能夠對公民進行絕對的控制，程度甚至超過納粹德國，而且公民可能完全無力抵抗。
這種政權不僅能明确掌握你的感受，甚至還能控制你的感受。
我們并不會回歸到希特勒的時代。
數字獨裁和納粹德國之間的差異，可能就像納粹德國與法國舊制度的差異一樣巨大。
路易十四也是個集權的獨裁者，但當時并沒有足以建立現代極權主義國家的科技。
雖然他的統治并未受到抵抗，但當時既沒有收音機，也沒有電話和火車，他也就很難掌控布列塔尼某個偏遠鄉村的農民甚至巴黎市中心市民的日常生活。
當時不論在意願還是能力上，他都不可能建立群衆政黨、全國青年運動組織或國家教育體系。
是因為20世紀出現了新科技，才讓希特勒有了做這些事的動機和能力。
我們無法預測2084年的數字獨裁政權會有怎樣的動機和能力，但要說他們想成為另一個希特勒，是不太可能的。
如果有人打算用20世紀30年代的方式來重新打這場仗，有可能會遇到完全出乎意料的攻擊，令他們措手不及。
就算民主制度成功适應調整而生存下來，人民也可能遭受到新形态的壓迫和歧視。
現在，已經有越來越多的銀行、企業和機構運用算法來分析數據，做出與我們相關的決定。
你向銀行申請貸款的時候，申請單很可能是由算法處理的，而不是由人類審核的。
算法分析你的大量資料和其他幾百萬人的統計數據，據以決定你是否可靠，該不該給你提供貸款。
一般來說，算法此時會比人類銀行職員表現更佳。
但問題在于，如果算法裡藏着某種不公，我們将很難察覺。
如果銀行拒絕給你貸款，你問：“為什麼？”銀行會說：“算法說不行。
”但你再問：“為什麼算法說不行？我哪裡有問題？”銀行會說：“我們也不知道。
沒人知道這套算法背後的道理，總之就是一套先進機器學習的結果。
我們相信我們的算法，所以不會貸款給你。
” 如果被歧視的是某個群體（例如婦女或黑人），這些群體能夠組織起來，抗議他們集體遭到歧視。
然而，現在算法歧視的有可能就是你這個人，而你完全不知道原因。
有可能是你的DNA、你的過去或者臉譜網賬号上有些什麼，引起了算法的注意。
算法歧視你，并非因為你是個女性或黑人，而是因為你就是你。
就是有些什麼關于你的特質，算法不喜歡。
你不知道究竟是什麼特質，就算你知道，也找不到人和你一起大聲抗議，因為沒有其他人會遇到與你一樣的偏見，隻有你。
到了21世紀，除了過去的集體歧視之外，我們可能還要面臨日益嚴重的個人歧視問題。
在最高的權力階層可能還會有幾個人類，這讓我們有個錯覺，以為算法隻是顧問，最終的權威還是掌握在人類手中。
我們不會任命某個人工智能來擔任德國總理或谷歌的首席執行官，但那位總理和首席執行官的決策會由人工智能制定。
總理手中會有幾個不同的選項，但所有選項都會是大數據分析的結果，反映的也是人工智能看世界的方式，而非人類看世界的方式。
讓我們舉個類似的例子：今天世界各地的政治家似乎可以在各種不同的經濟政策之間做選擇，政治家有種以為自己可以選的錯覺，但真正重要的決定早就由經濟學家、金融專家和商人在提出選項時就做完了。
也就是說，是他們為政治家定下了選擇的方向。
而再過幾十年，就可能是由人工智能來提出選項，供政治家進行挑選了。
人工智能和自然愚蠢 一個好消息是，至少在未來幾十年裡，我們不用擔心科幻小說裡那種人工智能産生意識、殺光或奴役人類的噩夢。
我們會越來越依賴算法為我們做決定，但算法并不太可能開始有意識地操縱人類。
事實上，它們不會有任何意識。
科幻小說常把智能與意識混為一談，并認為如果要有與人類相當甚至更高的智能，計算機就必須發展出意識。
幾乎所有關于人工智能的電影和小說，基本情節都圍繞着計算機或機器人産生意識的那個神奇時刻。
而一旦它們有了意識，不是人類主角愛上機器人，就是機器人打算殺光所有人類，或者二者兼而有之。
但實際上，并沒有理由相信人工智能會獲得意識，因為智能和意識是天差地别的兩種概念。
智能是解決問題的能力，意識則是能夠感受痛苦、喜悅、愛和憤怒等事物的能力。
我們之所以會兩者不分，是因為對人類和其他哺乳動物來說，智能與意識會攜手同行。
哺乳動物處理大多數問題時靠的是“感覺”，但計算機會用完全不同的方式來解決問題。
提高智能的路其實有好幾條，其中隻有一條需要靠意識。
就像飛機不用發展出羽毛，但飛行速度卻比鳥更快，計算機也不用發展出哺乳動物所需要的感受，就能比哺乳動物更會解決問題。
确實，人工智能必須準确分析人類的感受，才能好好替人類治病、找出人類的恐怖分子、為人類推薦另一半、在滿是行人的街道上行車，但是這一切并不需要它自己有任何感覺。
算法隻需要學會辨别猿類在快樂、憤怒或恐懼下的生化模式，而不需要它自己感受到快樂、憤怒或恐懼。
當然，人工智能并不是絕對不可能發展出感受。
我們目前對意識的了解還不足以完全下定論，大緻而言，需要考慮三種可能： 1.意識在某種程度上與有機生化相關，因此隻要是非有機體的系統，就不可能創造出意識。
2.意識與有機生化無關，而與智能有關。
這樣一來，計算機就能夠發展出意識，而且如果計算機要跨過某種智能門檻，就必須發展出意識。
3.意識與有機生化或高智能并無重要關聯。
這樣一來，計算機确實可能發展出意識，但并非絕對。
計算機有可能具備極高的智能，但同時仍然完全不具有意識。
就目前人類具有的知識來看，這些可能都無法排除。
然而，正因為我們對意識所知太少，短時間内似乎并不可能設計出有意識的計算機。
因此，雖然人工智能具有巨大的力量，但在可預見的未來，人工智能的運用在一定程度上還是以人類的意識為準。
這裡的危險在于，如果我們太注重發展人工智能而又太不注意發展人類的意識，那麼計算機有了極先進的人工智能之後，可能隻會增強人類的“自然愚蠢”。
在未來幾十年内，我們不太可能碰到機器人叛亂的問題，但機器人可能會比你的父母更知道怎樣可以觸動你的情緒，并且會運用這種神奇的能力來對你進行推銷，讓你想買某輛車、想把選票投給某個人，或是想接受某種意識形态。
這些機器人能夠找出我們最深層的恐懼、仇恨和渴望，再用它們來對付我們。
從最近全球的選舉和公投就可以預見未來：黑客通過分析選民數據，運用選民現有的偏見，就能知道怎樣操縱單個選民。
科幻驚悚片常常上演的是烈火濃煙、轟轟烈烈的末日景象，但實際上，末日景象可能是在一次又一次的點擊當中悄悄而且平凡地來臨。
想避免這種結果，每投入一美元、一分鐘來提升人工智能，就應該同樣投入一美元、一分鐘來提升人類意識。
但很遺憾，目前對于人類意識的研究和開發并不多。
我們對于人類能力的研發，主要都是為了滿足目前經濟和政治體制的迫切需求，而不是為了讓人類在很久之後仍然是一種保有意識的生物。
上司希望我回複電子郵件越快越好，但他對于我品嘗和欣賞食物的能力毫無興趣。
結果就是我連吃飯的時候都在收電子郵件，也就慢慢失去了重視自己感官感受的能力。
整個經濟體系逼着我要擴大投資組合、讓投資更多元，但完全沒讓我有動機去擴大同理心，讓我的同理心更多元。
于是，我投入大量心力想了解證券交易的種種奧秘，但幾乎不花什麼心思來了解痛苦背後有什麼深層成因。
在此，人類就像是其他經過馴化的家畜。
例如我們培育的奶牛，性情溫順，乳量驚人，但在其他方面遠遠不及其野生祖先，沒那麼靈活，沒那麼好奇，也沒那麼懂得變通。
我們現在也正在培育一種馴化的人類，産生的數據量驚人，而且能夠像海量數據處理裝置中的高效芯片一樣運轉，然而這些“數據牛”絕對稱不上是發揮了人類的最大潛能。
事實上，因為我們還太不了解人類的心智，根本無從得知人類的最大潛能是什麼模樣。
然而，我們幾乎沒有投入什麼心力來探索人類的心智，隻一心想着提升網絡連接的速度及大數據算法的效率。
如果再不注意，最後的局面就會是退化的人類濫用進化的計算機，傷害自己，也傷害世界。
未來的危險還不止數字獨裁一項。
自由主義秩序背後的價值觀除了自由之外，也很重視平等。
自由主義一直強調政治上的平等，也慢慢發現經濟上的平等幾乎同樣重要。
如果沒有社會安全網的機制與一定的經濟平等，自由就毫無意義。
然而，正因為大數據算法可能會抹去自由，同時也就可能創造出曆史上最不平等的社會，讓所有的财富和權力集中在一小群精英手中。
大多數人類的痛苦将不再是受到剝削，而是更糟的局面：再也無足輕重。