第3章 自由：數據霸...
關燈
小
中
大
是生物傳感器。
在人們将它們穿戴上或植入人體之後，生物傳感器就能将各種生物程序轉換成計算機能夠存儲、分析的電子信息。
隻要有了足夠的生物統計數據及運算能力，外部的數據處理系統就能進入你的身體，得知你所有的欲望、決定和意見。
換言之，它們能夠完全知道你是怎樣的人。
大多數人并不太了解自己。
我是到了21歲，才終于走出幾年的自我否認，意識到自己是同性戀。
而我絕非特例，許多同性戀男性在整個青少年時期都無法肯定自己的性取向。
現在想象一下2050年的情況，或許有算法可以告訴青少年他位于同性戀（或異性戀）光譜的哪個位置（甚至還能告訴他這個位置有多容易受影響而移動）。
或許，這個算法會先顯示出一些性感男女的照片或影片，再追蹤你的眼球移動、血壓和大腦活動，隻要短短的5分鐘，就能找出你在金賽量表上的數字。
如果早有這種程序，我就不用那麼多年都活得如此受挫了。
或許你并不想做這種測試，但有那麼一天，你和一群朋友一起去參加另一個朋友的無聊生日派對，有人提議所有人都來玩玩這個超酷的新算法。
做測試的時候所有人都在圍觀，還會對結果七嘴八舌，你要直接掉頭走人嗎？ 就算你真的掉頭離開，繼續躲着自己、躲着同學，你也躲不過亞馬遜、阿裡巴巴或秘密警察。
每當你浏覽網站、看YouTube視頻、閱讀社交媒體的動态，算法都會偷偷監控你、分析你，再告訴可口可樂公司，如果要賣給你碳酸飲料，該用的廣告模特兒是擁有8塊腹肌的猛男，而不是身材火辣的美女。
你對這些完全一無所知，但它們對這一切卻了如指掌，而且這些信息可以賣幾十億美元。
但同樣，或許這一切将會是完全公開的事，所有人心甘情願地分享自己的信息，以獲得更好的建議，最後直接讓算法為他們做出決定。
一開始隻是些簡單的事，比如該看哪部電影。
打算和一群朋友一起坐在電視機前，共度一個愉快的晚上嗎？首先就要決定看哪部電影。
或許在50年前你别無選擇，但今天有了各種随選即看的服務，足足有幾千部電影任你挑選。
這下要讓大家意見一緻就難了，可能有人喜歡科幻驚悚片，有人喜歡浪漫喜劇片，有人又說要看法國藝術片。
到頭來妥協的結果，可能就是挑了某部無聊的B級電影，人人都不滿意。
此時算法可以派上用場。
隻要告訴它，你們每個人以前最愛看的是哪幾部電影，算法就能根據其龐大的統計數據庫，找出最适合你們這群人的完美電影。
但遺憾的是，這樣的算法還太粗糙，容易出錯，特别是大家都知道，自己說喜歡什麼，常常并不能反映出你真正的喜好。
常有的事情是，我們聽到很多人說某部影片真是神作，覺得不看不行，結果自己看到一半就睡到不省人事，但事後覺得可不能讓人認為自己是個俗人，所以還是要向大家聲稱這部片子真是太好看了。
這種問題也是可以解決的：與其根據我們自己提供的不可靠信息做決定，不如允許算法在我們看電影的時候收集實時數據。
算法可以直截了當地監控我們看完了哪些電影，又有哪些是中途就放棄了的。
就算我們告訴所有人《亂世佳人》（GoneWiththeWind）真是史上最棒的電影，但算法知道我們從來就沒能觀看此片超過半小時，根本沒看過片尾亞特蘭大陷入火海的場景。
算法能做的遠遠不止這些。
工程師正在研發軟件，希望能通過人類眼部及臉部肌肉的動作來監測情緒。
這樣一來，隻要在電視機上再裝一個足夠好的攝像頭，這種軟件就能知道哪些場景讓我們發笑，哪些場景使我們哀傷，又有哪些場景令我們感到無聊。
再進一步的做法，如果算法能夠與生物傳感器連接，算法就能知道每個畫面如何影響我們的心跳、血壓和大腦活動。
假設我們看着昆汀·塔倫蒂諾（QuentinTarantino）的《低俗小說》（PulpFiction），算法可能會發現，那個強奸場景讓我們起了一點兒難以察覺的性興奮；文森特不小心一槍爆了馬文的頭，我們知道不該笑，但都笑了；還有那個關于大魔法師漢堡（BigKahunaBurger）的笑話，其實我們看不懂，但都趕快跟着笑，以免被别人發現。
人在假笑的時候，運用的大腦回路和肌肉其實和真心大笑不同，雖然人類通常察覺不到，但這個細節生物傳感器可不會放過。
英文單詞“television”（電視）的語源，分别來自希臘文的tele（遠），以及拉丁文的visio（視界），原本是要讓我們可以看到遠方的事物，但很快就可能是讓别人從遠方看見我們。
正如喬治·奧威爾（GeorgeOrwell）在《一九八四》中的想象，我們看着電視的時候，電視也正看着我們。
等到我們把整部《低俗小說》看完之後，可能早就忘了大半情節。
然而，網飛（Netflix）、亞馬遜或任何擁有這套電視算法的人，将會知道我們的性格類型，也知道怎樣能觸動我們的情緒。
有了這些數據，網飛和亞馬遜除了能幫我們挑片挑得精準無比，更能夠為我們做出人生中最重要的決定，比如該讀什麼專業、在哪裡工作、和誰結婚。
當然，要求亞馬遜永遠不犯錯，那是不可能的事。
不管是因為數據不足、程序錯誤、目标定義不明，還是生命本來就是一團混亂，總之各家算法一定會時不時犯下各種錯誤。
然而，亞馬遜并不需要做到完美，隻要能比我們這些人類強就行了。
而且這并不難，因為大多數人并不太了解自己，也總是在做人生最重要的決定時犯下可怕的錯誤。
比起算法，人類因為數據不足、程序錯誤（基因或文化上）、目标定義不明、生命一團混亂而犯下錯誤的機會，實在有過之而無不及。
誰都可以列出算法面臨的許許多多問題，并由此得出結論：人類永遠不會信任算法。
這有點兒像列出民主的所有弊端，然後得出結論：任何一個有理智的人都不會支持這種制度。
丘吉爾曾有一句名言，說除了其他所有制度之外，民主是全世界最糟糕的政治制度。
不論是對是錯，人類都可能對大數據算法得到相同的結論：雖然算法漏洞百出，但我們并沒有更好的選擇。
随着科學家越來越了解人類的決策機制，對算法的依賴可能也會越來越強烈。
掌握人類的決策機制之後，就能提升大數據算法的可靠性，但同時也降低了人類感受的可靠性。
而當政府和企業都能夠成功進入我們這套人體操作系統時，人類就将面臨鋪天蓋地的種種精準操縱、廣告和宣傳。
到時候，要操縱我們的觀點和情緒将非常簡單，于是我們也不得不依賴算法來反制，就像飛行員一旦因為眩暈而産生空間迷向，就不能再相信自己的感官，而必須全然相信儀器。
在某些國家和某些情況下，人們可能完全沒有選擇，隻能被迫服從大數據算法的決定。
然而，就算是在理論上自由的社會裡，算法也可能成為權威，因為經驗讓我們把越來越多的問題交給算法來處理，最後也就逐漸失去為自己做決定的能力。
隻要簡單回想一下，短短不到20年，就已經有幾十億人把一件可以說是最重要的任務全然交付給了谷歌搜索算法：搜索相關、可信賴的信息。
我們不再自己去搜索信息，而是都靠“谷歌一下”。
而随着我們越來越依賴谷歌來尋找答案，自己搜索信息的能力就會下降。
今日的“真相”，已經是由谷歌搜索排名最靠前的結果來定義。
人類的身體能力也正在發生這種情況。
以找路為例，現在已經有很多人用谷歌來導航。
到了十字路口，雖然直覺可能是讓他們左轉，但谷歌地圖說右轉。
在過去，他們大概會聽從直覺，結果一左轉就遇上堵車，最後錯過了重要會議。
于是，下一次他們決定聽谷歌的，向右轉，并且準時到達目的地。
就這樣，他們從經驗中學會了要相信谷歌。
一兩年後，他們已經習慣了盲目遵照谷歌地圖的指示，如果智能手機死機，他們将完全手足無措。
2012年3月，三名在澳大利亞旅遊的日本遊客決定到一個小島上一日遊，結果卻把車一頭開進了太平洋。
21歲的司機野田後來說，她隻是按照GPS（全球定位系統）的指示開車，“GPS說我們可以開過去，它一直說會把我們帶到一條路上。
然後我們就開進了海裡”。
還有很多類似的例子，有人沖進湖裡，有人栽到橋下，顯然都是開車的時候太聽GPS的話。
找路的能力就像肌肉，用進廢退。
選擇伴侶或選擇從事哪個職業的能力，也是如此。
每年都有幾百萬名年輕人要決定大學讀什麼專業。
這是個既重要又困難的決定。
父母、朋友和師長各有想法，讓你深感壓力，而且，你還有自己背負的恐懼和想象。
你的判斷力受到各種好萊塢大片、垃圾小說和高明的廣告活動的籠罩和操縱。
要做個明智的抉擇真的很難，尤其是你根本不知道想在不同的行業出人頭地，到底需要什麼條件。
而且，你真的清楚自己的長處和短處嗎？優秀的律師要具備什麼條件？我能面對壓力嗎？我有團隊合作精神嗎？ 一個學生之所以去學法律，有可能是因為對自己的能力不夠了解，甚至可能是因為對律師工作有錯誤的想象（律師可不會每天上演慷慨激昂的辯論，一再高喊：“我反對，法官大人！”）。
與此同時，她的朋友決定實現童年的夢想，雖然身體條件不佳，也缺乏自律，但還是進了專業芭蕾舞學校。
幾年後，這兩個人都非常後悔。
但在未來，或許我們就能靠谷歌來為我們做出這些決定。
谷歌會告訴我，我上法學院或芭蕾舞學校就是浪費時間，但如果當個心理學家或水電工，将會非常出色（而且非常快樂）。
一旦人工智能比我們自己更清楚該選擇哪個職業，甚至怎樣處理人際關系，我們對人性和生命的概念将不得不改變。
人類習慣把生命看成一場由一連串的抉擇構成的大戲。
在自由民主主義和自由市場資本主義眼中，每個個體都是自主的行動者，不斷對世界做出各種選擇。
衆多文藝作品（無論是莎士比亞的戲劇、簡·奧斯丁的小說，還是濫俗的好萊塢喜劇），通常講的都是某個英雄做了什麼特别重要的決定。
哈姆雷特問：生存還是毀滅？麥克白問：是聽從妻子的話刺殺
在人們将它們穿戴上或植入人體之後，生物傳感器就能将各種生物程序轉換成計算機能夠存儲、分析的電子信息。
隻要有了足夠的生物統計數據及運算能力，外部的數據處理系統就能進入你的身體，得知你所有的欲望、決定和意見。
換言之，它們能夠完全知道你是怎樣的人。
大多數人并不太了解自己。
我是到了21歲，才終于走出幾年的自我否認，意識到自己是同性戀。
而我絕非特例，許多同性戀男性在整個青少年時期都無法肯定自己的性取向。
現在想象一下2050年的情況，或許有算法可以告訴青少年他位于同性戀（或異性戀）光譜的哪個位置（甚至還能告訴他這個位置有多容易受影響而移動）。
或許，這個算法會先顯示出一些性感男女的照片或影片，再追蹤你的眼球移動、血壓和大腦活動，隻要短短的5分鐘，就能找出你在金賽量表上的數字。
如果早有這種程序，我就不用那麼多年都活得如此受挫了。
或許你并不想做這種測試，但有那麼一天，你和一群朋友一起去參加另一個朋友的無聊生日派對，有人提議所有人都來玩玩這個超酷的新算法。
做測試的時候所有人都在圍觀，還會對結果七嘴八舌，你要直接掉頭走人嗎？ 就算你真的掉頭離開，繼續躲着自己、躲着同學，你也躲不過亞馬遜、阿裡巴巴或秘密警察。
每當你浏覽網站、看YouTube視頻、閱讀社交媒體的動态，算法都會偷偷監控你、分析你，再告訴可口可樂公司，如果要賣給你碳酸飲料，該用的廣告模特兒是擁有8塊腹肌的猛男，而不是身材火辣的美女。
你對這些完全一無所知，但它們對這一切卻了如指掌，而且這些信息可以賣幾十億美元。
但同樣，或許這一切将會是完全公開的事，所有人心甘情願地分享自己的信息，以獲得更好的建議，最後直接讓算法為他們做出決定。
一開始隻是些簡單的事，比如該看哪部電影。
打算和一群朋友一起坐在電視機前，共度一個愉快的晚上嗎？首先就要決定看哪部電影。
或許在50年前你别無選擇，但今天有了各種随選即看的服務，足足有幾千部電影任你挑選。
這下要讓大家意見一緻就難了，可能有人喜歡科幻驚悚片，有人喜歡浪漫喜劇片，有人又說要看法國藝術片。
到頭來妥協的結果，可能就是挑了某部無聊的B級電影，人人都不滿意。
此時算法可以派上用場。
隻要告訴它，你們每個人以前最愛看的是哪幾部電影，算法就能根據其龐大的統計數據庫，找出最适合你們這群人的完美電影。
但遺憾的是，這樣的算法還太粗糙，容易出錯，特别是大家都知道，自己說喜歡什麼，常常并不能反映出你真正的喜好。
常有的事情是，我們聽到很多人說某部影片真是神作，覺得不看不行，結果自己看到一半就睡到不省人事，但事後覺得可不能讓人認為自己是個俗人，所以還是要向大家聲稱這部片子真是太好看了。
這種問題也是可以解決的：與其根據我們自己提供的不可靠信息做決定，不如允許算法在我們看電影的時候收集實時數據。
算法可以直截了當地監控我們看完了哪些電影，又有哪些是中途就放棄了的。
就算我們告訴所有人《亂世佳人》（GoneWiththeWind）真是史上最棒的電影，但算法知道我們從來就沒能觀看此片超過半小時，根本沒看過片尾亞特蘭大陷入火海的場景。
算法能做的遠遠不止這些。
工程師正在研發軟件，希望能通過人類眼部及臉部肌肉的動作來監測情緒。
這樣一來，隻要在電視機上再裝一個足夠好的攝像頭，這種軟件就能知道哪些場景讓我們發笑，哪些場景使我們哀傷，又有哪些場景令我們感到無聊。
再進一步的做法，如果算法能夠與生物傳感器連接，算法就能知道每個畫面如何影響我們的心跳、血壓和大腦活動。
假設我們看着昆汀·塔倫蒂諾（QuentinTarantino）的《低俗小說》（PulpFiction），算法可能會發現，那個強奸場景讓我們起了一點兒難以察覺的性興奮；文森特不小心一槍爆了馬文的頭，我們知道不該笑，但都笑了；還有那個關于大魔法師漢堡（BigKahunaBurger）的笑話，其實我們看不懂，但都趕快跟着笑，以免被别人發現。
人在假笑的時候，運用的大腦回路和肌肉其實和真心大笑不同，雖然人類通常察覺不到，但這個細節生物傳感器可不會放過。
英文單詞“television”（電視）的語源，分别來自希臘文的tele（遠），以及拉丁文的visio（視界），原本是要讓我們可以看到遠方的事物，但很快就可能是讓别人從遠方看見我們。
正如喬治·奧威爾（GeorgeOrwell）在《一九八四》中的想象，我們看着電視的時候，電視也正看着我們。
等到我們把整部《低俗小說》看完之後，可能早就忘了大半情節。
然而，網飛（Netflix）、亞馬遜或任何擁有這套電視算法的人，将會知道我們的性格類型，也知道怎樣能觸動我們的情緒。
有了這些數據，網飛和亞馬遜除了能幫我們挑片挑得精準無比，更能夠為我們做出人生中最重要的決定，比如該讀什麼專業、在哪裡工作、和誰結婚。
當然，要求亞馬遜永遠不犯錯，那是不可能的事。
不管是因為數據不足、程序錯誤、目标定義不明，還是生命本來就是一團混亂，總之各家算法一定會時不時犯下各種錯誤。
然而，亞馬遜并不需要做到完美，隻要能比我們這些人類強就行了。
而且這并不難，因為大多數人并不太了解自己，也總是在做人生最重要的決定時犯下可怕的錯誤。
比起算法，人類因為數據不足、程序錯誤（基因或文化上）、目标定義不明、生命一團混亂而犯下錯誤的機會，實在有過之而無不及。
誰都可以列出算法面臨的許許多多問題，并由此得出結論：人類永遠不會信任算法。
這有點兒像列出民主的所有弊端，然後得出結論：任何一個有理智的人都不會支持這種制度。
丘吉爾曾有一句名言，說除了其他所有制度之外，民主是全世界最糟糕的政治制度。
不論是對是錯，人類都可能對大數據算法得到相同的結論：雖然算法漏洞百出，但我們并沒有更好的選擇。
随着科學家越來越了解人類的決策機制，對算法的依賴可能也會越來越強烈。
掌握人類的決策機制之後，就能提升大數據算法的可靠性，但同時也降低了人類感受的可靠性。
而當政府和企業都能夠成功進入我們這套人體操作系統時，人類就将面臨鋪天蓋地的種種精準操縱、廣告和宣傳。
到時候，要操縱我們的觀點和情緒将非常簡單，于是我們也不得不依賴算法來反制，就像飛行員一旦因為眩暈而産生空間迷向，就不能再相信自己的感官，而必須全然相信儀器。
在某些國家和某些情況下，人們可能完全沒有選擇，隻能被迫服從大數據算法的決定。
然而，就算是在理論上自由的社會裡，算法也可能成為權威，因為經驗讓我們把越來越多的問題交給算法來處理，最後也就逐漸失去為自己做決定的能力。
隻要簡單回想一下，短短不到20年，就已經有幾十億人把一件可以說是最重要的任務全然交付給了谷歌搜索算法：搜索相關、可信賴的信息。
我們不再自己去搜索信息，而是都靠“谷歌一下”。
而随着我們越來越依賴谷歌來尋找答案，自己搜索信息的能力就會下降。
今日的“真相”，已經是由谷歌搜索排名最靠前的結果來定義。
人類的身體能力也正在發生這種情況。
以找路為例，現在已經有很多人用谷歌來導航。
到了十字路口，雖然直覺可能是讓他們左轉，但谷歌地圖說右轉。
在過去，他們大概會聽從直覺，結果一左轉就遇上堵車，最後錯過了重要會議。
于是，下一次他們決定聽谷歌的，向右轉，并且準時到達目的地。
就這樣，他們從經驗中學會了要相信谷歌。
一兩年後，他們已經習慣了盲目遵照谷歌地圖的指示，如果智能手機死機，他們将完全手足無措。
2012年3月，三名在澳大利亞旅遊的日本遊客決定到一個小島上一日遊，結果卻把車一頭開進了太平洋。
21歲的司機野田後來說，她隻是按照GPS（全球定位系統）的指示開車，“GPS說我們可以開過去，它一直說會把我們帶到一條路上。
然後我們就開進了海裡”。
還有很多類似的例子，有人沖進湖裡，有人栽到橋下，顯然都是開車的時候太聽GPS的話。
找路的能力就像肌肉，用進廢退。
選擇伴侶或選擇從事哪個職業的能力，也是如此。
每年都有幾百萬名年輕人要決定大學讀什麼專業。
這是個既重要又困難的決定。
父母、朋友和師長各有想法，讓你深感壓力，而且，你還有自己背負的恐懼和想象。
你的判斷力受到各種好萊塢大片、垃圾小說和高明的廣告活動的籠罩和操縱。
要做個明智的抉擇真的很難，尤其是你根本不知道想在不同的行業出人頭地，到底需要什麼條件。
而且，你真的清楚自己的長處和短處嗎？優秀的律師要具備什麼條件？我能面對壓力嗎？我有團隊合作精神嗎？ 一個學生之所以去學法律，有可能是因為對自己的能力不夠了解，甚至可能是因為對律師工作有錯誤的想象（律師可不會每天上演慷慨激昂的辯論，一再高喊：“我反對，法官大人！”）。
與此同時，她的朋友決定實現童年的夢想，雖然身體條件不佳，也缺乏自律，但還是進了專業芭蕾舞學校。
幾年後，這兩個人都非常後悔。
但在未來，或許我們就能靠谷歌來為我們做出這些決定。
谷歌會告訴我，我上法學院或芭蕾舞學校就是浪費時間，但如果當個心理學家或水電工，将會非常出色（而且非常快樂）。
一旦人工智能比我們自己更清楚該選擇哪個職業，甚至怎樣處理人際關系，我們對人性和生命的概念将不得不改變。
人類習慣把生命看成一場由一連串的抉擇構成的大戲。
在自由民主主義和自由市場資本主義眼中，每個個體都是自主的行動者，不斷對世界做出各種選擇。
衆多文藝作品（無論是莎士比亞的戲劇、簡·奧斯丁的小說，還是濫俗的好萊塢喜劇），通常講的都是某個英雄做了什麼特别重要的決定。
哈姆雷特問：生存還是毀滅？麥克白問：是聽從妻子的話刺殺