第3章 自由：數據霸...
關燈
小
中
大
直接生産兩款自動駕駛汽車：特斯拉“利他”款和特斯拉“自我”款。
遇到緊急狀況的時候，“利他”款會為了整體利益而犧牲主人；“自我”款則會不顧一切保護主人，撞死兩個小孩也在所不惜。
至于消費者，則可以根據自己偏好的哲學觀來選車。
這樣一來，如果多數人買了特斯拉“自我”款，你也不能怪特斯拉。
畢竟，顧客永遠是對的。
這可不是開玩笑。
在2015年一項開先河的研究中，研究人員請參與者假想自動駕駛汽車即将撞到幾個路人的情景。
大多數參與者都認為，就算可能會犧牲車主，自動駕駛汽車還是應該保全那幾個路人的生命。
隻是，等到再問他們會不會買一部設定為“犧牲車主、顧全整體利益”的車時，大多數人都說“不”。
如果涉及自身，他們還是比較喜歡特斯拉“自我”款。
想象一下這個情境：你買了一輛新車，但啟用之前得先打開設置菜單，勾選一個選項——如果發生事故，你是希望這輛車犧牲你的性命，還是犧牲另一輛車上那家人的性命。
你真的想要做這個選擇嗎？想想看，如果真選了其中某個選項，家裡人會不會和你大吵一架？ 所以，是不是該由國家介入，規範市場，直接制定一套所有自動駕駛汽車都必須遵守的倫理準則？肯定會有某些立法者興奮不已，畢竟終于有機會寫出真的大家都會乖乖遵守的法律了。
但也有某些立法者會深感不安，因為這背後代表的是要負起前所未有甚至是極權主義的責任。
畢竟在曆史上，幸好法律的實施必然有其局限性，也就能制衡立法時的種種偏見、錯誤和過度。
各種反同性戀、反亵渎神祇的法律都從未全面實施，實在是非常幸運。
而看着政治人物時不時地犯錯，我們是否真的希望有這樣一套制度系統，會把他們的決定徹底貫徹，像重力一樣無所不在？ 數字獨裁 很多人之所以害怕人工智能，是因為他們不相信人工智能會一直聽話順從。
已經有太多描寫機器人反抗人類主人，在大街上四處亂竄、恣意屠殺的科幻小說和電影。
然而，機器人可能帶來的問題其實恰恰相反。
我們是該害怕機器人，但原因是它們永遠隻會服從主人，絕不反抗。
當然，盲目聽從沒有什麼問題，但前提是主人得是個好人。
在戰場上，如果交戰雙方全用殺手機器人上場，就能确保這是曆史上第一次真正遵守戰争法的戰役。
人類士兵可能一時受到情緒影響，就犯下謀殺、強盜、強奸等違犯戰争法的罪行。
講到情緒，我們通常想到的是愛心、同情心和同理心，但在戰場上，控制着人的情緒的往往是殘酷、仇恨和恐懼。
由于機器人沒有情緒，就能放心地相信它們會一字一句遵守所有軍事規章，永遠不受個人恐懼和仇恨的影響。
1968年3月16日，一群美國士兵在越南南部的美萊村的行動變調，他們陷入瘋狂，屠殺了大約400名平民。
這起戰争罪行的起源，是當時士兵已經打了好幾個月的叢林遊擊戰，他們自行在當地做了這個決定。
這個行動沒有任何戰略目的，同時違犯了美國的法律規定與軍事政策。
這是一場出于人類情緒影響的錯誤。
如果美國當時在越南派的是機器人殺手，美萊村大屠殺就絕不可能發生。
但也先别急着研發和部署機器人殺手。
我們不能忘記，機器人的表現一定是其内置程序代碼的反映及放大。
如果程序代碼規定要有所克制、立意良善，機器人的表現就會遠遠優于一般人類士兵；然而，如果程序代碼規定要冷酷無情、趕盡殺絕，結果就會是一場災難。
機器人真正的問題并不在于它們的人工智能，而是那些人類主人天生的愚蠢和殘酷。
1995年7月，前波斯尼亞的塞爾維亞族（塞爾維亞族，南斯拉夫主體民族之一。
共有814萬（1981年），為全國人口總數的36.3%。
其中618萬人在塞爾維亞共和國，132萬人在波斯尼亞—黑塞哥維那共和國，53萬人在克羅地亞共和國。
人種類型為歐羅巴人種。
18世紀末期資本主義生産關系開始出現。
1815年反土起義後獲得自治權。
1877～1878年俄土戰争後獲獨立。
1913年巴爾幹戰争結束後，塞爾維亞從土耳其統治下獲得解放。
1914年奧匈帝國向塞爾維亞發動進攻（薩拉熱窩事件），開始第一次世界大戰。
1918年與其它國家一起形成塞爾維亞-克羅地亞-斯洛文尼亞王國。
1945年11月建立南斯拉夫聯邦人民共和國。
）部隊在斯雷布雷尼察鎮周圍屠殺超過8000名信奉伊斯蘭教的波斯尼亞人。
美萊村大屠殺屬于無計劃屠殺，斯雷布雷尼察屠殺則曆時持久，組織嚴密，反映出塞軍的政策是對波斯尼亞境内的穆斯林進行種族清洗。
如果塞軍在1995年便擁有機器人殺手，整場暴行隻會更糟，因為任何機器人都隻會毫不猶豫地執行接到的命令，也絕不會因為同情、對自己的行為感到厭惡，或者單純因為過于疲累，就饒過哪個兒童穆斯林的性命。
冷酷狠心的獨裁者有了這樣的機器人殺手，不管下了多無情、多瘋狂的命令，都不用擔心士兵起而反抗。
如果有了機器人軍隊，1789年的法國大革命可能還沒開始就遭到扼殺；如果2011年埃及總統穆巴拉克手中有一群機器人殺手，用來對付民衆的時候就不用擔心它們倒戈相向。
同樣，有了機器人軍隊的帝國主義政府也可以發動各種沒有民意支持的戰争，而不用擔心機器人無心作戰或機器人的家人會站出來抗議。
要是美國在越戰時有機器人殺手，雖然可能不會發生美萊村大屠殺，但越戰本身卻可能要再拖上更多年，因為美國政府不用再煩惱士兵士氣低落、國内出現大規模反戰遊行，或者“退役機器人反對戰争”活動。
（雖然部分美國公民仍然可能反對戰争，但既然不用擔心自己被征召，自己沒有犯下暴行的記憶，也無須承受失去親人的痛苦，反戰遊行的人數大概會銳減，反戰決心也不會那麼堅定。
） 此類問題當然和民用的自動駕駛汽車關系不那麼大，畢竟沒有任何汽車制造商會蓄意設計車輛去撞死人。
然而，由于太多政權道德有缺失，甚至根本就是圖謀不軌，自主武器系統帶來災難也隻是時間的問題。
會造成危險的不隻是機器人殺手，監控系統同樣有風險。
在好政府的手中，強大的監控算法可以是人類曆史上發生過的最大的好事。
然而，同樣一套大數據算法也可能養出未來的“老大哥”，最後出現奧威爾（喬治·奧威爾（1903年6月25日－1950年1月21日），英國著名小說家、記者和社會評論家。
他的代表作《動物莊園》和《1984》是反極權主義的經典名著，其中《1984》是20世紀影響最大的英語小說之一。
1903年生于英國殖民地的印度，童年耳聞目睹了殖民者與被殖民者之間尖銳的沖突。
與絕大多數英國孩子不同，他的同情傾向悲慘的印度人民一邊。
少年時代，奧威爾受教育于著名的伊頓公學。
後來被派到緬甸任警察，他卻站在了苦役犯的一邊。
20世紀30年代，他參加西班牙内戰，因屬托洛茨基派系（第四國際）而遭排擠，回國後卻又因被劃入左派，不得不流亡法國。
二戰中，他在英國廣播公司（BBC）從事反法西斯宣傳工作。
1950年，死于困擾其數年的肺病，年僅47歲。
）筆下的那種監控政權，所有人無時無刻不遭到監控。
事實上，我們最後可能會得到連奧威爾都難以想象的結果：完全的監控政權，不但追蹤所有人的一切行為和話語，甚至還能進入我們體内，掌握我們内心的感受。
舉例來說，如果某國領導人拿到這項新技術，想想看他會怎麼運用？在未來，可能該國所有公民都會被要求佩戴生物統計手環，不僅監控他們的一言一行，還掌握他們的血壓和大腦活動。
而且，随着科學越來越了解大腦，并運用機器學習的龐大力量，該國政權可能會有史以來第一次真正知道每個公民在每個時刻想些什麼。
如果你看到一張該國領導人的照片，而生物傳感器發現你出現憤怒的迹象（血壓升高、杏仁核活動增加），大概明早你就會被抓進監獄。
當然，由于該國政權與外界相對隔絕，光靠自己可能很難研發出所需科技。
但相關科技可能會由科技較先進的國家研發完成，而它可以複制或者購買。
某些國家不斷改良其監控工具，許多民主國家（從美國到我的祖國以色列）也在做同樣的事情。
以色列有“新創企業之國”的美名，高科技産業部門極度活躍，還有尖端的網絡安全産業。
但與此同時，以色列與巴勒斯坦處于緻命的沖突局面，一旦真的研發出必要的科技，至少有部分領導人、将軍和國民會很樂意立刻在約旦河西岸布下全面的監控系統。
就算在今日，隻要巴勒斯坦人一打電話、發了臉譜網文章或前往另一個城市，就很可能已經被以色列的麥克風、照相機、無人機或間諜軟件監控。
由此收集到的數據會再用大數據算法進行分析，使得以色列安全部隊無須真正動用太多人力，就能找出并消滅潛在威脅。
巴勒斯坦人看起來好像占有約旦河西岸的一些城鎮和村莊，但其實以色列人控制着那裡的天空、電波和網絡空間。
所以雖然西岸巴勒斯坦人口有大約250萬，但隻要用少得驚人的以色列士兵，就可以有效控制那裡。
2017年10月曾有一起悲哀而荒謬的事件，一名巴勒斯坦工人在自己的臉譜網賬号發了一張在工地的自拍照，就站在一台推土機前面。
在照片旁邊，他用阿拉伯文寫了——“早安！”但算法自動翻譯這些阿拉伯文字的時候出了錯，把意為“早安”的“Ysabechhum”誤判成“Ydbachhum”，意思就成了“殺光他們”。
以色列安全部隊懷疑這名男子是恐怖分子，打算用推土機沖撞碾壓人群，于是立刻将他逮捕。
直到他們發現是算法出錯，這名男子才得到釋放。
然而，那則叫人緊張的臉譜網發文還是被删除了，畢竟小心駛得萬年船啊。
巴勒斯坦人今天在西岸的狀況大概隻是個簡單預告，未來或許全球幾十億人終将出現同樣的局面。
在20世紀後期，民主國家的表現通常優于專制國家，是因為民主國家更善于處理數據。
民主制度采用分布式的信息處理，
遇到緊急狀況的時候，“利他”款會為了整體利益而犧牲主人；“自我”款則會不顧一切保護主人，撞死兩個小孩也在所不惜。
至于消費者，則可以根據自己偏好的哲學觀來選車。
這樣一來，如果多數人買了特斯拉“自我”款，你也不能怪特斯拉。
畢竟，顧客永遠是對的。
這可不是開玩笑。
在2015年一項開先河的研究中，研究人員請參與者假想自動駕駛汽車即将撞到幾個路人的情景。
大多數參與者都認為，就算可能會犧牲車主，自動駕駛汽車還是應該保全那幾個路人的生命。
隻是，等到再問他們會不會買一部設定為“犧牲車主、顧全整體利益”的車時，大多數人都說“不”。
如果涉及自身，他們還是比較喜歡特斯拉“自我”款。
想象一下這個情境：你買了一輛新車，但啟用之前得先打開設置菜單，勾選一個選項——如果發生事故，你是希望這輛車犧牲你的性命，還是犧牲另一輛車上那家人的性命。
你真的想要做這個選擇嗎？想想看，如果真選了其中某個選項，家裡人會不會和你大吵一架？ 所以，是不是該由國家介入，規範市場，直接制定一套所有自動駕駛汽車都必須遵守的倫理準則？肯定會有某些立法者興奮不已，畢竟終于有機會寫出真的大家都會乖乖遵守的法律了。
但也有某些立法者會深感不安，因為這背後代表的是要負起前所未有甚至是極權主義的責任。
畢竟在曆史上，幸好法律的實施必然有其局限性，也就能制衡立法時的種種偏見、錯誤和過度。
各種反同性戀、反亵渎神祇的法律都從未全面實施，實在是非常幸運。
而看着政治人物時不時地犯錯，我們是否真的希望有這樣一套制度系統，會把他們的決定徹底貫徹，像重力一樣無所不在？ 數字獨裁 很多人之所以害怕人工智能，是因為他們不相信人工智能會一直聽話順從。
已經有太多描寫機器人反抗人類主人，在大街上四處亂竄、恣意屠殺的科幻小說和電影。
然而，機器人可能帶來的問題其實恰恰相反。
我們是該害怕機器人，但原因是它們永遠隻會服從主人，絕不反抗。
當然，盲目聽從沒有什麼問題，但前提是主人得是個好人。
在戰場上，如果交戰雙方全用殺手機器人上場，就能确保這是曆史上第一次真正遵守戰争法的戰役。
人類士兵可能一時受到情緒影響，就犯下謀殺、強盜、強奸等違犯戰争法的罪行。
講到情緒，我們通常想到的是愛心、同情心和同理心，但在戰場上，控制着人的情緒的往往是殘酷、仇恨和恐懼。
由于機器人沒有情緒，就能放心地相信它們會一字一句遵守所有軍事規章，永遠不受個人恐懼和仇恨的影響。
1968年3月16日，一群美國士兵在越南南部的美萊村的行動變調，他們陷入瘋狂，屠殺了大約400名平民。
這起戰争罪行的起源，是當時士兵已經打了好幾個月的叢林遊擊戰，他們自行在當地做了這個決定。
這個行動沒有任何戰略目的，同時違犯了美國的法律規定與軍事政策。
這是一場出于人類情緒影響的錯誤。
如果美國當時在越南派的是機器人殺手，美萊村大屠殺就絕不可能發生。
但也先别急着研發和部署機器人殺手。
我們不能忘記，機器人的表現一定是其内置程序代碼的反映及放大。
如果程序代碼規定要有所克制、立意良善，機器人的表現就會遠遠優于一般人類士兵；然而，如果程序代碼規定要冷酷無情、趕盡殺絕，結果就會是一場災難。
機器人真正的問題并不在于它們的人工智能，而是那些人類主人天生的愚蠢和殘酷。
1995年7月，前波斯尼亞的塞爾維亞族（塞爾維亞族，南斯拉夫主體民族之一。
共有814萬（1981年），為全國人口總數的36.3%。
其中618萬人在塞爾維亞共和國，132萬人在波斯尼亞—黑塞哥維那共和國，53萬人在克羅地亞共和國。
人種類型為歐羅巴人種。
18世紀末期資本主義生産關系開始出現。
1815年反土起義後獲得自治權。
1877～1878年俄土戰争後獲獨立。
1913年巴爾幹戰争結束後，塞爾維亞從土耳其統治下獲得解放。
1914年奧匈帝國向塞爾維亞發動進攻（薩拉熱窩事件），開始第一次世界大戰。
1918年與其它國家一起形成塞爾維亞-克羅地亞-斯洛文尼亞王國。
1945年11月建立南斯拉夫聯邦人民共和國。
）部隊在斯雷布雷尼察鎮周圍屠殺超過8000名信奉伊斯蘭教的波斯尼亞人。
美萊村大屠殺屬于無計劃屠殺，斯雷布雷尼察屠殺則曆時持久，組織嚴密，反映出塞軍的政策是對波斯尼亞境内的穆斯林進行種族清洗。
如果塞軍在1995年便擁有機器人殺手，整場暴行隻會更糟，因為任何機器人都隻會毫不猶豫地執行接到的命令，也絕不會因為同情、對自己的行為感到厭惡，或者單純因為過于疲累，就饒過哪個兒童穆斯林的性命。
冷酷狠心的獨裁者有了這樣的機器人殺手，不管下了多無情、多瘋狂的命令，都不用擔心士兵起而反抗。
如果有了機器人軍隊，1789年的法國大革命可能還沒開始就遭到扼殺；如果2011年埃及總統穆巴拉克手中有一群機器人殺手，用來對付民衆的時候就不用擔心它們倒戈相向。
同樣，有了機器人軍隊的帝國主義政府也可以發動各種沒有民意支持的戰争，而不用擔心機器人無心作戰或機器人的家人會站出來抗議。
要是美國在越戰時有機器人殺手，雖然可能不會發生美萊村大屠殺，但越戰本身卻可能要再拖上更多年，因為美國政府不用再煩惱士兵士氣低落、國内出現大規模反戰遊行，或者“退役機器人反對戰争”活動。
（雖然部分美國公民仍然可能反對戰争，但既然不用擔心自己被征召，自己沒有犯下暴行的記憶，也無須承受失去親人的痛苦，反戰遊行的人數大概會銳減，反戰決心也不會那麼堅定。
） 此類問題當然和民用的自動駕駛汽車關系不那麼大，畢竟沒有任何汽車制造商會蓄意設計車輛去撞死人。
然而，由于太多政權道德有缺失，甚至根本就是圖謀不軌，自主武器系統帶來災難也隻是時間的問題。
會造成危險的不隻是機器人殺手，監控系統同樣有風險。
在好政府的手中，強大的監控算法可以是人類曆史上發生過的最大的好事。
然而，同樣一套大數據算法也可能養出未來的“老大哥”，最後出現奧威爾（喬治·奧威爾（1903年6月25日－1950年1月21日），英國著名小說家、記者和社會評論家。
他的代表作《動物莊園》和《1984》是反極權主義的經典名著，其中《1984》是20世紀影響最大的英語小說之一。
1903年生于英國殖民地的印度，童年耳聞目睹了殖民者與被殖民者之間尖銳的沖突。
與絕大多數英國孩子不同，他的同情傾向悲慘的印度人民一邊。
少年時代，奧威爾受教育于著名的伊頓公學。
後來被派到緬甸任警察，他卻站在了苦役犯的一邊。
20世紀30年代，他參加西班牙内戰，因屬托洛茨基派系（第四國際）而遭排擠，回國後卻又因被劃入左派，不得不流亡法國。
二戰中，他在英國廣播公司（BBC）從事反法西斯宣傳工作。
1950年，死于困擾其數年的肺病，年僅47歲。
）筆下的那種監控政權，所有人無時無刻不遭到監控。
事實上，我們最後可能會得到連奧威爾都難以想象的結果：完全的監控政權，不但追蹤所有人的一切行為和話語，甚至還能進入我們體内，掌握我們内心的感受。
舉例來說，如果某國領導人拿到這項新技術，想想看他會怎麼運用？在未來，可能該國所有公民都會被要求佩戴生物統計手環，不僅監控他們的一言一行，還掌握他們的血壓和大腦活動。
而且，随着科學越來越了解大腦，并運用機器學習的龐大力量，該國政權可能會有史以來第一次真正知道每個公民在每個時刻想些什麼。
如果你看到一張該國領導人的照片，而生物傳感器發現你出現憤怒的迹象（血壓升高、杏仁核活動增加），大概明早你就會被抓進監獄。
當然，由于該國政權與外界相對隔絕，光靠自己可能很難研發出所需科技。
但相關科技可能會由科技較先進的國家研發完成，而它可以複制或者購買。
某些國家不斷改良其監控工具，許多民主國家（從美國到我的祖國以色列）也在做同樣的事情。
以色列有“新創企業之國”的美名，高科技産業部門極度活躍，還有尖端的網絡安全産業。
但與此同時，以色列與巴勒斯坦處于緻命的沖突局面，一旦真的研發出必要的科技，至少有部分領導人、将軍和國民會很樂意立刻在約旦河西岸布下全面的監控系統。
就算在今日，隻要巴勒斯坦人一打電話、發了臉譜網文章或前往另一個城市，就很可能已經被以色列的麥克風、照相機、無人機或間諜軟件監控。
由此收集到的數據會再用大數據算法進行分析，使得以色列安全部隊無須真正動用太多人力，就能找出并消滅潛在威脅。
巴勒斯坦人看起來好像占有約旦河西岸的一些城鎮和村莊，但其實以色列人控制着那裡的天空、電波和網絡空間。
所以雖然西岸巴勒斯坦人口有大約250萬，但隻要用少得驚人的以色列士兵，就可以有效控制那裡。
2017年10月曾有一起悲哀而荒謬的事件，一名巴勒斯坦工人在自己的臉譜網賬号發了一張在工地的自拍照，就站在一台推土機前面。
在照片旁邊，他用阿拉伯文寫了——“早安！”但算法自動翻譯這些阿拉伯文字的時候出了錯，把意為“早安”的“Ysabechhum”誤判成“Ydbachhum”，意思就成了“殺光他們”。
以色列安全部隊懷疑這名男子是恐怖分子，打算用推土機沖撞碾壓人群，于是立刻将他逮捕。
直到他們發現是算法出錯，這名男子才得到釋放。
然而，那則叫人緊張的臉譜網發文還是被删除了，畢竟小心駛得萬年船啊。
巴勒斯坦人今天在西岸的狀況大概隻是個簡單預告，未來或許全球幾十億人終将出現同樣的局面。
在20世紀後期，民主國家的表現通常優于專制國家，是因為民主國家更善于處理數據。
民主制度采用分布式的信息處理，