第７天 晚上１１點５７分
關燈
小
中
大
基才領着我逛了一大圈，給我解釋關于建築承包商和通風系統的問題。
但是，他的話沒有一句是真的。
那次排放是精心策劃的。
它從一開始便是蓄謀已久的行為。
他們發現攝像頭微粒集群在強風中不能工作，于是便努力找出解決辦法。
他們沒有成功。
那些微粒體積太小，重量太輕——也可以說太愚蠢了。
他們從一開始便遇到了設計缺陷，到那時仍無法克服它們。
他們得到的數百萬美元的國防項目化為烏有，他們無法擺脫困境。
于是，他們決定讓集群自己為他們解決問題。
他們重構了納米微粒，以便增強太陽能和記憶力。
他們重新編寫了控制微粒的程序，以便包括一種遺傳演算法。
而且，他們釋放出納米微粒，讓它們繁殖和進化，以便觀察集群是否能夠學會自已存活。
他們取得了成功。
那樣做太愚蠢，太冒險了。
我不理解他們怎麼會實施那項計劃，完全沒有認識到其後果的。
與我在艾克西莫斯技術公司見到其他東西類似，那項計劃漏洞百出，技術不成熟，匆忙湊合而成，隻是為了解決眼前問題，根本沒有考慮到将來情況。
那可能是處于巨大壓力之下的典型的企業思維，但是在使用這類技術的情況下，它的危險性異常巨大。
但是，事情的真相當然更為複雜。
那項技術本身引起了那種行為，分布式智能體系統是自行控制的。
那是它們的工作方式。
那就是全部問題所在：你把它們建立起來，然後讓它們自由行動。
你養成了那樣做的習慣。
你養成了以那種方式對待智能體網絡的習慣。
自主性是問題的關鍵。
但是将一個虛拟智能體種群放入計算機記憶中去解決問題是一回事，将真正的智能體釋放到現實世界中去卻是另一回事。
他們沒有看到兩者之間的差别。
或者，他們沒有用心去考慮兩者之間的差别。
于是，他們釋放了集群。
這一點的技術術語是“自行憂化”。
集群自己進化，運行不太成功的智能體死亡，運行更成功的智能體繁殖出後代。
在１０代或者１００代之後，集群進化出一種最佳解決辦法。
一種最優解決方案。
在計算機内部，這樣的事情一直都在進行。
它甚至被用來生成新的計算機演算法。
丹尼·希利斯在多年以前進行了最初的嘗試之一，其目的是為了優化一種排序演算法。
希利斯希望了解計算機是否能夠找到提高自身的方式。
那一程序發現，一種新方法。
其他人很快追随他的研究。
但是，它尚未被用于真實世界中的自動機器人。
據我所知，這是首次。
可能它已經問世了，隻是我們尚未聽說而已。
不管怎樣說，我确信它将會再次出現。
很可能為期不遠了。
淩晨２點。
孩子們終于停止嘔吐。
他們已經入睡了。
他們看上去很平靜。
小女兒也睡着了。
埃倫的感覺仍然很糟，我剛才肯定打了瞌睡。
我不知道是什麼東西把我驚醒了。
我看見梅沿着我家房後的斜坡上來了。
她和身穿銀色服裝的人在一起，還有ＳＳＶ團隊的其他人。
她正朝我走來。
我可以看到她的笑臉。
我希望她帶來了好消息。
我現在就可以使用某種好消息。
朱麗亞的電子郵件原文說：“我們什麼也不會失去。
” 但是，他們最終失去了一切——他們的公司、生命，還有其餘的一切。
具有諷刺意味的事情是，那個方法獲得了成功。
集群實際上解決他們當初要它解決的問題。
但是，它後來卻一直進化，不停地進化。
而他們放手不管。
他們不理解自己的行為。
我擔心，這一行文字将會出現在人類的墓碑上。
我希望它不會。
我們有可能幸免于此。
【全書完】
但是，他的話沒有一句是真的。
那次排放是精心策劃的。
它從一開始便是蓄謀已久的行為。
他們發現攝像頭微粒集群在強風中不能工作，于是便努力找出解決辦法。
他們沒有成功。
那些微粒體積太小，重量太輕——也可以說太愚蠢了。
他們從一開始便遇到了設計缺陷，到那時仍無法克服它們。
他們得到的數百萬美元的國防項目化為烏有，他們無法擺脫困境。
于是，他們決定讓集群自己為他們解決問題。
他們重構了納米微粒，以便增強太陽能和記憶力。
他們重新編寫了控制微粒的程序，以便包括一種遺傳演算法。
而且，他們釋放出納米微粒，讓它們繁殖和進化，以便觀察集群是否能夠學會自已存活。
他們取得了成功。
那樣做太愚蠢，太冒險了。
我不理解他們怎麼會實施那項計劃，完全沒有認識到其後果的。
與我在艾克西莫斯技術公司見到其他東西類似，那項計劃漏洞百出，技術不成熟，匆忙湊合而成，隻是為了解決眼前問題，根本沒有考慮到将來情況。
那可能是處于巨大壓力之下的典型的企業思維，但是在使用這類技術的情況下，它的危險性異常巨大。
但是，事情的真相當然更為複雜。
那項技術本身引起了那種行為，分布式智能體系統是自行控制的。
那是它們的工作方式。
那就是全部問題所在：你把它們建立起來，然後讓它們自由行動。
你養成了那樣做的習慣。
你養成了以那種方式對待智能體網絡的習慣。
自主性是問題的關鍵。
但是将一個虛拟智能體種群放入計算機記憶中去解決問題是一回事，将真正的智能體釋放到現實世界中去卻是另一回事。
他們沒有看到兩者之間的差别。
或者，他們沒有用心去考慮兩者之間的差别。
于是，他們釋放了集群。
這一點的技術術語是“自行憂化”。
集群自己進化，運行不太成功的智能體死亡，運行更成功的智能體繁殖出後代。
在１０代或者１００代之後，集群進化出一種最佳解決辦法。
一種最優解決方案。
在計算機内部，這樣的事情一直都在進行。
它甚至被用來生成新的計算機演算法。
丹尼·希利斯在多年以前進行了最初的嘗試之一，其目的是為了優化一種排序演算法。
希利斯希望了解計算機是否能夠找到提高自身的方式。
那一程序發現，一種新方法。
其他人很快追随他的研究。
但是，它尚未被用于真實世界中的自動機器人。
據我所知，這是首次。
可能它已經問世了，隻是我們尚未聽說而已。
不管怎樣說，我确信它将會再次出現。
很可能為期不遠了。
淩晨２點。
孩子們終于停止嘔吐。
他們已經入睡了。
他們看上去很平靜。
小女兒也睡着了。
埃倫的感覺仍然很糟，我剛才肯定打了瞌睡。
我不知道是什麼東西把我驚醒了。
我看見梅沿着我家房後的斜坡上來了。
她和身穿銀色服裝的人在一起，還有ＳＳＶ團隊的其他人。
她正朝我走來。
我可以看到她的笑臉。
我希望她帶來了好消息。
我現在就可以使用某種好消息。
朱麗亞的電子郵件原文說：“我們什麼也不會失去。
” 但是，他們最終失去了一切——他們的公司、生命，還有其餘的一切。
具有諷刺意味的事情是，那個方法獲得了成功。
集群實際上解決他們當初要它解決的問題。
但是，它後來卻一直進化，不停地進化。
而他們放手不管。
他們不理解自己的行為。
我擔心，這一行文字将會出現在人類的墓碑上。
我希望它不會。
我們有可能幸免于此。
【全書完】