第二十一章 尋找結束
關燈
小
中
大
心靈,因為那些被我調整過的人,總是有可能受到傷害。
我受到機器人三大法則的束縛,懂了吧——直到今天依然如此。
” “呃——” 即使一個普通人類或普通的機器人,完全欠缺丹尼爾的精神力量,也能察覺這個單音代表的疑問。
“第一法則,”他說:“閣下,是這樣的:機器人不得傷害人類,也不得因為不采取行動而使人類受到傷害。
第二法則是:除非違背第一法則,否則機器人必須服從人類的命令。
第三法則是:在不違背第一法則及第二法則的情況下,機器人必須保護自身的存在。
當然,我是用近似的語言對你們叙述這些法則,實際上,那是我們正電子腦回路中複雜的數學組态。
” “你發覺這些法則礙手礙腳嗎?” “必定如此,閣下。
第一法則毫無轉圓餘地,幾乎全然禁止我使用精神力量。
在處理銀河問題的過程中,不太可能每一步都不會造成傷害,總是有些人或許多人因而受苦,因此身為一個機器人,必須選擇傷害最小的做法。
然而,由于情勢過于複雜,我必須花許多時間才能做出抉擇,即使有了決定,也不可能絕對确定。
” “我能了解。
”崔維茲說。
“在漫長的銀河曆史中,”丹尼爾說:“天災人禍從未間斷,我一直試圖減輕這些災禍造成的危害。
某些時候,就某種水平而言,我可算是有些成就,但如果你熟悉你們銀河的曆史,就會知道我的成功例子不多,影響也不夠深遠。
” “這點我還知道。
”崔維茲帶着一抹苦笑說。
“我和吉斯卡悟出了另一個機器人法則,它甚至于駕第一法則之上。
我們将它稱為‘第零法則’,因為想不到有什麼更合适的名稱。
第零法則的内容是:機器人不得傷害人類整體,也不得因為不采取行動而使人類整體受到傷害。
這自然意味着第一法則必須修正為:除非違背第零法則,機器人不得傷害人類,也不得因為不采取行動而使人類受到傷害。
而第二、第三法則也必須做類似的修正。
” 崔維茲皺起眉頭。
“但對于人類整體而言,何者有害,何者無害,你又如何決定?” “一點都沒錯,閣下。
”丹尼爾說:“理論上,第零法則可以解決我們的問題;實際上,我們永遠無法做出決定。
人類是個具體的對象,對一個人構成的傷害不難估量判斷;人類整體則是抽象的概念,我們應該如何對待處理呢?” “我不知道。
”崔維茲說。
“慢着,”裴洛拉特說:“你可将人類整體轉變成單一有機體,例如蓋娅。
” “這正是我試圖進行的工作,閣下,蓋娅的創建就是我一手策劃的。
假如能讓人類整體形成單一的有機體,它就會變成具體的對象,這樣便有辦法處理了。
然而,創造一個超有機體的工作,沒有想像中那麼簡單。
首先,除非每個人将這個超有機體看得比自身更着,否則絕對不可能成功。
因此,我必須尋找一個适切的心靈模型,找了很久之後,我才想到機器人法則。
” “啊,那麼蓋娅人都是機器人。
打從一開始我就懷疑這點。
” “這件事情,你的懷疑并不正确,閣下。
他們都是人類,不過在他們大腦中,根深蒂固地烙印着等同于機器人法則的概念。
他們必須尊重生命,真正尊重——即使做到這一點,依然存在一個嚴着的缺陷。
一個僅有人類的超有機體并不穩定,根本無從建立,其他的動物必須加進來——接着是植物,跟着是無機世界。
真正穩定的最小超有機體,其實就是個完整的世界,唯有世界才足夠龐大、足夠複雜,得以擁有穩定的生态。
我花了很久時間才了解這個道理,而直到最近一個世紀,蓋娅才完全發展成功,準備向蓋娅星系的目标邁進。
縱使如此,那也需要很長的時間。
不過,或許不會像來時路那般漫長,因為我們已經知道規則。
” “可是你需要我替你做出決定。
對不對,丹尼爾?” “是的,閣下。
機器人法則不允許我,或是蓋娅,做出為人類整體帶來風險的決定。
另一方面,五個世紀以前,我以為建立蓋娅的重重困難絕不可能克服,于是我退而求其次,協助人類發展出心理史學這門科學。
” “我早就該猜到這一點。
”崔維茲咕哝了一句,又說:“你知道嗎,丹尼爾,我開始相信你的确有兩萬歲了。
” “謝謝你,閣下。
” 裴洛拉特說:“等一等,我想我悟出了一件事。
你自己是不是蓋娅的一部分,丹尼爾?是不是因為這樣,你才知道奧羅拉上有野狗群?經由寶绮思?” 丹尼爾說:“就某方面而言,閣下,你說得完全正确。
我與蓋娅的确有聯系,不過我不是它的一部分。
” 崔維茲揚起眉毛。
“聽來跟康普隆的情形差不多,就是我們離開蓋娅後,首先造訪的那個世界。
康普隆堅持自己不是基地聯邦的一部分,隻不過跟聯邦有某種聯系。
” 丹尼爾緩緩點了點頭。
“我想這個類比很恰當,閣下。
由于與蓋娅保持聯系,我得以知曉蓋娅所知曉的事物——例如經由蓋娅的化身,寶绮思。
然而,蓋娅無從知曉我所知曉的事物,因此我得以保有行動自由。
在蓋娅星系實現之前,我有必要保有這種行動自由。
” 崔維茲凝視這個機器人片刻,然後又說:“你是否利用你的精神感應,透過寶绮思,來幹預我們這趟旅程中的際遇;好讓我們依照你的理想行動?” 丹尼爾像人類一樣,古裡古怪地歎了一口氣。
“我做不了太多,閣下,機器人法則總是将我緊緊束縛。
不過,我還是減輕了寶绮思心中的着擔,将少量的額外負擔攬在自己身上。
這樣,她在面對奧羅拉的惡犬與索拉利的外世界人時,才能更當機立斷,并減輕自己受到的傷害。
此外,我還藉由寶绮思影響了兩位女性,一位在康普隆,另一位在新地球上。
我讓她們對你充滿好感,你才能繼續你的旅程。
” 崔維茲微笑了一下,有一半算是苦笑。
“我早該知道不是由于我的緣故。
” 丹尼爾未理會這句話中的自卑低調。
“正好相反,閣下,”他說:“你扮演了重要的角色。
那兩位女性一開始就對你有好感,我隻是提升了她們既有的沖動——在機器人法則的嚴格限制下
我受到機器人三大法則的束縛,懂了吧——直到今天依然如此。
” “呃——” 即使一個普通人類或普通的機器人,完全欠缺丹尼爾的精神力量,也能察覺這個單音代表的疑問。
“第一法則,”他說:“閣下,是這樣的:機器人不得傷害人類,也不得因為不采取行動而使人類受到傷害。
第二法則是:除非違背第一法則,否則機器人必須服從人類的命令。
第三法則是:在不違背第一法則及第二法則的情況下,機器人必須保護自身的存在。
當然,我是用近似的語言對你們叙述這些法則,實際上,那是我們正電子腦回路中複雜的數學組态。
” “你發覺這些法則礙手礙腳嗎?” “必定如此,閣下。
第一法則毫無轉圓餘地,幾乎全然禁止我使用精神力量。
在處理銀河問題的過程中,不太可能每一步都不會造成傷害,總是有些人或許多人因而受苦,因此身為一個機器人,必須選擇傷害最小的做法。
然而,由于情勢過于複雜,我必須花許多時間才能做出抉擇,即使有了決定,也不可能絕對确定。
” “我能了解。
”崔維茲說。
“在漫長的銀河曆史中,”丹尼爾說:“天災人禍從未間斷,我一直試圖減輕這些災禍造成的危害。
某些時候,就某種水平而言,我可算是有些成就,但如果你熟悉你們銀河的曆史,就會知道我的成功例子不多,影響也不夠深遠。
” “這點我還知道。
”崔維茲帶着一抹苦笑說。
“我和吉斯卡悟出了另一個機器人法則,它甚至于駕第一法則之上。
我們将它稱為‘第零法則’,因為想不到有什麼更合适的名稱。
第零法則的内容是:機器人不得傷害人類整體,也不得因為不采取行動而使人類整體受到傷害。
這自然意味着第一法則必須修正為:除非違背第零法則,機器人不得傷害人類,也不得因為不采取行動而使人類受到傷害。
而第二、第三法則也必須做類似的修正。
” 崔維茲皺起眉頭。
“但對于人類整體而言,何者有害,何者無害,你又如何決定?” “一點都沒錯,閣下。
”丹尼爾說:“理論上,第零法則可以解決我們的問題;實際上,我們永遠無法做出決定。
人類是個具體的對象,對一個人構成的傷害不難估量判斷;人類整體則是抽象的概念,我們應該如何對待處理呢?” “我不知道。
”崔維茲說。
“慢着,”裴洛拉特說:“你可将人類整體轉變成單一有機體,例如蓋娅。
” “這正是我試圖進行的工作,閣下,蓋娅的創建就是我一手策劃的。
假如能讓人類整體形成單一的有機體,它就會變成具體的對象,這樣便有辦法處理了。
然而,創造一個超有機體的工作,沒有想像中那麼簡單。
首先,除非每個人将這個超有機體看得比自身更着,否則絕對不可能成功。
因此,我必須尋找一個适切的心靈模型,找了很久之後,我才想到機器人法則。
” “啊,那麼蓋娅人都是機器人。
打從一開始我就懷疑這點。
” “這件事情,你的懷疑并不正确,閣下。
他們都是人類,不過在他們大腦中,根深蒂固地烙印着等同于機器人法則的概念。
他們必須尊重生命,真正尊重——即使做到這一點,依然存在一個嚴着的缺陷。
一個僅有人類的超有機體并不穩定,根本無從建立,其他的動物必須加進來——接着是植物,跟着是無機世界。
真正穩定的最小超有機體,其實就是個完整的世界,唯有世界才足夠龐大、足夠複雜,得以擁有穩定的生态。
我花了很久時間才了解這個道理,而直到最近一個世紀,蓋娅才完全發展成功,準備向蓋娅星系的目标邁進。
縱使如此,那也需要很長的時間。
不過,或許不會像來時路那般漫長,因為我們已經知道規則。
” “可是你需要我替你做出決定。
對不對,丹尼爾?” “是的,閣下。
機器人法則不允許我,或是蓋娅,做出為人類整體帶來風險的決定。
另一方面,五個世紀以前,我以為建立蓋娅的重重困難絕不可能克服,于是我退而求其次,協助人類發展出心理史學這門科學。
” “我早就該猜到這一點。
”崔維茲咕哝了一句,又說:“你知道嗎,丹尼爾,我開始相信你的确有兩萬歲了。
” “謝謝你,閣下。
” 裴洛拉特說:“等一等,我想我悟出了一件事。
你自己是不是蓋娅的一部分,丹尼爾?是不是因為這樣,你才知道奧羅拉上有野狗群?經由寶绮思?” 丹尼爾說:“就某方面而言,閣下,你說得完全正确。
我與蓋娅的确有聯系,不過我不是它的一部分。
” 崔維茲揚起眉毛。
“聽來跟康普隆的情形差不多,就是我們離開蓋娅後,首先造訪的那個世界。
康普隆堅持自己不是基地聯邦的一部分,隻不過跟聯邦有某種聯系。
” 丹尼爾緩緩點了點頭。
“我想這個類比很恰當,閣下。
由于與蓋娅保持聯系,我得以知曉蓋娅所知曉的事物——例如經由蓋娅的化身,寶绮思。
然而,蓋娅無從知曉我所知曉的事物,因此我得以保有行動自由。
在蓋娅星系實現之前,我有必要保有這種行動自由。
” 崔維茲凝視這個機器人片刻,然後又說:“你是否利用你的精神感應,透過寶绮思,來幹預我們這趟旅程中的際遇;好讓我們依照你的理想行動?” 丹尼爾像人類一樣,古裡古怪地歎了一口氣。
“我做不了太多,閣下,機器人法則總是将我緊緊束縛。
不過,我還是減輕了寶绮思心中的着擔,将少量的額外負擔攬在自己身上。
這樣,她在面對奧羅拉的惡犬與索拉利的外世界人時,才能更當機立斷,并減輕自己受到的傷害。
此外,我還藉由寶绮思影響了兩位女性,一位在康普隆,另一位在新地球上。
我讓她們對你充滿好感,你才能繼續你的旅程。
” 崔維茲微笑了一下,有一半算是苦笑。
“我早該知道不是由于我的緣故。
” 丹尼爾未理會這句話中的自卑低調。
“正好相反,閣下,”他說:“你扮演了重要的角色。
那兩位女性一開始就對你有好感,我隻是提升了她們既有的沖動——在機器人法則的嚴格限制下