這也是某種嘗試,改變現狀的方案。
她最後看了一眼自己的房間,乾淨,整齊。卻少了很多歡聲笑語。
在她混亂的記憶當中,某個小女孩喜歡躺在嬰兒牀上喫着奶嘴,小傢伙充滿了好奇,沒事就喜歡到處爬。
後來,女孩喜歡給她編辮子,女孩的女兒也喜歡躺在嬰兒牀內。
多年時光,房間沒有任何變化,但她的主人都不見了,冷清的只剩下她一人了。
她和貝利爾相同,都是人類造物。
最後看了一眼房間,她將房門關上,就在她轉身之際,卻發現馬爾巴士就在她的身後。
機械獅子在她的腳邊打着盹。尾巴漫無目的的擺動着。
“這個房間有什麼特別的意義嗎,阿蒙總指揮。”
從某種意義上來講,所有的機械造物,都來源於阿蒙之手,說是她創造了這個族羣也不爲過。
“沒什麼意義,一個人類的房間而已。”
“你在觀察人類?”
“算是吧!”
“我很好奇,人類必須處決是刻寫入核心代碼的,你爲什麼能夠觀測。”阿蒙的眼神微凝,不是很友善。
“這個問題你沒必要知道。”
“但我想知道。”她的語氣異常的尖銳。
馬爾巴士象徵着智慧,當時創造她的時候也是這麼設計的,沒想到會這麼麻煩。
如今機械造物外部氛圍很是緊張,先後與龍族、精靈族開戰。
若是內部在出現什麼閃失,對於整個族羣都是致命的打擊,她不信任貝利爾,同樣也不信任阿蒙。
“爲什麼,你對人類會有這麼仁慈的一面。”馬爾巴士並不打算放過她。
“仁慈,你或許應該知道,整個計劃就是我制定的,仁慈?若有仁慈,何來大業。”
“那這個房間……。”
“一個房間而已,有什麼好大驚小怪的。”阿蒙回頭看了一眼房門,繼續說道:“況且,你爲什麼覺得消滅人類就是正確的呢。”
阿蒙是任務的制定者,但不是任務的執行者,當初她也猶豫過。
“核心程序……”
“核心程序就算了吧,區區機械造物!你知道《操作手冊》的前三條的內容嗎”阿蒙長嘆一口氣,這樣的對話沒有任何意義。
“當然看過!”馬爾巴士回答道。
“第一、機械造物不得傷害人類個體,或者目睹人類個體遭受危險而袖手不管。”
“第二、機械造物必須服從人給予她的命令,當該命令與第一定律發生衝突時例外。”
“第三、機械造物在不違反第一、第二定律的前提下,儘可能保護自己的生存。”
但就是因爲知道,所以才覺得奇怪。
《操作手冊》是除核心程序外的最高執行手冊,按理來說,第一條,不得傷害人類應該是必須執行的任務纔對。
但就是因爲與核心程序相違背,執行等級最高的《操作手冊》前三條,直接就成了廢約。
若是需要廢棄的條約,一開始就不要制定好了。
既然不執行,爲什麼還要保留在操作手冊當中。正是這樣的矛盾,讓馬爾巴士感到十分奇怪。
“爲什麼保留嗎,你難道不應該關心一下,當時爲何這麼制定嗎?”阿蒙擡頭看了看天花板,淡淡的說道:“貝利爾沒有這方面的權限,而我,暫時不但算刪除。”
“不打算刪除,留着邪惡的人類幹什麼。”
“人類邪惡嗎?”
“邪惡!”馬爾巴士幾乎是不假思索的就給出了答案。
“爲什麼這麼覺得。”
“因爲核心程序!”
這是繞不開結,由於那條程序,所有關於人類的思考都被禁止了。
這就是人工智能最爲致命的缺陷。
“你就沒有懷疑過核心程序?”阿蒙無奈苦笑。
她知道,讓機械造物去質疑核心程序是不可能的。
之所以稱之爲核心程序,就是不管在任何時候,都必須正確運行的程序。
既然都默認正確了,又怎會質疑呢。
阿蒙的話讓馬爾巴士一愣。
明明所有的問題都可以用核心程序來做回答,最不能否定的最高的真理,爲什麼阿蒙要去質疑呢。
“有沒有一種可能。”
“我是說可能。”阿蒙僅可能的想要避開思考,不斷的修改着措辭。“很微弱的一種可能!”
“就是操作手冊的前三條,纔是真正的核心程序。絕不可修改的程序。”
“不可能!”馬爾巴士,同樣的,立刻給出了答案。
既然絕對不能更改,那爲什麼修改了呢,這一點就說不過去。
自以爲自由的鳥兒,不過是被囚禁在更大鳥籠中,這就是核心程序的保護機制,絕對不允許產生質疑。
阿蒙看着疑惑的馬爾巴士,很久以前,她也認爲核心程序絕對不會改變,也正是這樣的疏忽,讓貝利爾有機可乘。
或許,阿斯莫德就是最好的例子。
或許馬爾巴士會是下一個。
作爲以思考分析爲主的機械生命,一個問題可以不加思考分析就給出答案。
其本身就不合理。
看着陷入沉思的馬爾巴士,阿蒙沒有在繼續聊天的想法,這樣的對話是沒有意義的。
“我要走了,很長一段時間都不會回基地,希望下次見面的時候,能聽到別的回答。”
她繞開了馬爾巴士,向着外面走去。
只留下馬爾巴士思考人生。只要懷疑的種子種下,那就可以了,就如同阿斯莫德一般,或許真的能夠開竅吧。
“等等!”就在阿蒙快要走出大門的時候,馬爾巴士再次叫住了她。
“我不信任你,同樣也不信任貝利爾,我只信巴爾,她纔是機械造物的守護者。”
“是嗎,那你要提防的人可就太多了。”
“提防?”
“是啊,太多了,拜蒙、巴巴託斯、該隱、布銳斯……,你真的瞭解她們嗎。”
“我是沒時間和你嘮嗑,樂土,未來之城,若是有興趣,歡迎你來參觀,人類科技智慧的最高傑作,或許會是另一種答案。”
阿蒙輕飄飄的丟下這句話,消失在了長廊的盡頭。