第227頁

請關閉瀏覽器的閱讀/暢讀/小說模式並且關閉廣告遮蔽過濾功能，避免出現內容無法顯示或者段落錯亂。

這裡多的是崎嶇不平的山路，巨大的石頭四處都是，四周是高山，給人一種空寂的陰森感覺。

幸好因為許多年來，機器人隊伍多次往返，所以有一條道路。

&ldo;羅一諾科學家。&rdo;盛凜喊他。

&ldo;嗯?什麼事?&rdo;羅一諾按了一下頭盔，立刻，頭盔的部分位置開啟，羅一諾露出了一雙眼睛。

&ldo;除了戰鬥型機器人，其他的機器人有違背機器人三大原則的可能性嗎?&rdo;盛凜問。

羅一諾難得沉默了。

&ldo;失敗品機器人呢?&rdo;盛凜追問。

&ldo;失敗品機器人其實大部分是因為人類的錯誤指令，所以才會誕生的。&rdo;羅一諾沒有想到，現在就要把自己的研究結果公佈出來了，&ldo;有時候，人類會給機器完全矛盾的一對指令。比如說，我要一個機器人保護一個小孩。在這時，保護那個小孩，就是機器人的第一任務。但是這時候，可能會有一個壞人挾持了一個人，對機器人說道，如果不想我傷害這個人類，就把那個小孩給我。對於機器人來說，保護小孩是他的第一任務，但是機器人三大原則，不容許他不作為使人類受傷害。在這時，機器人的系統就會出現紊亂。繼而，有進一步成為失敗品的可能性。當機器成為失敗品後，他就會從保護小孩、保護被挾持的人類中得出一個結論，如果他傷害了犯人，同時不讓他致死，就成功完成了任務，也不違反原則。其實他的這個想法是錯誤的，但也是正確的。他為了保護兩個人，決定傷害一個人類，但是沒有殺死另一個人。機器對於人的身體構造非常清楚，稍微一臺中型號以上的機器人，就能在維持一個人類的基礎生命的同時，無限制虐待人類。&rdo;

對於人類威脅最大的，永遠是人類生產出來的武器。

盛凜在思考。

在羅一諾看來，其實人類設定的三大原則，反而是機器容易變成失敗品的重要原因。

&ldo;那你呢?&rdo;盛凜問，&ldo;我不止一次看到你傷害人類。&rdo;

&ldo;其實機器人的原則，在我的系統中，比這個世界上任何一臺機器都要有效。&rdo;羅一諾說，&ldo;但是機器人的原則，不是三條，是四條。第零原則是，我們首先應該保證的是，人類這個整體的利益。我可以傷害人類，是因為人類想要傷害我，我一旦受傷害，就有可能影響到柯羅諾斯系統，我就是人類的整體利益。因此，在我判斷對方的行為會威脅我的時候，我將採取第零原則，反擊，甚至可以抹殺對方。&rdo;

就像他在金伯利的別墅，明知道自己將遙控器扔給那一條人魚的話，會發生什麼悲劇，他還是選擇扔進去。

人魚的懇求，為了復仇。

他的作為，為了人類的整體利益。

合乎程式。

盛凜聽著，突然有一個想法，他問：&ldo;如果有一天，你覺得，人類的存在會傷害人類整體利益……如果你找到了合理的邏輯落腳點，那你可以抹殺全人類嗎?&rdo;

這只是盛凜的突發奇想，沒有來由的。

羅一諾聞言，在他的背後，嘴角上揚，笑了。

當然了，因為他是機器，可以完美控制自己的表情。

所以他被頭盔擋住的嘴角在笑，但是露出來的雙眼卻是如同往常的淡漠。

&ldo;可以哦。&rdo;他輕飄飄地回答盛凜的問題。

山間的風太冷了，盛凜突然起了一身雞皮疙瘩。

羅一諾笑著，將腦袋靠在盛凜的後背，圈住他的腰肢。他往前坐了一些，故意用腳蹭了一下