第27章
決定犒勞這個科學家。
南安很安靜地坐着。
此時窗外依舊下着雨, 星星點點的霓虹燈光閃爍，勾勒出他清瘦的背影——
似乎在他看不見的地方，警務員正在各處拉起封鎖線, 把堆滿街道的屍袋搬上車。
“讓我想想，該從哪裏說起比較好……”畢德爾教授關了通訊器, 看向南安，“艾麗說你帶幼崽上過地理課, 對嗎？”
南安點頭。
“那你一定見過那時的人類世界了。”畢德爾教授說,“很早以前, 大約三百多年前，人類還沒有那麽居住密集，他們可以自由在陸地上建立城市。
盡管國家之間會有博弈，但所有的一切——都在往很好的方向發展, 也包括科技，在三百多年前, 人類就發明了手機, 還有平板，電腦，包括沒有人類形态的機器人，他們幫助在旅店送餐, 在醫院挂號。對于當時的人們來說，這是很平常的東西。”
“那……”南安問，“為什麽會變成之後這樣？”
“當時的人們覺得，他們可以掌控科技, 人腦可比機器強多了。”可能是因為南安的原因, 畢德爾教授用了很通俗的語言,“于是人們開始大力發展科技，每個國家都以科技為衡量标準，但也是失控的開始。”
南安睜大雙眼：“怎麽會？”
畢德爾教授：“因為優越感。”
南安一愣。
“優越感？”
“對。”
“每一個地區都覺得自己擁有大量的資源、人力和財富，就算機器失控，他們完全可以去阻止。因此之後的兩百多年裏，人類科技到了無法比拟的高度，是科技史上的巅峰時期。”畢德爾教授看向窗外的霓虹燈，眸色漸漸沉，“但在這之後，處境就變得越來越難了。”
Advertisement
南安僵着身子，一眨不眨地看他。
“兩百多年後，也就是2250年左右，人類經歷了一場巨大的災難，被稱為啓示錄時代。”畢德爾說，“那時候的人類社會，已經創造出了AI機器人，它們分布在每家每戶，人類對此産生了依賴感。因為它們可以做家務，也可以處理各類的事物，它們活得和人類一樣，卻比大部分的人類更遵守社會的規則。”
他停頓了一下，繼續道：“但是有一天，卻出事了。”
“一個機器人在沒被允許的情況下，擅自開啓了取暖器，僅因為它的算法中，低于十度的氣溫需要開啓而已。”他說道，“但是，取暖器靠近窗簾，不僅燒死了正在熟睡的主人，還引發三棟大樓的火災，一千多名活生生的居民，葬身火海。”
南安小聲：“怎麽會？”
“因為它們只有算法，在這個邏輯中，人類的命令低于精準的運算。因此在這之後，人類就出臺了《機器人三大法則》。”
畢德爾看着南安，輕聲問：“知道這個嗎？”
南安點點頭。
在開普勒基地時，工作人員就對他科普過。
但當時他注意力全被窗外的星星吸引了，對于這類法則，他沒聽進去。
于是他又小幅度地搖頭：“我不知道。”
畢德爾教授傾身，把口袋中的一本小冊子給了南安：“上面有玫瑰城的基本準則，也有機器人三大法則的藍本，不過現在的玫瑰城，使用的是《機器人五大法則》。”
于是南安翻開。
在第一頁，那是陳舊的牛皮紙，畫着一朵綻開的玫瑰花。
像是跨越了幾百年的人類發展歷史，帶着說不盡卻又陳舊的痕跡，落在這一支單只的玫瑰上。
緊接着，南安就看到一段話。
【人類于2240年9月1日通過機器人三大法則，即日實行。】
南安的視線往下移。
就見下方三行小字，寫着三句法則——
【機器人不得傷害人類，或者目睹人類危險而袖手旁觀。】
【在不違反第一條法則的前提下，機器人必須服從人給予它的命令。】
【機器人在不違反第一、第二條法則的情況下，要盡力保護自己。】
見南安專注閱讀的模樣，畢德爾教授道：“這僅僅只是一個開始。”
“什麽意思？”
“人類自以為是的優越感，讓他們忽略了機器人背後的強大邏輯。”
他的語氣平穩，南安覺得他真的在講述一個故事，帶着旁觀整個時代的冷靜，和現在的他們毫不相關。
于是南安推測：“是法則不能約束機器人嗎？”
“不。”畢德爾搖頭：“是定義出了錯。”
“孩子，我問你一個很簡單的問題。”
“您說。”
畢德爾：“如果機器人覺得人類遇到危險，那麽，什麽是危險？”
南安思考了下：“比如……掉進水裏，或者在街上被車撞了？”
畢德爾笑了：“都是，卻又不是。”
“沒有一個人能正确得出定義，包括被制定法則的機器人。”他說着嘆了一口氣，“因此，就造成了這一場巨大的人類災難，也是巅峰時代過去，啓示錄時代的開始。”
南安像是被吓到了，他緊緊攥着手冊的一角，睜大了眼睛：“難道說……”
“對。”畢德爾教授點頭，“我知道你想說什麽，我的孩子。在法則出臺後的第八個年頭，機器人得出了一個結論——認為人類不被他們統治，就是危險。”
“那是一場空前絕世的災難，上億的機器人擁有自己的意識，它們互通消息，在空地集合，帶着人類創造出的槍支，像整裝待發的軍隊，然後，以保護人類的名義，全方面侵略了人類社會。”
南安很小心地喘了一口氣。
在他面前，似乎見到了無數機器人，血流成河的城鎮，以及人們驚恐的眼神。
“所以。”南安問道，“它們成功了嗎？”
畢德爾搖頭：“沒有。”
“當時的科學家，在災難開始的一年後，帶着僅存一百萬的人口，建立了新的城市。”畢德爾說，“這就是玫瑰和銀鈴城市的雛形。他們建造了全新的基地，以及堅硬的城牆，抵禦着機器人的攻擊。而在最後，在城牆中，科學家們發現他們可以通過修改三大法則，增加了第零條，直接關停機器人。”
“那是什麽？”
“永遠不得傷害整個人類群體。”畢德爾說道，“同時，立刻啓動毀滅程序。”
南安張了張嘴，像是完全怔住了，他看上去想說什麽，卻聽見通訊器響了。
于是去接電話。
實驗室的通訊器放在角落，南安費力地勾了勾電線，才勉強拉回來。
他眉頭皺着，像是還沉浸在剛才的故事中，而等到接通，聽到對方的聲音後，南安的眉頭瞬間舒展，撐臉軟軟地應了幾句，然後又噠噠跑回來。
“林澤？”
南安點頭。
“他讓我下午就回住所。”南安說，“先去前臺拿個快遞，再送我回去休息。”
畢德爾笑了笑：“我從來沒見過他這樣過。”“嗯？”南安微愣。
“他承受太大的壓力了。”畢德爾教授說，“所以大部分時間，他都是一個人獨處。”
“作為玫瑰城市的科學家，他不能犯之前三大法則的錯誤，卻不能徹底舍棄它，承擔幾千萬玫瑰居民的安全和性命。”畢德爾教授說，“所有很多時候，他表現得不近人情，但希望你能理解。”
南安小聲在心裏說會的。
盡管他是機器人，也不懂太多的人類情感。但這個大壞蛋，在某種程度上來說，是一個很好的人類，起碼在他去南方前幫助了他，也照顧了他，盡管态度不是那麽溫柔。
“所以後面兩條法則是什麽？”南安問，“是誰制定的？”
畢德爾笑了下：“是林澤。”
他說着，慢慢地起身：“《機器人三大法則》後的兩條，是十年前銀鈴和玫瑰分裂後，才擁有的，是玫瑰城市的最高使用法則。”
“第四條，永久廢除前三條及第零條法則。”畢德爾說，“而第五條是……”
“遵循研究所的《人工通用智能AGI》，嚴格執行，如有風險，研究所以及制定人會完全承擔。”
“這裏面有着林澤寫下的近萬條規定，直到現在還在增加，小到每一個機器人的零件規格，大到修補了三百年來，所有機器人慘案的漏洞——同時也包括禁止仿生技術等。”
南安看着畢德爾，不知是什麽情緒。
很奇怪，明明他是被禁止的那一類，但聽到林澤制定的法則以及承擔的壓力時，卻忽然有點想哭。
他抽了抽鼻子，努力讓眼眶紅得不是那麽明顯。
就在這時，聽到畢德爾說：“時間不早了，我得回去了。”
“至于之後兩派的分裂，那就是另一個故事了。”畢德爾離開前，從口袋中掏出餅幹給南安，“這是獎勵，你聽的很專注。”
南安伸手接過餅幹。
他看着畢德爾教授離開的身影，半晌才回過神。
沒再猶豫，他小心地把餅幹藏進抽屜，從樓上下來。
他要去見這個制定法則的科學家了。
南安決定今天一定要給林澤做蛋包飯，并且不畫兇巴巴的蝙蝠，而是要畫滿他的小愛心，犒勞這個為人類發展操心的大科學家。
伴着叮的一聲，南安走出電梯，來到了一樓大廳。
研究所啓動了嚴格的安檢，所有芯片需要上報和篩查，這讓南安感到安全。于是他毫無戒備的走向前臺——
這是他跟吉爾來第一次來研究所時的前臺，工號1350，南安覺得很親切。
“我是艾麗的助手。”南安道，“林澤博士讓我拿一個包裹。”
“好的，稍等。”
前臺沖他笑了笑。
于是南安也跟着彎了眼睛，他後退幾步，像在等待快遞，或者說在等那個科學家人類。
“您的快遞。”
南安應聲擡眼，從前臺手上接過包裹。
但下一秒，他瞥向了對方的手臂。不可置信地睜大了雙眼。
餘光中，那是細微的傷口，卻長滿了銀色的絨毛，正在細小地顫動。
作者有話說：
文中引用阿西莫夫在「Runaround」中的機器人三定律。
以及部分靈感源于電影《i，robot》
下一次更新在周六晚11點30分左右，1w-字大肥章-感恩支持，希望我們能一起陪伴安崽走下去，喜歡的寶貝可以點點作者收藏吖！會繼續努力w；
同類型預收《小玫瑰和他的人類上校》求收藏——
另外有完結文《泛音》
及兩本完結無限流可戳專欄。
非常感謝大家對我的支持，我會繼續努力的！
