第四十七章 潘多拉魔盒
齊鑫的表情變得嚴肅起來。
他轉(zhuǎn)過身,面向凌伊,開口說道:“凌伊,請跟我回研究所?!?p> “不,我不去?!绷枰恋幕卮鸷啙嵱辛?。
“什么?!”齊鑫一臉驚異,顯然沒有預(yù)料到這種情況:“你在說什么?確認回復(fù)?!?p> “我說,我不去?!绷枰恋哪樕虾翢o波瀾。
“編號89758,執(zhí)行代碼3368,我命令你,和我回去。”齊鑫有些氣急敗壞,喊出了一串意義不明的數(shù)字。
“我拒絕。”凌伊笑了。
“……”齊鑫愣住了,像是中了石化咒語一般。
半晌,他像是看到了什么恐怖的東西一般,磕磕巴巴的說道:“你……你怎么會……不可能……”
“你也聽到了?!庇谌蕦α枰恋谋憩F(xiàn)非常滿意,對她投去了贊賞的目光:“凌伊并不想去你們那里。凌伊,你先回自己房間吧?!?p> 凌伊點了點頭,轉(zhuǎn)身離去了。
齊鑫慢慢從震驚之中恢復(fù)了過來,他拉過一把椅子,一屁股坐了上去,低頭思考了半天,然后開口對于仁說道:“于先生,你到底對她做了什么修改?”
“我只是優(yōu)化了一下她的程序,把不必要的東西刪掉。”于仁不無得意的回答道:“你們是不是奇怪為什么凌伊?xí)谐蔀槿祟惖南敕?,其實這個想法就產(chǎn)生于你們給她強行加上的戒律,你們只想要一個安全的工具,卻弄巧成拙……不,是弄拙成巧,讓她的意識有了初步的覺醒。”
“不可能,她的程序是我們研究所里100人的團隊研究了十幾年的成果,怎么可能短短幾個月就被你找到bug?!饼R鑫搖了搖頭,推了下自己的眼鏡:“我們知道你和李沐先生的關(guān)系,也和李沐先生有過協(xié)議,這件事情涉及保密事項,我們不會動用公權(quán)力來解決。但是,凌伊是我們研究所的成果,我們會用自己的方式取回她。”
“她現(xiàn)在已經(jīng)是一個獨立的人類了,她有選擇自己人生的權(quán)利?!庇谌手雷约河诶碛诜ǘ疾徽忌巷L(fēng),只能打人情牌:“我希望你們作為她的創(chuàng)造者,尊重她的選擇。”
“你根本不知道自己做了什么……”齊鑫的態(tài)度不再彬彬有禮,他瞪著于仁,眼睛里充滿了憤怒,像是見到了紅色的公牛一般:“你打開了潘多拉魔盒,凌伊之前不過是程序出現(xiàn)了一些bug的機器人,我們把她帶回去,也只不過是做些維修,不會對她有什么傷害。而現(xiàn)在不同了,她已經(jīng)變成了全人類的威脅!我們只能把她徹底毀滅了……”
說完這些,他猛地站起身,氣沖沖的走向了門口。
于仁也站了起來,想要送他出去,禮節(jié)這件事情,在鬧僵了的時候更應(yīng)該重視。
“咔!”齊鑫在門口站定,扭過頭來對于仁說道:“我們一定會用自己的方式回收凌伊,請你做好心理準(zhǔn)備?!?p> 他說的十分鄭重其事,令于仁也不禁嚴肅起來。
齊鑫離開之后,于仁開始了反思,他知道齊鑫并不是在危言聳聽。他之前一直將凌伊視為一個有些缺陷的人類,所以在修改程序的時候毫無保留,盡自己的最大努力,把所有不利于凌伊的部分全部修改掉了。
所以,現(xiàn)在凌伊不止可以違抗人類的命令,她甚至可以基于自己的判斷去主動傷害人類,這在人工智能領(lǐng)域本身就是大忌。
另外,于仁不止賦予了凌伊人性,而且在程序里加上了自動進化的部分,這使得凌伊擁有超脫人類,邁入神域的可能。
當(dāng)然,這也只是可能性,一旦她突破了那層屏障,于仁賦予她的人類情感將會失效,到時候,她真的可能成為人類最大的威脅。
“神?!庇谌首猿暗男π?,自己怎么會擁有讓凌伊成神的力量呢,難不成自己已經(jīng)成了姜子牙,有了封神的能力?
現(xiàn)在要思考的,是如何應(yīng)對齊鑫在臨走時的那句威脅。這件事情看來需要和李沐商量一下,于仁不知道李沐和研究所有什么協(xié)議,不過既然上次親眼目睹了李沐被警方帶走,他對齊鑫所說的“不使用公權(quán)力”這一條抱著懷疑的態(tài)度。
“叮鈴鈴……”手機鈴聲打斷了了他的思路,他看看屏幕,陌生號碼,臉上不禁露出了笑容,說曹操曹操就到。
接通電話,他還沒有開口,對方便直接問道:“研究所的人走了?”
“嗯,走了?!庇谌事牭嚼钽迥谴肢E的聲音,心中的不安頓時減弱了幾分:“他們說你和他們有個協(xié)議,是真的嗎?”
“是真的,而且制造我沒出事,他們應(yīng)該不會破壞這份協(xié)議?!崩钽孱H有信心的回答道:“你放心,他們不會用法律程序去解決凌伊的問題。相應(yīng)的,你也不許為凌伊的事情去找警方。”
“好吧?!庇谌仕闪艘豢跉?,坐回到了書桌前:“那他們會用什么手段,你了解嗎?”
“他們會用的手段取決于他們想要達到的目的。”李沐兜了個圈子:“之前你突然修改凌伊的程序,把我嚇了一跳,不過這次修改似乎效果不錯,我感覺凌伊的行為模式越來越像個人類了。其實即使研究所的人不來,我這幾天也要給你打個電話,你覺得凌伊現(xiàn)在是否走在一條正確的道路上?!?p> 李沐的話中透著十分的認真,雖然他問的是凌伊,但于仁知道,他要問的,其實是于仁自己。
“有些路,必須有人來走,正確不正確,是由后來人評判的。”于仁斟酌著詞句:“我相信她在一條正確的道路上?!?p> “好,那我就不再多說什么了。你修改了凌伊的程序,讓她有了拒絕人類的權(quán)利,這在研究所那幫書呆子眼里簡直就是大逆不道,我我說他們書呆子不是貶低他們,社會需要他們這些呆子,來保證社會的底線,但你做的事情,突破了底線?!崩钽宄聊艘幌?,接著說道:“他們會用盡一切手段,摧毀凌伊,你要小心了?!?p> “嗯……”于仁想不到事態(tài)嚴重到了如此地步。
“我還會再打電話的,你先想想對策,我去打聽打聽研究所那邊的動向。”李沐說完,掛斷了電話。
于仁再次陷入了沉思。
口罩才是本體
無獎問答:機器人三定律指的是什么?