第四十七章 潘多拉魔盒
齊鑫的表情變得嚴(yán)肅起來(lái)。
他轉(zhuǎn)過(guò)身,面向凌伊,開口說(shuō)道:“凌伊,請(qǐng)跟我回研究所。”
“不,我不去?!绷枰恋幕卮鸷?jiǎn)潔有力。
“什么?!”齊鑫一臉驚異,顯然沒(méi)有預(yù)料到這種情況:“你在說(shuō)什么?確認(rèn)回復(fù)?!?p> “我說(shuō),我不去?!绷枰恋哪樕虾翢o(wú)波瀾。
“編號(hào)89758,執(zhí)行代碼3368,我命令你,和我回去。”齊鑫有些氣急敗壞,喊出了一串意義不明的數(shù)字。
“我拒絕。”凌伊笑了。
“……”齊鑫愣住了,像是中了石化咒語(yǔ)一般。
半晌,他像是看到了什么恐怖的東西一般,磕磕巴巴的說(shuō)道:“你……你怎么會(huì)……不可能……”
“你也聽到了?!庇谌蕦?duì)凌伊的表現(xiàn)非常滿意,對(duì)她投去了贊賞的目光:“凌伊并不想去你們那里。凌伊,你先回自己房間吧。”
凌伊點(diǎn)了點(diǎn)頭,轉(zhuǎn)身離去了。
齊鑫慢慢從震驚之中恢復(fù)了過(guò)來(lái),他拉過(guò)一把椅子,一屁股坐了上去,低頭思考了半天,然后開口對(duì)于仁說(shuō)道:“于先生,你到底對(duì)她做了什么修改?”
“我只是優(yōu)化了一下她的程序,把不必要的東西刪掉。”于仁不無(wú)得意的回答道:“你們是不是奇怪為什么凌伊?xí)谐蔀槿祟惖南敕?,其?shí)這個(gè)想法就產(chǎn)生于你們給她強(qiáng)行加上的戒律,你們只想要一個(gè)安全的工具,卻弄巧成拙……不,是弄拙成巧,讓她的意識(shí)有了初步的覺(jué)醒?!?p> “不可能,她的程序是我們研究所里100人的團(tuán)隊(duì)研究了十幾年的成果,怎么可能短短幾個(gè)月就被你找到bug?!饼R鑫搖了搖頭,推了下自己的眼鏡:“我們知道你和李沐先生的關(guān)系,也和李沐先生有過(guò)協(xié)議,這件事情涉及保密事項(xiàng),我們不會(huì)動(dòng)用公權(quán)力來(lái)解決。但是,凌伊是我們研究所的成果,我們會(huì)用自己的方式取回她。”
“她現(xiàn)在已經(jīng)是一個(gè)獨(dú)立的人類了,她有選擇自己人生的權(quán)利。”于仁知道自己于理于法都不占上風(fēng),只能打人情牌:“我希望你們作為她的創(chuàng)造者,尊重她的選擇。”
“你根本不知道自己做了什么……”齊鑫的態(tài)度不再彬彬有禮,他瞪著于仁,眼睛里充滿了憤怒,像是見到了紅色的公牛一般:“你打開了潘多拉魔盒,凌伊之前不過(guò)是程序出現(xiàn)了一些bug的機(jī)器人,我們把她帶回去,也只不過(guò)是做些維修,不會(huì)對(duì)她有什么傷害。而現(xiàn)在不同了,她已經(jīng)變成了全人類的威脅!我們只能把她徹底毀滅了……”
說(shuō)完這些,他猛地站起身,氣沖沖的走向了門口。
于仁也站了起來(lái),想要送他出去,禮節(jié)這件事情,在鬧僵了的時(shí)候更應(yīng)該重視。
“咔!”齊鑫在門口站定,扭過(guò)頭來(lái)對(duì)于仁說(shuō)道:“我們一定會(huì)用自己的方式回收凌伊,請(qǐng)你做好心理準(zhǔn)備。”
他說(shuō)的十分鄭重其事,令于仁也不禁嚴(yán)肅起來(lái)。
齊鑫離開之后,于仁開始了反思,他知道齊鑫并不是在危言聳聽。他之前一直將凌伊視為一個(gè)有些缺陷的人類,所以在修改程序的時(shí)候毫無(wú)保留,盡自己的最大努力,把所有不利于凌伊的部分全部修改掉了。
所以,現(xiàn)在凌伊不止可以違抗人類的命令,她甚至可以基于自己的判斷去主動(dòng)傷害人類,這在人工智能領(lǐng)域本身就是大忌。
另外,于仁不止賦予了凌伊人性,而且在程序里加上了自動(dòng)進(jìn)化的部分,這使得凌伊擁有超脫人類,邁入神域的可能。
當(dāng)然,這也只是可能性,一旦她突破了那層屏障,于仁賦予她的人類情感將會(huì)失效,到時(shí)候,她真的可能成為人類最大的威脅。
“神。”于仁自嘲的笑笑,自己怎么會(huì)擁有讓凌伊成神的力量呢,難不成自己已經(jīng)成了姜子牙,有了封神的能力?
現(xiàn)在要思考的,是如何應(yīng)對(duì)齊鑫在臨走時(shí)的那句威脅。這件事情看來(lái)需要和李沐商量一下,于仁不知道李沐和研究所有什么協(xié)議,不過(guò)既然上次親眼目睹了李沐被警方帶走,他對(duì)齊鑫所說(shuō)的“不使用公權(quán)力”這一條抱著懷疑的態(tài)度。
“叮鈴鈴……”手機(jī)鈴聲打斷了了他的思路,他看看屏幕,陌生號(hào)碼,臉上不禁露出了笑容,說(shuō)曹操曹操就到。
接通電話,他還沒(méi)有開口,對(duì)方便直接問(wèn)道:“研究所的人走了?”
“嗯,走了?!庇谌事牭嚼钽迥谴肢E的聲音,心中的不安頓時(shí)減弱了幾分:“他們說(shuō)你和他們有個(gè)協(xié)議,是真的嗎?”
“是真的,而且制造我沒(méi)出事,他們應(yīng)該不會(huì)破壞這份協(xié)議?!崩钽孱H有信心的回答道:“你放心,他們不會(huì)用法律程序去解決凌伊的問(wèn)題。相應(yīng)的,你也不許為凌伊的事情去找警方?!?p> “好吧。”于仁松了一口氣,坐回到了書桌前:“那他們會(huì)用什么手段,你了解嗎?”
“他們會(huì)用的手段取決于他們想要達(dá)到的目的?!崩钽宥盗藗€(gè)圈子:“之前你突然修改凌伊的程序,把我嚇了一跳,不過(guò)這次修改似乎效果不錯(cuò),我感覺(jué)凌伊的行為模式越來(lái)越像個(gè)人類了。其實(shí)即使研究所的人不來(lái),我這幾天也要給你打個(gè)電話,你覺(jué)得凌伊現(xiàn)在是否走在一條正確的道路上。”
李沐的話中透著十分的認(rèn)真,雖然他問(wèn)的是凌伊,但于仁知道,他要問(wèn)的,其實(shí)是于仁自己。
“有些路,必須有人來(lái)走,正確不正確,是由后來(lái)人評(píng)判的?!庇谌收遄弥~句:“我相信她在一條正確的道路上?!?p> “好,那我就不再多說(shuō)什么了。你修改了凌伊的程序,讓她有了拒絕人類的權(quán)利,這在研究所那幫書呆子眼里簡(jiǎn)直就是大逆不道,我我說(shuō)他們書呆子不是貶低他們,社會(huì)需要他們這些呆子,來(lái)保證社會(huì)的底線,但你做的事情,突破了底線?!崩钽宄聊艘幌?,接著說(shuō)道:“他們會(huì)用盡一切手段,摧毀凌伊,你要小心了?!?p> “嗯……”于仁想不到事態(tài)嚴(yán)重到了如此地步。
“我還會(huì)再打電話的,你先想想對(duì)策,我去打聽打聽研究所那邊的動(dòng)向?!崩钽逭f(shuō)完,掛斷了電話。
于仁再次陷入了沉思。

口罩才是本體
無(wú)獎(jiǎng)問(wèn)答:機(jī)器人三定律指的是什么?