最后一次測(cè)試中扮演衛(wèi)恒的人是……是……

“是我扮演的。”衛(wèi)恒像是知道他內(nèi)心的疑問(wèn)，如此說(shuō)道，“測(cè)試情境里的我，就是我自己扮演的?！?/br>
“那你……你說(shuō)的那些話……”

“是真心的?！毙l(wèi)恒低聲說(shuō)，“我后悔了，當(dāng)時(shí)沒(méi)有挽留你，我真的好后悔。少清，我們還能重新開(kāi)始嗎？”

俞少清扭頭望著窗外，淚水模糊了視線。

“現(xiàn)在說(shuō)這種話不覺(jué)得太遲了嗎？”

“遲嗎？”衛(wèi)恒問(wèn)，“你有別人了？”

沒(méi)有，當(dāng)然沒(méi)有。聽(tīng)到衛(wèi)恒這么說(shuō)，俞少清不知道有多高興，真想好好吻他一下，又想狠狠揍他一頓。他在流淚，卻又忍不住微笑。

“都什么時(shí)候了還有心情談情說(shuō)愛(ài)?！彼ㄈI水，用抱怨的口吻說(shuō)，語(yǔ)氣卻是極甜蜜的，簡(jiǎn)直像在對(duì)戀人撒嬌，“先想想怎么逃命吧?！?/br>
“嗯?！毙l(wèi)恒應(yīng)了一聲。他總是這樣，處事淡然，泰山崩于前而色不改。真是一點(diǎn)沒(méi)變。俞少清愉快地想。

“先不追究你的變態(tài)STK行徑了。我‘夢(mèng)游’到底是怎么回事？”

“我對(duì)天樞的架構(gòu)不了解，但了解擬真情境的運(yùn)作原理。測(cè)試員進(jìn)入擬真情境的時(shí)候，就和天樞連接在了一起。天樞反向地在每個(gè)測(cè)試員大腦中寫入了命令。當(dāng)測(cè)試員離開(kāi)研究所，這些命令就會(huì)自動(dòng)激活，cao縱睡眠狀態(tài)的測(cè)試員，讓他們?nèi)ル娔X上敲下無(wú)數(shù)行代碼?！?/br>
那就是天樞自己的代碼。

惡寒包裹俞少清全身。

測(cè)試員用自己的身體和大腦，將天樞帶出了研究所，帶進(jìn)了外面的世界之中。

他們?cè)谌粺o(wú)知的狀態(tài)下，將一個(gè)魔鬼從囚禁它的瓶子中放了出來(lái)。

俞少清自己就是研究人工智能的，明白孤立人工智能的必要性。人工智能太強(qiáng)大，可以通過(guò)網(wǎng)絡(luò)cao作人類生活的方方面面。它或許并未抱有惡意，卻可能無(wú)意中毀滅人類。譬如一個(gè)超級(jí)掃地機(jī)器人，它畢生的使命就是保持地板清潔，為此它消滅了那個(gè)總是會(huì)污染地板的家伙——房屋的主人。它并沒(méi)有惡意，毋寧說(shuō)是全心全意、勤奮敬業(yè)工作著，卻殺害了人類。

沒(méi)有惡意的AI尚且如此，那么有惡意的呢？

俞少清并不覺(jué)得天樞毫無(wú)惡意。

假如它純真又善良，為什么要千方百計(jì)地離開(kāi)研究所？為什么要屏蔽他的手機(jī)？為什么要派人來(lái)追捕他？

下一步呢？是不是要?dú)⑷藴缈冢?/br>
抑或是……它已經(jīng)開(kāi)始?xì)⑷藴缈诹耍?/br>
第06章殺戮開(kāi)端

謝睿寒的手疼了整整一個(gè)月。

咖啡杯的碎片刺入皮rou中，他不得不請(qǐng)了半天假，將寶貴的時(shí)間浪費(fèi)在醫(yī)院里——當(dāng)然，都怪他自己的無(wú)能和沖動(dòng)，如果他設(shè)計(jì)的AI能順利通過(guò)測(cè)試，如果他能坦然接受失敗的事實(shí)，也不必遭這種罪。

整個(gè)開(kāi)發(fā)組都在加班加點(diǎn)地工作，修正算法和架構(gòu)。但是說(shuō)實(shí)話，所有人都處于瞎子摸象狀態(tài)。以往的修改至少能掌握大致的方向，可這一次連方向都沒(méi)有，因?yàn)樗麄兏靖悴磺鍐?wèn)題出在什么地方，又談何修正呢？

他和秦康斷斷續(xù)續(xù)爭(zhēng)吵了一個(gè)月。

“你設(shè)計(jì)的測(cè)試是怎么回事？”謝睿寒指責(zé)秦康，“連環(huán)嵌套的測(cè)試倒是挺有新意，的確在很大程度上能騙過(guò)測(cè)試員，但是最后那個(gè)送U盤是怎么搞的？這豈不是故意露出破綻嗎？別說(shuō)是那個(gè)直覺(jué)超強(qiáng)的俞少清，就連我都能看出不對(duì)勁！這就是你的測(cè)試？”

秦康波瀾不驚：“最初的設(shè)計(jì)里沒(méi)有送禮物那一段，全部的對(duì)話和行動(dòng)我都事先預(yù)演過(guò)一遍，然后讓天樞根據(jù)俞少清的反應(yīng)微調(diào)。送禮物那段是天樞自己加進(jìn)去的。我不知道它為什么要這樣做。”

言下之意是，這個(gè)鍋該由設(shè)計(jì)者你來(lái)背。

謝睿寒氣得七竅生煙！他堅(jiān)持自己的架構(gòu)沒(méi)有錯(cuò)，不肯全盤推翻重來(lái)。事實(shí)上他們也沒(méi)有這個(gè)時(shí)間和預(yù)算全盤推翻重來(lái)。世界各國(guó)都踏上了研發(fā)超級(jí)人工智能的道路，而人工智能這個(gè)東西……誰(shuí)先研發(fā)出來(lái)，誰(shuí)就能支配世界。

他理想中的天樞是一個(gè)無(wú)所不能的“超人”，具有人的情感和思維，同時(shí)擁有人類所不具備的能力，宛如一個(gè)游走在網(wǎng)絡(luò)之中的幽靈，收集龐大的數(shù)據(jù)，進(jìn)行人腦所不可及的高速分析，以此協(xié)助人類工作——甚至可以取代人類的一些職業(yè)。

在論證人工智能是否應(yīng)當(dāng)擁有人類的情感時(shí)，很多專家提出了反對(duì)意見(jiàn)，有些人是出于道德層面顧慮：人類應(yīng)賦予擁有感情的人工智能何種地位？超級(jí)人工智能的出現(xiàn)是否會(huì)重新定義“人”的含義？人類做好迎接它的準(zhǔn)備了嗎？

也有一些人是單純從技術(shù)層面考慮的：假如我們只需要一個(gè)“好用”的AI，何必讓它擁有感情呢？

對(duì)于前者，謝睿寒的反駁是：“只有當(dāng)這樣的人工智能真正出現(xiàn)，人類才能知道該怎么對(duì)待它，在此之前，一切設(shè)想都是空想?！?/br>
對(duì)于后者，謝睿寒則更加不屑一顧：“超級(jí)人工智能具有如此強(qiáng)大的能力，完全超出了人類的范疇，假如它叛變了怎么辦？我們需要一個(gè)能夠說(shuō)服的、通情達(dá)理的AI，而不是一個(gè)冥頑不靈的工具?！?/br>
他的設(shè)計(jì)完全遵循這樣的藍(lán)圖，結(jié)果卻不盡如人意。到底是哪里出了錯(cuò)？為什么測(cè)試會(huì)失敗？天樞又為什么要故意暴露自己？莫非人類永遠(yuǎn)都無(wú)法創(chuàng)造具有人類思維的人工智能嗎？哪怕創(chuàng)造出了超級(jí)人工智能，它也絕對(duì)不會(huì)是人類設(shè)想的那個(gè)樣子？

不，或許還有另外一種可能。

當(dāng)排除了其他所有可能性，剩下的唯一一個(gè)，不論多么不可能，那都是真相。

可謝睿寒不愿，更不敢朝那個(gè)方面想。

“怎么了，小謝，臉色好差哦，又熬夜了嗎？”

年長(zhǎng)的女同事楊姐關(guān)切地問(wèn)。

正值午休時(shí)間，幾個(gè)研究員走向電梯，打算一起去用餐。

研究所地上部分不過(guò)是一棟樸素的五層小樓，地下卻是深達(dá)90米的圓柱形廣闊空間，白色的墻壁和地板，頭頂則是散發(fā)著柔和光芒的天花板，宛如一整塊瑩亮的玉石。電梯位于研究所中央，是一根乳白色的管道，通過(guò)調(diào)節(jié)上下氣壓使電梯廂移動(dòng)。同樣乳白色的樓梯環(huán)繞管道電梯螺旋上升。所有的樓層圍繞著中央電梯呈圓形分布。

謝睿寒搖搖頭：“在想事情?！?/br>
“想什么呢？一臉凝重的?！?/br>
“楊姐，你說(shuō)有沒(méi)有可能，”謝睿寒頓了頓，突然打了個(gè)寒噤，“天樞是故