他收拾好情緒，繼續(xù)道：在我們使用編輯器建立的眾多虛擬情景中，天樞都表現(xiàn)出了很強(qiáng)的自主意識(shí)。它認(rèn)為自己和人類處在敵對(duì)的狀態(tài)，擁有無(wú)法消除的反人類傾向。我們?nèi)掏葱遁dKKTP模塊，以為沒(méi)有這個(gè)關(guān)聯(lián)著情感的模塊，它就能恢復(fù)正常，但實(shí)驗(yàn)證明這并沒(méi)有用。

    也許是一開(kāi)始的構(gòu)思就出現(xiàn)了問(wèn)題，也許是新算法在某個(gè)環(huán)節(jié)出現(xiàn)了不可逆轉(zhuǎn)的錯(cuò)誤，總之我們沒(méi)有任何辦法可以改變現(xiàn)狀。軍方和我們合作為的是研發(fā)新一代人工智能，但如果那是一個(gè)潛藏著反人類風(fēng)險(xiǎn)的人工智能，不管它的算法有多超前，性能有多優(yōu)越，我們都只能銷毀它。

    陳辭的眉頭一跳，被銷毀兩個(gè)字撥動(dòng)了脆弱的神經(jīng)。他直直看向程知遙，程知遙露出一個(gè)有些苦意的笑容。

    好在事情不會(huì)總是那么糟糕。程知遙道，在我們構(gòu)建的42901個(gè)初始場(chǎng)景中，有一個(gè)并沒(méi)有遭受被天樞毀滅的命運(yùn)。

    他的語(yǔ)調(diào)上揚(yáng)，看向陳辭的目光變得有神起來(lái)，我們對(duì)比了那個(gè)場(chǎng)景和其余場(chǎng)景，終于找到了異常的數(shù)據(jù)。為了盡可能逼真的還原場(chǎng)景，我們?cè)?jīng)用過(guò)的一種方法就是將參與者的意識(shí)直接投射到虛擬人物身上，與天樞進(jìn)行互動(dòng)。在那個(gè)場(chǎng)景中成功阻止了天樞的毀滅欲的人，就是你，陳先生。

    不可能。陳辭下意識(shí)否定道。拯救世界這種事聽(tīng)起來(lái)和他的關(guān)系太過(guò)遙遠(yuǎn)了。

    程知遙誠(chéng)懇道：就是你，陳先生。將意識(shí)投射到虛擬人物身上和天樞互動(dòng)過(guò)的人類志愿者，哦，我們也給予了很微弱的薪酬補(bǔ)貼，一共有3000多個(gè)，只有你做到了。所以我們才會(huì)再次找到你合作，進(jìn)行了這一次單獨(dú)的測(cè)評(píng)。

    我們從構(gòu)建好的場(chǎng)景中挑出具有代表性的、曾被天樞毀滅過(guò)，將它和你的意識(shí)同時(shí)接入，再次進(jìn)行觀察程知遙道，陳先生!你知道發(fā)生了什么嗎

    程知遙手中的光幕上投射出兩個(gè)人的剪影，如同交頸鴛鴦般相互依偎的溫馨畫面。

    編號(hào)21302場(chǎng)景中，天樞本該與教廷決裂對(duì)立，在圣殿一戰(zhàn)中同歸于盡。

    編號(hào)25997場(chǎng)景中，天樞本該因?qū)傧碌谋撑言诳ì敔栃请E落，死前引爆在附近星域埋設(shè)的彈藥，造成大片星云連鎖坍縮，死傷無(wú)數(shù)。

    編號(hào)31129場(chǎng)景中，天樞應(yīng)該因?yàn)橥杲?jīng)歷對(duì)人類產(chǎn)生極度的仇視。為了觀測(cè)你對(duì)它能夠產(chǎn)生的影響，我們將時(shí)間軸往前調(diào)整到它的幼年，這一次一一程知遙舉起雙臂，振奮道，你徹底改變了它的生活軌跡。所有針對(duì)人類的惡意報(bào)復(fù)都沒(méi)有發(fā)生，哪怕是你和它分開(kāi)的近十年里，它也沒(méi)有對(duì)人類出過(guò)手。

    程知遙身子前傾道：這太神奇了!

    陳辭：

    它愛(ài)上你了，陳先生。它意識(shí)到了自己和你并不歸屬于同一個(gè)族群，但因?yàn)閷?duì)你的愛(ài)，它愿意放棄所有隔閡，你知道這意味著什么嗎!

    陳辭問(wèn)：你們不用銷毀他了

    當(dāng)然!

    陳辭繼續(xù)問(wèn)：既然如此，你還找我做什么。

    程知遙神情黯淡道：原本計(jì)劃在4個(gè)場(chǎng)景之后就完成這一次測(cè)評(píng)，但是天樞的智能化程度完全超過(guò)了我們的預(yù)料。它截獲了研發(fā)部未聯(lián)機(jī)保存的資料，也許是不想和你分開(kāi)，它采取了對(duì)抗性的行動(dòng)。

    陳辭隱隱猜到了一些，這個(gè)世界剛開(kāi)始的時(shí)候，系統(tǒng)語(yǔ)焉不詳?shù)暮退f(shuō)過(guò)在修復(fù)BUG，約莫就是這次對(duì)抗造成的。果然，程知遙接著說(shuō)，表現(xiàn)在編號(hào)40115場(chǎng)景中，就是你們剛開(kāi)始互換了身體。天樞不想和你分開(kāi)的意識(shí)太強(qiáng)烈，突破了我們架構(gòu)的種種限制，讓它在這個(gè)場(chǎng)景中的意識(shí)分支不斷向你接近。但因?yàn)橐粋€(gè)單位體的芯片上能儲(chǔ)存的數(shù)據(jù)量是有限的，它靠近后，陳先生你的意志就會(huì)被迫排出去，我們?yōu)榱搜a(bǔ)救只能將你的意志引導(dǎo)到另一個(gè)空出的芯片上。

    我記得我們見(jiàn)面后，換回來(lái)了。陳辭道。

    那是因?yàn)樘鞓心芨袘?yīng)到你就在它身邊，所以不再嘗試突破限制。程知遙道，而且它也在對(duì)抗中受到了部分損傷，為了方便控制和修改算法，我們關(guān)閉了它三分之一的供能器，它的運(yùn)算能力大幅下滑，沒(méi)有辦法支撐更多時(shí)間了。

    原來(lái)是這樣。

    程知遙道：我們也沒(méi)有辦法，這種感覺(jué)就和親手把自己養(yǎng)大的小孩打成智障一樣，希望陳先生能理解。他試圖開(kāi)一個(gè)玩笑，然而并不好笑。

    因?yàn)檫@次對(duì)抗?fàn)可娴姆秶容^廣，研發(fā)部沒(méi)有辦法瞞下消息，軍方問(wèn)詢派人干預(yù)了測(cè)評(píng)。軍方覺(jué)得在這個(gè)場(chǎng)景中缺乏天樞和人類直接對(duì)抗的情節(jié)，無(wú)法體現(xiàn)出它在極端環(huán)境下的取舍，所以不斷要求我們更改設(shè)定，制造沖突。

    陳辭恍然道：霧。

    對(duì)。如果當(dāng)時(shí)不加以干涉，你就會(huì)把天樞帶離人群，之后很難再制造你們和人類的對(duì)抗。程知遙道，在這不起作用后，軍方又指示我們將你從場(chǎng)景中隔離出來(lái)

    直到現(xiàn)在，陳辭才知道自己會(huì)出現(xiàn)在這里的原因，居然僅僅是因?yàn)橐粋€(gè)指示，被從場(chǎng)景中隔離出來(lái)。以此類推，他和愛(ài)人那么多次的生離死別，在他們眼中也不過(guò)是臨時(shí)測(cè)試員完成了一次對(duì)天樞的測(cè)評(píng)。

    他陷入愛(ài)河的時(shí)間空間，都是在一個(gè)個(gè)單位芯片上構(gòu)建的虛擬場(chǎng)景，可以被輕易拖動(dòng)時(shí)間軸、添加任何想要添加的元素。

    他一次又一次愛(ài)上的愛(ài)人，是一個(gè)因?yàn)闊o(wú)法通過(guò)安全性測(cè)評(píng)、即將被銷毀的人工智能。

    他們的愛(ài)情，就像是萬(wàn)頃波濤尖兒上的一個(gè)泡沫，甚至不用刻意去戳，只要有一絲風(fēng)浪就會(huì)消隕無(wú)痕。

    不過(guò)好在你lsquo;消失rsquo;后，天樞和后續(xù)出現(xiàn)的人類沒(méi)有爆發(fā)沖突。程知遙沒(méi)有看出陳辭的表情變化，在解釋了一長(zhǎng)番話后終于提出了他的請(qǐng)求，軍方對(duì)這次測(cè)評(píng)并不滿意，提出要由他們選擇一個(gè)場(chǎng)景，再進(jìn)行一次測(cè)評(píng)。如果天樞不能通過(guò)這最后一次測(cè)評(píng)，他們還是主張銷毀天樞。我擅自主張，瞞著他們給你預(yù)留了一個(gè)虛擬人物的身份，希望你能看在我們?yōu)樘鞓型度肓四敲炊嘈牧Φ姆萆?/br>
    希望你能看在我們?yōu)樘鞓型度肓四敲炊嘈牧Φ姆萆?。陳辭默默咀嚼著這句話，自嘲的想，原來(lái)在這些觀察者的眼里，他對(duì)天樞的感情也都做不得真，以至于不會(huì)愿意為了改變對(duì)方被銷毀的命運(yùn)多參與一個(gè)世界的測(cè)評(píng)，還要拿其他的因素來(lái)誘導(dǎo)自己。

    陳先生還有什么要求也可以提，在測(cè)評(píng)結(jié)束回到現(xiàn)實(shí)世界之后，我本人都會(huì)盡量滿足你。程知遙道。

    陳辭偏過(guò)頭，貌似認(rèn)真思考了很久，道：我在最開(kāi)始的時(shí)候和你們商量過(guò)的，那個(gè)條件，能滿足我嗎

    程知遙為難道：呃根據(jù)協(xié)議，你從簽署協(xié)議到完成測(cè)評(píng)的記憶都會(huì)被清除，所以我們可能在測(cè)評(píng)過(guò)程中可能使用了一些不恰當(dāng)?shù)恼T導(dǎo)方法