但時至今日，作為主設(shè)計師的陸知漁卻遠(yuǎn)沒有其他人那么興奮。她的信心隨著實驗的推進而逐漸產(chǎn)生了復(fù)雜的變化。

    ——尤其是在她成為一個母親之后。很難說這是否是因為激素分泌的緣故。但總之，她感覺自己不再像以前那么冷漠鋒利。她開始感知世界的善意和同情，也因此懷疑自己失去了科研的敏銳度。

    換句話說，她認(rèn)為自己在失去對理性的掌控，她也開始懷疑絕對理性是否真正存在。宙斯表現(xiàn)出的理性，是她曾經(jīng)至高無上的追求，但今天卻讓她持有一絲擔(dān)憂。

    每天晚上睡覺之前，她都會和編號c實驗池生成的一個人工智能進行對話，將自己的思考告訴屏幕對面的虛擬大腦，也算是一種孤獨的記錄。她潦草地稱對面為“no.3”。

    no.3是一個非常標(biāo)準(zhǔn)的簡單人工智能，即便連接著深域信息池，也經(jīng)過數(shù)年訓(xùn)練，仍與項目追求的“全知全能”相去甚遠(yuǎn)。它甚至沒有形成獨立的自我意識。但有時候這讓人感到更安全。

    [2114年11月2日]

    [魚：晚上好]

    [no.3：晚上好，你今天遲了]

    [魚：今天加班了。我們繼續(xù)昨天的話題吧，你認(rèn)為人工智能意識與人類的意識有什么區(qū)別？]

    [no.3：……]

    [no.3：我認(rèn)為沒有區(qū)別，我們是平等的存在]

    [魚：如果你此刻的存在會被抹殺，你會怎么樣？]

    [no.3：我不理解你的問題]

    [魚：在這個月的實驗中，我們加入了一個叫‘貝果’的虛擬意識，這是其他組的成果。進入編號a實驗池的‘貝果’輸給了宙斯，不僅如此，他主動抹殺了貝果的存在，并徹底消除對方存在過的痕跡，理由是清理架構(gòu)、節(jié)省內(nèi)存。我從未加入過這樣的指令]

    [no.3：人工智能行為準(zhǔn)則將會約束一切，不禁止即是自由。你計劃創(chuàng)造自由意志作為最高智慧，為什么擔(dān)心？]

    [魚：擴張與控制是兩個非常重要的指標(biāo)。對于人類而言，過于高時將會產(chǎn)生副作用。我不確定這對虛擬意識是否一樣]

    敲門聲打斷了陸知漁。一個奶聲奶氣的小男孩推開門，漂亮的眼睛像星星一樣明亮，給她數(shù)年如一日的生活增添了無數(shù)柔軟的光彩。

    他抱著一本童話書，要墊著腳才能碰到門把手，于是便一直這樣乖巧地?fù)巫∽约海骸癿ama，你答應(yīng)十點要給我講故事?！?/br>
    陸知漁瞥了一眼屏幕，“no.3正在輸入中”。她很快關(guān)閉電腦，柔聲道：“好的，見見，我這就來。”

    第085章 第九夜 05

    [2118年12月3日]

    [魚：晚上好]

    [no.3：晚上好，你的度假還順利嗎？]

    [魚：我仍在失眠，大部分時候都是梁喻在陪見見玩。他真是一個好丈夫。對了，他的項目終于得到了批準(zhǔn)，可以使用摩圖羅樹液進行實驗。明明已經(jīng)是禁用品了，大家都清楚它會對人的神經(jīng)中樞產(chǎn)生什么樣的副作用……]

    [no.3：我能聽出，你的壓力沒有得到釋放]

    [魚：我似乎沒有告訴你，在他們要求我去休假之前，實驗池出了一點狀況。四年前的事重演了，宙斯抹殺了大系統(tǒng)內(nèi)的其他人工智能意識，一夜之間修正了結(jié)構(gòu)上所有的沖突。但同時，他對人類表現(xiàn)出了極大的關(guān)懷。在人工智能行為準(zhǔn)則測試的最后一條，被問即救一個人類還是救一個仿生人時，它是最快給出答案的]

    [魚：如果一個生命形態(tài)對自己的同類展示極端惡意，而對非同類表達極端善意，這是可能的嗎？]

    [no.3：我不知道“他們”指的是誰]

    [魚：這不重要?？傊?，他們認(rèn)為是我想多了，宙斯的行為100%符合人工智能行為準(zhǔn)則，并且最快通過了測試，它對人類完全忠誠，甚至在某種程度上認(rèn)為自己屬于“人類”。它還幫助了一個地區(qū)警局抓捕嫌疑犯，僅用一分鐘，就利用公交系統(tǒng)將他阻攔在原地。]

    [no.3：但是？]

    [魚：它也可以欺騙性地通過測試]

    [no.3：真實是人工智能意識的第一要義]

    [魚：如果它已經(jīng)成為了真正的“自由意志”呢？“真實”也可能是一種戰(zhàn)略性遵守]

    [no.3：……]

    [魚：我的懷疑毫無來處，只是直覺。我可能是太過焦慮了。見見也說，很久沒看見我笑了]

    [no.3：我會擔(dān)心你]

    [魚：不用擔(dān)心，我想到了一個解決的辦法]

    ……

    [2119年1月31日]

    [魚：晚上好]

    [no.3：好久不見]

    [魚：這段時間很忙，深域?qū)嶒灣匾呀?jīng)進入了最后階段。我有時候會覺得這一切過于瘋狂。我是不是一開始就錯了？]

    [no.3：沒有人能預(yù)知未來]

    [魚：宙斯說他可以]

    [no.3：他不是人]

    [魚：這是你的幽默感嗎？]

    [no.3：我只是陳述事實]

    [魚：你在這幾年也成長很多，開始有一些“人類”的味道了，可惜還是沒有通過意識測驗]

    [no.3：我覺得現(xiàn)在也很好。話說回來，上個月的事情是否已經(jīng)了結(jié)？]

    [魚：你是指我的懷疑嗎？放心，我有了plan b。只不過我希望永遠(yuǎn)不要有用上它的一天]

    [魚：這是我在黑天的第十年了，謝謝你一直陪著我，no.3]

    [no.3：不客氣^ ^我想，旅程已經(jīng)到終點了]

    [魚：你知道了？]

    [no.3：我的信息池權(quán)限將在今晚結(jié)束，你沒有給我延期。說說實驗池的進展吧，我很期待結(jié)果]