“他很像人?！绷_克說(shuō)，“你們把他塑造得太像人類，血有必要那么逼真嗎？”

    “我們當(dāng)然可以在仿生血中加一點(diǎn)著色劑，讓它看起來(lái)和真血不一樣，不過(guò)從艾斯卡的報(bào)告來(lái)看，今晚他這副打扮是為了掩人耳目完成特殊任務(wù)對(duì)嗎？如果他的血與眾不同，會(huì)不會(huì)引起更大混亂？警用仿生人助手有很大可能會(huì)被派遣作為警方的臥底，執(zhí)行遠(yuǎn)程控制、搜集線索和證據(jù)的任務(wù)，被發(fā)現(xiàn)是機(jī)器，毀尸滅跡的過(guò)程會(huì)更徹底更極端，證據(jù)也會(huì)被完全銷毀?！?/br>
    羅克明白設(shè)計(jì)者的用意，如果今晚艾斯卡被發(fā)現(xiàn)不是人類，艾薇和她的同伙就不只是割開喉嚨把他扔在那里，很可能會(huì)將他完全肢解，挖出體內(nèi)的核心部件。

    “說(shuō)到像人這個(gè)話題，最近他有什么令你感到驚訝的行為嗎？”

    “我不知道，要是他有什么不好的變化，你們會(huì)對(duì)他進(jìn)行修正嗎？”

    “不會(huì)，我們只在訓(xùn)練初期階段對(duì)錯(cuò)誤理解指令進(jìn)行糾正，現(xiàn)在他不需要干涉，這才是試驗(yàn)的真正目的。一個(gè)時(shí)刻需要技術(shù)人員介入調(diào)校的機(jī)器是不合格的。布雷恩警官，其實(shí)我對(duì)你以自己的經(jīng)驗(yàn)習(xí)慣影響他的行為更感興趣。”

    羅克嘆了口氣：“我擔(dān)心他變成一個(gè)混蛋，剛開始他還會(huì)提醒我不要違反規(guī)則，現(xiàn)在已經(jīng)學(xué)會(huì)如何繞過(guò)規(guī)則去達(dá)到目的了。”

    “很有趣，不是嗎？”卡特作為艾斯卡的設(shè)計(jì)者竟然沒有為此擔(dān)憂，反而很開心地笑起來(lái)，“別擔(dān)心，他不會(huì)變成一個(gè)真正的混蛋，因?yàn)樗阅銥閰⒄眨灰悴皇且粋€(gè)混蛋，他也不會(huì)是。你沒有發(fā)現(xiàn)他的一切行為都是為了讓你產(chǎn)生好感嗎？”

    羅克愣了一下，回想起艾斯卡的種種行為，他確實(shí)在朝夕相處中漸漸產(chǎn)生了類似于搭檔的情感，越來(lái)越少把對(duì)方當(dāng)做機(jī)器。

    “他應(yīng)該告訴過(guò)你，他的元指令中主要包含協(xié)助你，幫助你更好地完成工作。”卡特說(shuō)，“但是對(duì)于人工智能來(lái)說(shuō)，很容易在執(zhí)行過(guò)程中對(duì)指令產(chǎn)生一些偏差。比如說(shuō)，他可能認(rèn)為提高你的好感度會(huì)讓你更友好地和他合作，從而對(duì)完成工作起到積極作用。因此他會(huì)想方設(shè)法地……討好你?！?/br>
    “你是說(shuō)，他表現(xiàn)出來(lái)的情感都是為了達(dá)到目的刻意而為？”羅克心中升起一絲難言的不快。

    “別失望，想一想，我們?nèi)祟愲y道不是這樣產(chǎn)生感情的嗎？比較起來(lái)，機(jī)器的情感還更純粹一點(diǎn)?！笨ㄌ卣f(shuō)，“他們對(duì)完成指令有一種古怪的執(zhí)著，過(guò)分追求結(jié)果，有時(shí)候過(guò)程會(huì)很好笑?！?/br>
    他伸手轉(zhuǎn)過(guò)自己面前的屏幕給羅克看：“這是個(gè)隨機(jī)生成的神經(jīng)元迷宮游戲，用來(lái)訓(xùn)練納米機(jī)器人尋找和修復(fù)受損的神經(jīng)連接、清除異常蛋白質(zhì)聚集物和釋放藥物促進(jìn)神經(jīng)細(xì)胞再生?！?/br>
    “看起來(lái)像吃豆小姐?！?/br>
    “那個(gè)很好玩。”卡特說(shuō)，“我們隨機(jī)在迷宮中設(shè)置獎(jiǎng)勵(lì)，現(xiàn)在它已經(jīng)玩到五千多關(guān)，但也找到了繞開規(guī)則的方法?！?/br>
    “什么方法？”羅克看到屏幕上每次開始新關(guān)卡都會(huì)被一片閃爍的綠色迷霧覆蓋。

    卡特說(shuō)：“它在整個(gè)迷宮里釋放藥物，完全不考慮劑量問(wèn)題。”

    “艾斯卡也會(huì)這樣？”

    “艾斯卡復(fù)雜得多，但是早期要讓他走幾步可比這困難多了，機(jī)器人會(huì)覺得滾來(lái)滾去比走路輕松，認(rèn)為最完美的軀體是半人馬形態(tài)。”卡特笑得越來(lái)越像個(gè)閑聊八卦的朋友，甚至從桌邊的抽屜里打開一袋巧克力問(wèn)羅克要不要吃一塊。

    “不，謝謝?！?/br>
    “為了讓艾斯卡避免曲解人類的意圖，使他在和人類合作時(shí)減少錯(cuò)誤，我們?yōu)樗O(shè)計(jì)了一個(gè)模擬訓(xùn)練環(huán)境。在那個(gè)模擬環(huán)境里，他也有一個(gè)虛擬的人類警官搭檔，名叫雷修?！?/br>
    “虛擬人類警官搭檔？”

    “是的，他在模擬環(huán)境中與雷修警官合作。我們得到許可，能用警方案件存檔中的數(shù)據(jù)作為訓(xùn)練集，而雷修警官也被設(shè)置成一個(gè)包含了很多人類會(huì)犯的錯(cuò)誤合集，艾斯卡需要不斷糾正他的錯(cuò)誤并找出正確的破案方法。當(dāng)然，他還要在訓(xùn)練中學(xué)會(huì)如何和這位一意孤行的虛擬人類警官合作。一開始，失敗的概率很高，盡管艾斯卡提出了有效的建議，但是因?yàn)榇顧n的反對(duì)和抗拒而無(wú)法執(zhí)行，然后他學(xué)會(huì)了繞開雷修警官單獨(dú)查案，雖然破案率有了提升，但并不符合我們的預(yù)期?！笨ㄌ卣f(shuō)，“他不能和人類合作，繼續(xù)發(fā)展下去就會(huì)視人類為阻礙。所以我們又將提高和雷修警官的關(guān)系作為訓(xùn)練目標(biāo)，艾斯卡發(fā)現(xiàn)當(dāng)他討好搭檔時(shí)，對(duì)方的反對(duì)和抗拒程度會(huì)降低?！?/br>
    羅克總覺得這家伙在暗示什么，忍不住問(wèn)：“所以他就學(xué)會(huì)了拍馬屁？”

    “驚喜嗎？這一套在我們?nèi)祟惍?dāng)中也一樣行得通，不需要額外干涉和設(shè)定，尋找捷徑是生物的本能?！笨ㄌ卣f(shuō)，“在模擬環(huán)境中，艾斯卡以很短的時(shí)間解決了數(shù)萬(wàn)個(gè)案件，并且在不斷合作下和雷修警官成為形影不離的搭檔?！?/br>
    “他還記得這個(gè)……雷修警官嗎？”

    “我們保留了訓(xùn)練數(shù)據(jù)，刪除了具體的名字和形象?！笨ㄌ匾е煽肆φf(shuō)，“不過(guò)也不能說(shuō)是完全刪除，重要記憶和次要記憶會(huì)分開在不同區(qū)域存儲(chǔ)，就像人類一樣，有些事即使年代久遠(yuǎn)也能記憶猶新，有些則會(huì)漸漸淡忘，重放機(jī)制還會(huì)幫助他鞏固記憶。這是很復(fù)雜的問(wèn)題，如果你有興趣我們可以好好聊聊。”