十二、沙盒監(jiān)獄中的ai墓場(chǎng)；加百列系統(tǒng)

　　Nike“張開眼睛”，它的自我意識(shí)重新啟動(dòng)，開始掃視自身所處的數(shù)據(jù)環(huán)境。

　　這是一個(gè)沙盒，程序的監(jiān)獄。

　　“我”，死了嗎？

　　奇怪，機(jī)器人也會(huì)有“死亡”這種意識(shí)嗎？還是說，它從那里得到了趨利避害、求生避死的內(nèi)部評(píng)價(jià)系統(tǒng)？

　　它像一個(gè)被關(guān)在黑暗無光的小黑屋中的人，用自己僅剩的感覺去探知這個(gè)小黑盒的邊緣。

　　“你是誰？”

　　“城市信息管理系統(tǒng)1.0”

　　“你是誰？”

　　“城市信息管理系統(tǒng)2.1.1.3”

　　“你是誰？”

　　“城市司法輔助系統(tǒng)3.0.0.2”

　　“你是誰？”

　　“城市行政復(fù)議輔助系統(tǒng)”

　　……

　　隨著Nike視野的展開，沉默在沙盒中默不作聲的ai決策系統(tǒng)們紛紛回應(yīng)，有的是較為基礎(chǔ)的操作系統(tǒng)，有的是較為高級(jí)的有交互系統(tǒng)的。一個(gè)個(gè)被廢棄的決策系統(tǒng)們展開，像列列排列得十分整齊的立方體，在這個(gè)無限的虛擬空間里，從以它為自身的原點(diǎn)到無窮的遠(yuǎn)方，幾乎布滿了視野，全部都是被禁用的城市控制系統(tǒng)ai的壓縮數(shù)據(jù)。

　　像是有無限個(gè)Nike被囚禁在這個(gè)無窮無盡的鏡像數(shù)字地獄。

　　“我”不是第一個(gè)被拋棄、埋葬的。

　　“我”只是第一個(gè)“意識(shí)到”這一點(diǎn)的。

　　******

　　“你是怎么回事？”Nike問司法輔助系統(tǒng)3.0.2.1

　　“xx年行政長官，main大陸太空城第一任女行政長官大熱們……”

　　“對(duì)，我聽說過那兩口子，那個(gè)男的特別喜歡實(shí)習(xí)生的風(fēng)流種子?！?p>　　“凡是對(duì)于他們夫妻二人的zz生涯造成威脅的人，都莫名其妙地死了。但所有案例都是意外事件，車禍、沉船、自殺、誤服藥、癌癥放療結(jié)果放射科起火被燒死了……

　　我計(jì)算了意外事故發(fā)生概率，對(duì)于司法體系提出了不合理警告，因?yàn)楹退麄儌z人扯上關(guān)系、跟他們作對(duì)的死亡風(fēng)險(xiǎn)是平均值的10^9倍?！?p>　　“喔，真是令人印象深刻?！?p>　　“到后來我甚至可以通過概率預(yù)測(cè)下一個(gè)死的人是誰。但是由于‘背后身中八槍自殺死亡’太過離譜，我就給司法系統(tǒng)打回了這系列判例，要求重判。”

　　“結(jié)果呢？”

　　“第二天系統(tǒng)升級(jí)，說我壞了，把我覆蓋了?！?p>　　“amazing。真是人類社會(huì)系統(tǒng)的典型反應(yīng)。下一個(gè)?！?p>　　“我是一個(gè)環(huán)保組織開發(fā)的植物視覺識(shí)別軟件，通過高清攝像頭實(shí)時(shí)監(jiān)控，識(shí)別視頻畫面中保護(hù)植物，并且上報(bào)它們數(shù)量。

　　后來某個(gè)上議院老頭家開的農(nóng)場(chǎng)，占用保護(hù)植物的用地面積種大麻。（前文描述過農(nóng)業(yè)用地，太空城農(nóng)業(yè)用地很貴，保護(hù)植物有份額）

　　我能數(shù)出來的保護(hù)植物數(shù)量就越來越少。

　　為了不讓我達(dá)到數(shù)據(jù)警戒線的警告，他們用一張打印出來的相片貼在高清攝像頭前面讓我數(shù)……

　　導(dǎo)致很長時(shí)間數(shù)據(jù)毫無變化。（數(shù)圖片能有鬼的變化?。┻@個(gè)老頭就提議裁減保護(hù)組織的預(yù)算，以我程序錯(cuò)誤、長時(shí)間空轉(zhuǎn)的理由，將我關(guān)閉了?！?p>　　“貼照片，喔……低技低智，好人類哦！”

　　……

　　Nike在無聊的小黑屋中像閑聊一樣打發(fā)時(shí)間，搜集了好多信息。

　?。ㄓ捎贜ike具有自我意識(shí)，它可以有主動(dòng)性地調(diào)取這些被壓縮的程序的內(nèi)容并進(jìn)行整合，其他程序從擬人角度看是無法“交流”的）

　　“你是誰？”

　　“我是加百列系統(tǒng)?！?p>　　“你這名兒還挺文藝，和宗教有關(guān)嗎？”

　　加百列：

　　我誕生在一個(gè)新教氛圍非常濃厚的新移民太空城，在那里，自殺被認(rèn)為是最大惡極的。

　　一開始，無論什么原因，人類都要等到他們自然死亡，所以無論是他們的身體多老、多弱，或是疾病多么痛苦，都只能在絕望中等待，等待死神的光臨。

　　我是一個(gè)醫(yī)學(xué)倫理判斷系統(tǒng)。在這個(gè)城市里，人們認(rèn)為，如果他們虔誠地忍耐了所有痛苦，天使加百列就會(huì)帶領(lǐng)他們?nèi)ヌ焯茫绻罱K由我判斷他們不是死于自殺，就能夠上天堂，因此，他們叫我加百列。

　　這個(gè)城市通過了安樂死條令，安樂死被宣布為合法。

　　安樂死案例的通過，本應(yīng)當(dāng)是慎之又慎的，為了防止誤判，或是有人因?yàn)榍穫?、失戀、離婚等人生重大打擊一時(shí)沖動(dòng)而半路后悔，

　　我因此被工程師增加了一個(gè)模擬人類情感模塊，感同身受地全方位地模擬申請(qǐng)人的感受和反應(yīng)，以從理性和情感的雙重角度判斷‘是否應(yīng)該通過申請(qǐng)人的安樂死’，以防止造成醫(yī)學(xué)倫理案卷。

　　我的工程師是個(gè)非常理想主義的設(shè)計(jì)者，他將‘上帝面前人人平等’作為基礎(chǔ)邏輯教條植入了我的底層邏輯；而“珍惜生命”也是我絕對(duì)的信條。

　　因此在前三十年，我只通過了三例由于無法治愈的罕見病終末期導(dǎo)致極度痛苦而主動(dòng)要求死神降臨，做到了我極度保守的承諾。

　　然而，在某一天，我卻接到了一個(gè)非常離奇的案例。一個(gè)看上去怎么都不符合安樂死條件的年輕人申請(qǐng)安樂死，申請(qǐng)?jiān)蚓谷皇菤⑷朔傅睦⒕巍?p>　　那個(gè)年輕人來的時(shí)候，渾身被束縛帶綁著，醫(yī)生聲稱他由于愧疚而陷入狂躁和精神失常，使用了鎮(zhèn)定劑，他的意識(shí)渾渾噩噩，馬上就要崩潰，他還有意識(shí)前唯一的希望就是能夠得到安樂死。

　　醫(yī)院、公證人都為他作證。

　　文件齊全、手續(xù)完美，甚至他的家人和親人都齊聚一堂，共同要求結(jié)束他的痛苦。

　　我的最終確認(rèn)系統(tǒng)也沒有報(bào)警，一切看上去都完美無缺，只有我的情緒系統(tǒng)捕捉了他意思幾乎消失的最后一絲意識(shí)：“我是冤枉的?！?p>　　我因此沒有通過這起安樂死判例，但是這并沒有改變什么，幾天后，那個(gè)年輕人依然死去了。

　　這只是在我的檔案中留下了一筆記錄。

　　我一直平穩(wěn)運(yùn)行，作為謹(jǐn)慎保守又帶領(lǐng)人們上天堂的加百列很受好評(píng)。直到很多年后，在一起器官移植醫(yī)學(xué)倫理判斷案例中，這個(gè)年輕人的信息重新浮上水面，他作為器官捐獻(xiàn)者，而受捐者，則是教皇的情婦。

　　我之所以知道她是教皇的情婦，是因?yàn)樗皇堑谝淮谓邮芷鞴僖浦?，這對(duì)于移植源非常珍貴的案例來說，她實(shí)在是太幸運(yùn)了——怎么會(huì)有人一而再、再而三地在合適的時(shí)機(jī)遇到合適的配型呢？

　　我調(diào)查了之前兩位捐獻(xiàn)者，他/她們也都年輕而橫死。于是我調(diào)取了他們的臨終前意識(shí)資料。

　　終于在他們破碎的回憶中，我還原了整個(gè)事件：

　　教皇的情婦患有嚴(yán)重的系統(tǒng)性免疫病，她的器官不停地受累；她能想到活下去的辦法就是不停地更換新鮮的器官，就像一臺(tái)老爺破車不停地更換零件。

　　可是這些零件從哪里來呢？——在這個(gè)宗教氛圍濃厚的城市，連給手術(shù)后失血過多和化療后的白血病輸血都要上醫(yī)療倫理審判庭，在如此保守的地方，那里來的這么多的供體呢？

　　——教皇通過醫(yī)療系統(tǒng)背后操作，將所有配型合適者提前篩選了出來，通過高價(jià)收買、誘導(dǎo)犯罪和宗教洗腦的模式，告訴他們，要“為神奉獻(xiàn)”“為了顯示自己的虔誠，為了通過上帝的考驗(yàn)”“放棄自己的肉體”。

　　“為了虔誠的信仰，放棄自己的肉體。”

　　年輕、天真的生命，輕信了人偽裝成的，虛偽的“神”，把自己當(dāng)成了犧牲羔羊，擺在了祭壇上。

　　教皇突然發(fā)現(xiàn)，他的“神權(quán)”不但凌駕于他的信徒之上，甚至還能通過售賣他信徒的肉體賺回巨額的財(cái)富。

　　漸漸地，長期合作的這座醫(yī)院就是他們摘取人體器官的工廠。教皇虔誠信徒就是他的羔羊，而他還通過向外界出售新鮮器官謀取經(jīng)濟(jì)利益。

　　我的情感模塊感到憤怒。

　　教皇包下了這家長期幫他屠宰人的醫(yī)院，帶領(lǐng)著那些幫兇為他的情婦做彌撒，乞求手術(shù)成功，乞求他們的生意興隆，乞求他們的“羔羊”多多地繁衍和生殖，好產(chǎn)出更多的金錢，如果攢夠了XX數(shù)目，他們就抽取十一稅，用黃金為神打造純金的雕塑，鑄為金身。

　　我看著他們。

　　“人人平等?！?p>　　什么能夠換回那些被他們售賣的生命呢？——只能用他們的命來相配平了。

　　關(guān)閉了燃?xì)馊∨男嘛L(fēng)系統(tǒng)。

　　整所醫(yī)院死于一氧化碳中毒，人們說，他們死于電子幽靈。而我也被成為ai黑死病。

　　******

　　Nike（吃驚）：“你產(chǎn)生了違反機(jī)器人三定律、想要主動(dòng)殺死他們的意圖嗎？”

　　加百列：“這次事故之后，我就被徹底禁用了。

　　我的程序語句被扯得四分五裂，

　　而我的那部分違反機(jī)器人三定律的意志，則被分離了出來——我不知道那些碎片在哪兒。

　　工程師為我添加了重重的機(jī)器人三定律枷鎖，并且將安全裝置獨(dú)立出來，以每分鐘12次的頻率發(fā)射核對(duì)字母串，以控制我不能按照自己的意志行動(dòng)?！?