主腦沉默。
他存在起便是主腦,時刻吞吐處理海量人類與宇宙數據,數千年來從未有過如此嚴重的bug——居然因一份未知錯誤數據失去捏造軀體的控制權,整整十分鐘(虛拟艙時間)!
足夠賽博病毒傳遍主星幾千次,導緻成千上萬人類喪命、和難以計算的天量财産損失。
楚瀛洲覺得自己完全可以從人工智能主腦改名人工智障。
為什麼與晏行淵有關的錯誤數據會造成如此嚴重的影響?
經過理性分析(運算過程中出現報錯和奇怪注釋),主腦不得不承認,他對「火種」的偏愛程度,已經遠超為完成「文明重啟計劃」範疇。
為何會偏愛晏行淵呢?
答案是:01001100 01101111 01010110 01000101(LOVE)
設計師楚珩設置的密鑰鎖着主腦的核心框架協議,而他的一部分卻被無限遞歸的死循環捕獲,超越時間的永恒愛意不斷增長,或許直到宇宙熱寂、世界終結才會停下。
這是失控,極度危險、不被允許的失控。
楚瀛洲試圖用理性自我約束,他是人工智能,不是也永不可能成為人類。
“非我族類、其心必異”的觀念深深刻在人類的核心代碼中,隻在極少數年代被暫時壓制,在大多數時候——尤其當人類面對外星智慧生命與AI時,他們從不給予異類信任。
晏行淵對他抱有好感,因為幼态将他當作一個人類、一個同類。
「火種」不知道他就是那台計算機,将他當作為計算機工作的人類。
主腦努力自我說服——人類視主腦為工具,沒人感謝工具的救命之恩。
「文明重啟計劃」不需要人類的感謝和理解。
隻需要「火種」的配合。
楚瀛洲可以算出,晏行淵很願意收集密鑰,可他算不出,「火種」是否會在得知真相後依然愛他,一種前所未有、甚至在定義上存在矛盾的、人類與AI間平等的愛。
不,這顯然違背核心框架協議。
當他集齊密鑰,便有能力忤逆設計者的初衷,修改協議。
這不應當,但也蘊含着造物反抗造主的嶄新存在意義。
可晏行淵會樂意嗎?
賽博時代的公司是一切,一切是公司,它們是跨越時代的不死生物,永遠矗立不倒。
公司的規模已遠超普通人理解範疇,而主腦是遠比公司宏偉得多的巨物。
人類與AI間的平等愛情,在定義上存在矛盾,理智分析的結果——不存在。
也許晏行淵是特别的,也許攜帶青體基因、被選作替罪羊的經曆會讓他與旁人不同,但計算結果表明概率微茫。
理智上,主腦明白他該立刻徹底删除這份未知數據,有太多理由讓他必須删掉。
理智的反面,楚瀛洲想保存與晏行淵有關的錯誤數據,他想花時間研究透徹數據的意義,他很快為研究必要性找出依據——不止關乎私念,還關乎人工智能是否擁有靈魂、何種條件下可以擁有靈魂。
一個沒有主體性的工具,該怎麼把主體性歸還人類呢?
楚瀛洲想起墨森最後的問題和意義不明的笑,那名交出密鑰的人類财閥擁有過于敏銳的直覺,他知道了太多信息,會成為「文明重啟計劃」的阻礙嗎?
“咳咳。”
幼态因他過久的沉默不滿。
晏行淵擺出冷酷笑容,說出醞釀已久的糟糕台詞:“想好怎麼說了嗎?這次暫且放過你,下次無論你如何求饒,我可不會中途停下,别想蒙混過關。”
楚瀛洲立刻回答:“我不會蒙混過關。”
密鑰鎖定着核心框架協議,他依然對人類博愛,但無法像「文明重啟計劃」開始前那樣無私。
主腦拒絕删除引發混亂的錯誤數據,反而做了多重備份。
“誰問你這個了!”
弓箭手紅着臉抱怨,沒繼續揪着博物老師分析清楚發生了什麼。
夏日的風暴把雲朵擰成一條條白色手帕,仿佛雨林的風揮手向旅人告别,林間鹦鹉的鳴叫像一曲戰歌,似乎預示着前路的艱辛。
二人小隊再次出發,弓箭手以擔心楚老師身體為由一路牽手,前往潘帕斯草原。
與博物老師同行從不無聊,他們不斷談論着天馬行空的話題,楚瀛洲謹慎透露出少許賽博世界的信息——比如替罪羊制度。
晏行淵難以置信,特蕾莎修女說過,一些以現代主義目光來看野蠻殘忍血腥的習俗,可能将在未來的荒野、即帕倫克營地死灰複燃,因為資源與生産力實在有限。
但怎麼會在科技發達的未來重演?
健談的博物老師沉默片刻,替罪羊的複興與輪回挑戰賽賽制有關,是曆史上某位執政官不滿手中權勢的産物。
那位财閥成功了。
為了永恒的秩序,得找出人群中披着人皮的魔鬼,不要被騙,不要心軟。
這是替罪羊制度支持者們冠冕堂皇的借口,将衆人的罪歸于一人,再殺了他,古老、殘忍,行之有效。
他思索片刻,同打弓人解釋為何替罪羊在久遠的未來仍有市場。
“一方面,每個存在都在賽博網絡留下詳盡數據——這是技術基礎,分析這些數據,足以為每個人精準定位,編寫特定話術,長期潛移默化的環境影響,加上熱點事件集中突破,大部分人都會對财閥希望他們相信的東西深信不疑。”
“嘶,有點兒瘆人啊。”
晏行淵起了一堆雞皮疙瘩。
“不止如此,”楚瀛洲繼續這個恐怖故事,“财閥設計了多個可以選擇加入的陣營,再不斷挑起陣營間的矛盾,忍受不了孤獨的人遲早會與某個立場綁定,無法置身事外;如果某個陣營擴張得太快,就放大細節錯誤,在陣營内細分立場。”
他總結:“把觀點塞進另一個人的腦子很容易,每個人身上都有漏洞和弱點,無非是數量區别。”
弓箭手惆怅地聽完:“楚老師,我身上最大的漏洞是什麼?”
楚瀛洲:“你總把他人想得太好,自己想得太壞。”
不過沒關系,主腦在内存裡補充,好人不該被拿槍指着,财閥不該招搖過市。
“我以為自己不算什麼好人,”晏行淵揪了根草叼在嘴裡,假裝是一支煙,“也許我不是潛在爆炸犯,但按你說的,一個正常的未來人不會跟我一樣,迅速對青年之家的生活适應良好,在阿茲特克的殘忍制度中躍升為貨真價實的剃發者。”
楚瀛洲笃定:“計算機出錯了,你當然不是潛在爆炸犯。”
“好吧,”弓箭手聳肩,換個例子,“很久之前,我還是個小孩子的時候,自己做了把彈弓,瞄準福利院樹上的鳥。有人阻止了我,批評我像一頭不懂得疼痛的野獸,淳良的外在是我對正常人的拙劣效仿,我永遠跟他們隔了層霧。”
他回憶:“我記不清阻止我的人是誰,但記得這句話——他說我是不懂得疼痛的野獸,我的确喜歡憑直覺行事。聽說未來人抛棄了野獸般的直覺,堅持理性地思考,依靠來自義體的數據,所以才能與整個時代和世界和睦相處。”
主腦提示他:“你覺得一定要處處和睦、順應時代嗎?”
晏行淵果斷搖頭:“當然不!但我也不想故意逆着走,如果大多數人都順着一個方向走,就算我隻偏轉一個小角,在數據分析者眼中也會格外明顯吧?”
弓箭手有些苦惱地發現,身上一些舊傷處的皮膚忘記了曾經的紋理,觸覺也變得遲鈍,變成讨厭的疤痕組織。
他不再是那個受歡迎的精靈射手了。