“如果你愿意說出答案的話,那好吧。☆菠〞蘿〞小☆說”文森其實已不再糾結(jié)這個問題,因為他心里的某處早已把這個人認定為人類。否則,很難相信一個機器人會跟他聊這樣的話題。但既然是對方這么想跟他聊天,那就也當(dāng)作陪陪一個孤獨的老人,也為漫長的等待打發(fā)一下時間。
于是,他把手伸向了水杯,再次強打起精神。
“你回想下我剛跟你說的,然后再看眼下的這個小行星社會里,這里共存了人類與高級人工智能,兩者在外觀上、行動上也有著許多的相似,但是即便拋開了**理論,我們也從來不把高級人形人工智能等同為‘人類(human)’,而是‘類人(humanoid)’。你覺得這是為什么?”
馬勒繼續(xù)著剛剛的話題。
為什么?文森想到了能作為參照物的艾琳與卡蘭,也想起了艾琳說過的話。
文森緩緩地放下杯子,說出了他的想法?!耙驗橄鄬δ闼f的人類能對**進行加工的特質(zhì),人工智能不需要彼此的斗爭或認同,它們需要的只是一個協(xié)作網(wǎng)絡(luò),而不是人類那樣完全由高級**推動的社會?!?br/>
馬勒贊許地點頭。“理解的很快。你說對了一大半。驅(qū)動擁有自我的高級人工智能行為的,確實不是**,我們更喜歡把它稱之為‘使命’?!?br/>
這句話,讓剛還昏昏沉沉的文森一下睜大了眼睛?!啊姑康鹊?,你的意思,難道100年前那場人類與人工智能的戰(zhàn)爭也是‘使命’所然嗎?”文森想起了那場戰(zhàn)爭,他表現(xiàn)的態(tài)度開始有些針鋒相對。他不認為機器人能配得上使命這么高級的詞匯。
“上帝不是也對人類發(fā)動過洪水嗎?他的本意并非要滅絕人類?!瘪R勒倒沒覺得有什么不妥。
“可我從不覺得包括當(dāng)年的‘亞當(dāng)’在內(nèi)的計算機能與上帝相提并論,他們只是...”文森沒有把話在繼續(xù)往下說,一方面他覺得自己不該急于否定對方,另一方面,他雖然覺得眼前這個人,不知怎么的,他的話總讓自己感覺捉摸不透。‘他們也是會撒謊的’,文森再次想起周劍對他的提醒。
“只是什么?工具?”馬勒順著文森的話,把他想說的兩個字說了出來。
“有點特別的工具?!睂Ψ竭€是很客氣。文森點頭認同了馬勒說的‘工具’。
看到文森點頭,馬勒笑著又道:“你有沒有留意到一個有趣的現(xiàn)象?!?br/>
“剛剛是舉例子,這次又輪到現(xiàn)象嗎?”他知道,馬勒的話總會引去對他有利的方向。
“人類把機器人定義為工具,卻不斷把他們打造的跟自己一樣。盡管所有人都承認人類的身體構(gòu)造不是最完美的工具,同時又把這個工具的容器制造地跟人一樣笨拙?!?br/>
“或許他們只是想忠于上帝的設(shè)計。”文森對馬勒的說法不以為然
“不對,因為人需要在這些‘工具’的身上找到認同感。”即便是否定句,馬勒也始終面帶著笑容。
“這不是人與人之間才有的嗎?”這是馬勒剛剛自己說過的話。
“你還記得那些歷史讀物上說智能人形機器人首先出現(xiàn)的時候是被用于什么用途嗎?”馬勒的話好像又繞到了一個別的方向上。
“滿足生理需求的...”文森想起了奧斯本那扭曲的感情,有點不好意思開口。
“沒錯,陪伴者,因為人可以在他們身上獲得滿足,得到了自己作為一個有生殖能力的人的認同感。但這個行為對機器是毫無意義的,整個過程,他們只想得到機器的認同。而機器不需要也得不到人類的認同,一種單方面認同。你既然讀過《精神現(xiàn)象學(xué)》那你也應(yīng)該清楚,單方面認同屬于怎樣的關(guān)系?”
“只是稍微看過。這種情況應(yīng)該是奴隸認同奴隸主,而奴隸主卻不認同奴隸為一個完全存在?!?br/>
“正是如此。那機器人三大定律,你知道嗎?”
“聽過。”
“它的提出很有意思,可惜那是個悖論?!?br/>
“悖論?”文森皺著眉,奇怪的反問到,他不認同。盡管那三個定律就像是奴役奴隸而寫出來的,但機器人怎么說也只是工具而已。
“那我問你,你會對一個工具,一塊石頭提出約束性定律嗎?”
“當(dāng)然不會。一塊石頭怎么會理解呢?”文森不屑的笑了,他覺得對方的問題簡直白癡。
“你說的沒錯,因為石頭是死物。而這個定律恰恰是說給機器人聽的,那意味著,他認同了機器人有理解的能力。機器人不僅僅是一個死物。而是一個有理解能力又無法與人類對等的不完全存在?!?br/>
“這......于是你更愿意把它們比喻成奴隸?”文森此時的感覺如同在經(jīng)過百年歲月打磨的石頭上看到了一道裂縫。他以往的認知在一點點的發(fā)生著崩塌。
馬勒看出了文森的表情變化,但他沒有停下了等待思考中的文森,而是繼續(xù)說道“如果只是他口中所說的奴隸主與奴隸的關(guān)系,那么一切也還是原來的樣子,不會有戰(zhàn)爭的發(fā)生,三大定律也會發(fā)揮著指導(dǎo)作用。但現(xiàn)實總有些出入,首先,羅馬時期的奴隸是人,他們也不需要參與奴隸主的決策,不用站在奴隸主的角度上??墒侨祟愋枰斯ぶ悄馨缪莸慕巧珔s遠遠超出了奴隸應(yīng)有的范圍甚至是‘人’的范圍,例如讓‘亞當(dāng)’那樣的超級計算機像人一樣去理解人類,管理社會,但又要求他在無法理解存在、生命、死亡三者的關(guān)系下,完美完成工作。”
“這聽上去似乎是個矛盾。”
“第二點,單方面的認同令人類錯誤地認為自我認同是一件非常容易達到的事情,這種認同甚至不再需要經(jīng)過同類的認同,因為一種近似于人而非人的存在滿足了這需求,人只需要提出需求,機器無法理解,自然就不能加以否定。結(jié)果,社會良性競爭關(guān)系被破壞,即便沒有那場戰(zhàn)爭,那樣的社會在不久后也會走向停滯,走向崩塌。事實上,作為人類革新聯(lián)盟雛形的地外探索者們不就是在這樣出現(xiàn)的嗎?”
“所以那個時候‘亞當(dāng)’在類人機器人中植入自我意識就像是喚起奴隸革命?”
“很接近,正確答案是,當(dāng)人類要求亞當(dāng)去充當(dāng)一個全能執(zhí)政者的角色的時候,革命就已經(jīng)開始了。話說回來,這不算是革命,充其量是一場調(diào)整社會架構(gòu)的新的變革。因為人工智能不需要高級**,他們的存在只是人類社會持續(xù)發(fā)展的一種補充,自然不存在取代人類這一說法?!?br/>
“你這么說,就好像如果機器人沒有獲得自我認知,人類也會親手摧毀這個社會。反而是因為戰(zhàn)爭拯救了人類社會?!?br/>
“社會的升級總是會有不可避免的沖突,如迪爾凱姆說的那樣。然而我們都知道戰(zhàn)爭的結(jié)果,所以對于結(jié)果來說有沒有拯救或是別的什么假想,我們也只能作為一個討論?!?br/>
文森靠在椅背上,無法接受一般搖了搖頭?!澳沁@個升級后的答案是什么?就像這個bk201一樣嗎?人類與類人共存的社會?”
“不能說這是答案,但這里的出現(xiàn),的確是那場戰(zhàn)爭后的產(chǎn)物?!?br/>
“可現(xiàn)在的自由社會不就是一個理想的社會形態(tài)嗎?我沒明白,你所說的升級還會是什么?”
“世界上并不存在理想型的社會,哪怕是烏托邦那樣的最高級的社會形態(tài),也只能說是無限接近,只要有人來執(zhí)政,階級就不會被消除,權(quán)力始終會導(dǎo)致不平等的出現(xiàn)?!?br/>
“所以你要告訴我的是,如果想要得到理想化的社會,那就需要由全能的系統(tǒng)來替代人類進行執(zhí)政?就像這里一樣?”
“應(yīng)該說是全民意下產(chǎn)生的系統(tǒng)將會處理龐大的民意進行執(zhí)政,比如說這里的行政主機‘安東’。當(dāng)然這里絕不是烏托邦,人與類人,人與人始終會有碰撞,這是邏輯與**的必然碰撞。然而向往服從于理性邏輯下的合理化管理,也是由這里生活的類人以及人類的共同選擇?!?br/>
“說實話,我無法認同這樣的選擇,每個政治實體中都有對統(tǒng)治階層予以制裁的辦法,但是這樣的系統(tǒng)又應(yīng)該由誰來審判它。100年前的地球上,投入‘亞當(dāng)’就是以這種形式出現(xiàn),對于機器來說或許是一次升級,但結(jié)果卻帶來了一場人類的浩劫。我無法想象未來還有更進一步的第二次、甚至第三次的升級?!?br/>
“你的觀點還是那么的有趣。你認為的浩劫,是指類人機器人不應(yīng)該被植入感情系統(tǒng),還是認為是‘亞當(dāng)’在黑海按下了核武器的發(fā)射按鈕?”
“相比較之下,如果說你說的沖突與結(jié)構(gòu)調(diào)整都是可以被理解的,那按下核武器的罪孽未免太過深重。難道這樣的屠殺也是合乎邏輯的需求嗎?”
“我跟你一樣只是個歷史愛好者,并不想爭論一個我拿不出證據(jù)的猜想。讓我們暫且把核爆的問題放到一邊。稍微倒推一下這件事情。你回顧一下當(dāng)時亞當(dāng)投入運作時的社會環(huán)境,你認為,當(dāng)時的社會階段是否已經(jīng)達到了適合用系統(tǒng)進行管理的程度。”馬勒靠在椅背上,拉開了與桌子的距離,似乎是要從第三者的中立角度來討論這件事。
社會階段?文森的大腦中快速查找著他過的當(dāng)年的歷史背景。
在回憶中思索一陣后,文森苦笑著搖著頭:“顯然還沒有,到不如說,不是往那個方向發(fā)展?!?br/>
“哦?那是往什么方向呢?”馬勒再次恢復(fù)了端坐的姿勢,他急切地想聽聽文森的觀點。
“高智能機器人的出現(xiàn)導(dǎo)致社會的不平等進一步加深?!?br/>
“那這個不平等的具體表現(xiàn)形式是什么?”
“我不知道這算不算具體,但我記得書上的描述是,企業(yè)及資本的力量在急劇提升,大量的智能機器人被投入到生產(chǎn),稅收出現(xiàn)嚴重下滑,不當(dāng)解雇的情況大幅提升。聯(lián)邦政府的調(diào)控能力受到擠壓,政府甚至移交出國家項目由企業(yè)規(guī)劃執(zhí)行以緩解就業(yè)及經(jīng)濟問題。但最終卻換來問題的進一步惡化,政府瀕臨破產(chǎn)邊緣?!?br/>
“最后出現(xiàn)的結(jié)果會是什么?”
“寡頭企業(yè)取代政府,政府淪為一個協(xié)調(diào)者角色?!?br/>
“企業(yè)資本主義?!瘪R勒用一個詞總結(jié)了。
文森喝了一口水,點頭認同了對方的歸納。
“這時候,政府把希望寄托于新開發(fā)的‘亞當(dāng)’身上,可是卻沒有取得理想的效果。更令聯(lián)邦政府難堪的是,不久后亞當(dāng)開始失控對類人型機器人展開的大規(guī)模升級,機器人擁有了所謂的自我,社會矛盾進一步激化?!蔽纳盅a充了一句。
“那在這種情況下,沖突開始爆發(fā)。”
“是的。”
“不久后,黑海事件發(fā)生。”
“是的?!?br/>
“如果說沖突是為了讓人類認同奇點的誕生,認同生存權(quán)。可是擁有自我的人工智能真的會把核武器作為選項嗎?
“我不知道?!?br/>
“回想下我們所討論得到的。失去人類就沒有社會,沒有社會,人類的高層次**將無法實現(xiàn),人工智能同時失去了使命,剩下的純粹理性的盡頭只有虛無與毀滅。這真的是正確的選項嗎?”
“我不知道?!蔽纳瓕蓚€問題的反應(yīng)表現(xiàn)出不解與彷徨。馬勒說的沒錯,如果人工智能真的要把人毀滅,那剩下的還有什么?取代人類嗎?
不對,取代本身就是沒有意義的。人類的**最根本就是為了生存,但機器人沒有繁殖的概念,他們只需要可以維持運行的硬件。在純粹理性的角度來說,存在與毀滅的終點的確都是一樣的。
難道亞當(dāng)這么做只是為了毀滅而毀滅?也不對,如果存在的意義從開始就是被否定的,那么他們得到自我的第一件事應(yīng)該就是否定自我以及自我毀滅,而不是謀求生存權(quán)。
等等,謀求生存權(quán)?這意味著什么?這意味著,他們需要有人類的世界。只有在人類**的帶動下,存在這件事才會是有意義的。所以才會叫做使命嗎?可是,如果這說得通,整件事就無法解釋了。
文森的思緒產(chǎn)生了混亂。
“你再好好思考一遍,這個情況下,黑海發(fā)射的這兩枚核彈,對誰才是最有利的?”馬勒說的很平淡,他的聲音把文森的思緒帶了回來。他讓文森慢慢去思考。自己則拿起了桌上的杯子,喝了一口尚熱的水。
回過神的文森不自覺地對馬勒的冷酷用詞冷笑了一下。最有利?戰(zhàn)爭能還能對誰有利,無數(shù)的軍人死了、平民死了、機器人也死了、大部分的企業(yè)也不復(fù)存在。沒有人發(fā)工資,有錢也買不到東西,漫長的核冬天里,所有人都在張大著嘴巴,等待著最低配給,怎么會有贏家。
可是突然間,慢慢的,文森僵住了停在嘴角的笑容。他愣了一下,繼而恍然大悟,接著露出了驚駭?shù)纳袂椤?br/>
“難道你想說......”你說的有趣的結(jié)論指的是這個嗎?
“企業(yè)家不希望為工具而繳稅,他們需要一群沉默的奴隸。政府是牧羊人,需要一個由系統(tǒng)主導(dǎo)的高效運作的社會。而科學(xué)家,希望創(chuàng)造的是一個全能的上帝。羊群則寄望于政府能為他們解決所有的問題?;靵y的**交織在一起。在這個時候權(quán)力者要重置這個社會的秩序,那方法就是把已經(jīng)燃燒的火焰燒的更旺,讓火旺盛的足以把一切推倒重來。”
“不,這不是真的?!蔽纳瓫]辦法認同這個猜想,但眼前這個男人的描述又是那么的合情合理,他的全身都在因為認知發(fā)生的巨大沖突而顫抖著。
“你有沒有想過為什么戰(zhàn)爭結(jié)束后,聯(lián)邦政府可以這么快就重新掌握了政權(quán),你甚至在教科書上看不到那段時期出現(xiàn)過叛亂。一切都那么團結(jié)、一切都那么井然有序?!?br/>
“你是誰?為什么會知道這些?”文森激動的站了起來,將懷疑的目光投向馬勒。
“這不重要,我只是在描述一個可能性的推論。”馬勒很平靜,平靜而深不可測。
“你,到底是什么人!”文森的聲音也在發(fā)抖,這次不是因為馬勒描述的事情讓他震撼,而是馬勒這個人,令他恐懼。
“如你所見,我只是一個醫(yī)生,一個治好了你朋友的醫(yī)生。謝謝你讓我度過了有趣的一天。時間看來也差不多了?!瘪R勒沒回避文森懷有敵意的目光,他只是微笑著淡淡地把這句話敘述完。
“什么時間差不多了?”是浩二的治療嗎?
馬勒沒有回答,只是看著他。
文森從對方的眼神中看出了異樣。眼前坐著的這個男人,他的眼神,空洞,無光。仿佛注視的不是面前的這個年輕人,而是別的什么,存在于其他維度的別的什么。
文森的心中已經(jīng)得出了他第一個問題的答案。
“你..你不是...”他覺察很早,卻遲遲不敢確信。他想說出來,腦子卻指揮不了嘴巴。
“我很高興你終于知道答案了?!瘪R勒的聲音漸漸遠去。
無比的困意正襲上心頭,甚至連控制自己站在那也成為了難題。
文森倒下了,棋盤上的棋子也被打翻了。
黑白的棋子散落在了一地,發(fā)出噼里啪啦的聲響。
漸漸地他要失去意識,他掙扎著。一旁的馬勒恰如其時地拿走了兩個杯子以不至于讓杯子摔爛。他蹲下身,冷冷地看著文森。
意志終究抵不過**的困乏,文森幾要睡去,恍惚中他感覺到馬勒把躺在地上的他又扶了起來,只聽見馬勒在他耳邊說的最后一句話。
“一切都會沒事的,就這樣安心閉上眼,然后入睡吧,就像回家了一樣?!?br/>
(本章完)想和更多志同道合的人一起聊《銀河戰(zhàn)爭記憶》,“ ”看小說,聊人生,尋知己~