評《未來之地》：人工智能會奪走我們的生活意義嗎？

《未來之地：超級智能時(shí)代人類的目的和意義》，［英］尼克·博斯特羅姆（Nick Bostrom）著，黃菲飛譯，中信出版社2025年4月出版

從超級智能到未來之地

上一次讀尼克·博斯特羅姆（Nick Bostrom）的書，還是他2014年的大作《超級智能：路線圖、危險(xiǎn)性與應(yīng)對策略》（Superintelligence: Paths, Dangers, Strategies），幫助世界意識到人工智能的第一次大爆炸——深度學(xué)習(xí)的到來。彼時(shí)，人工智能的第二次大爆炸尚未發(fā)生（它為我們帶來GPT-4這樣的大語言模型），但博斯特羅姆提出的很多話題充滿洞見，至今波蕩不已。該書聚焦于人工智能發(fā)展出現(xiàn)問題可能帶來的后果，特別在提高人們對人工智能帶來的存在性風(fēng)險(xiǎn)的關(guān)注上，具有極其重要的影響。

在《超級智能》一書中，博斯特羅姆認(rèn)為：“如果有一天我們發(fā)明了超越人類大腦的智能機(jī)器大腦，那么這種超級智能將會非常強(qiáng)大。并且，正如現(xiàn)在大猩猩的命運(yùn)更多地取決于人類而不是它們自身一樣，人類的命運(yùn)將取決于超級智能機(jī)器。……一旦不友好的超級智能出現(xiàn)，它就會阻止我們將其替換或者更改其偏好設(shè)置，而我們的命運(yùn)就因此被鎖定了?！?/p>

所以，超級智能帶來的挑戰(zhàn)很可能是人類面對的最重要和最可怕的挑戰(zhàn)。而且，不管我們成功還是失敗，這大概都是我們將要面對的最后一個(gè)挑戰(zhàn)。“我們要的不僅僅是嫻熟的技術(shù)以引燃智能爆炸，我們還要能在更高水平上掌握控制權(quán)，以免我們在爆炸中身首異處?！?/p>

但是，假設(shè)我們能安全且合乎倫理地發(fā)展超級智能，并充分利用這種幾乎具有魔力的技術(shù)，我們將會進(jìn)入一個(gè)人類勞動(dòng)變得過時(shí)的時(shí)代——這一未來社會，不僅是一個(gè)“后工作”和“后稀缺”的社會，還將催生一種“后工具性”境況：人類喪失了做任何事情的工具性理由，不再需要為任何實(shí)際目的付出努力；人實(shí)現(xiàn)了不朽，可以轉(zhuǎn)變?yōu)閿?shù)字形態(tài)，繼續(xù)存在十億年；而且，人類本性也變得完全可塑。

在此情況下，我們面臨的挑戰(zhàn)不僅僅是技術(shù)性的，更是哲學(xué)和精神層面的。如果技術(shù)解決了所有實(shí)際問題，那么我們還剩下什么可以追求的？如果生存和勞動(dòng)不再是我們所關(guān)心的，什么會賦予我們生活的意義和目的？我們整天會做什么，又會體驗(yàn)到什么？

在他的最新著作《未來之地》（Deep Utopia: Life and Meaning in a Solved World，2024）中，轉(zhuǎn)變了視角，探索了超級智能所帶來的生活意義危機(jī)。博斯特羅姆預(yù)想的“存在之輕”讀起來無比沉重：“隨著我們向這種輕盈的狀態(tài)邁進(jìn)，擺脫了日常吸干我們時(shí)間和精力的揮汗如雨的辛勤勞作，我們可能開始感到一種疏遠(yuǎn)的無目的感，一種無根的‘存在之輕’。我們可能將要面對這樣的發(fā)現(xiàn)：自由度最大的地方實(shí)際上是一片虛空?！?/p>

博斯特羅姆將此歸納為“深度烏托邦”（deep utopia）的問題，也即“在我們解決了所有現(xiàn)存的其他問題之后，我們將面臨的問題”。這些問題具有永恒的心智吸引力，讓我們走到了對目的和存在的理解的邊緣。某種意義上，博斯特羅姆是在進(jìn)行一種思想實(shí)驗(yàn)，將深度烏托邦的概念作為一種哲學(xué)粒子加速器，在其中創(chuàng)造一些極端條件，讓不同的價(jià)值觀發(fā)生撞擊，從而使我們能夠研究我們價(jià)值觀的基本組成部分。

奇特的著作結(jié)構(gòu)

在我們深入探討博斯特羅姆的論點(diǎn)之前，讀者應(yīng)該意識到這本書與典型的哲學(xué)專著有兩個(gè)不同的地方。首先，博斯特羅姆的書并未圍繞一個(gè)核心論點(diǎn)展開系統(tǒng)論證，而是以一種開放的方式探索主題，嘗試各種想法，并在一些關(guān)鍵問題上保持謹(jǐn)慎。其次，這本書采用了一種實(shí)驗(yàn)性的風(fēng)格和結(jié)構(gòu)。它由一系列虛構(gòu)的講座組成，這些講座是博斯特羅姆想象自己年老時(shí)在一周的時(shí)間里所做的演講（每一章以一周的某一天為標(biāo)題）。幸運(yùn)的是，這些講座并不像陳舊的講義——學(xué)生們經(jīng)常插話提問，各種事件增添了戲劇性并注入幽默感。文本還包括講座中分發(fā)的講義和指定的閱讀材料——這些閱讀材料是博斯特羅姆專門為本書撰寫的獨(dú)立文學(xué)作品，常常是寓言性質(zhì)的。所有這些內(nèi)容的框架敘事來自三位哲學(xué)思維敏捷的朋友，他們闖入博斯特羅姆的講座，并喜歡在講座后一起去公共浴池放松。他們之間的犀利對話，包括對講座和閱讀材料的反應(yīng)，貫穿了許多章節(jié)。

開放的方式和實(shí)驗(yàn)性的結(jié)構(gòu)可能會讓一些讀者感到高興，也可能讓其他讀者感到憤怒。不喜歡的人可能會覺得這本書“臃腫”，認(rèn)為如果去掉那些文學(xué)修辭和旁枝末節(jié)的討論，書的篇幅可以縮短三分之一。而有些讀者沒準(zhǔn)會覺得博斯特羅姆的非標(biāo)準(zhǔn)方法令人耳目一新，可以享受書中彌漫的趣味和機(jī)智。

既非烏托邦，也非反烏托邦，而是進(jìn)托邦

形式而外，書中的哲學(xué)內(nèi)容十分豐富，充滿了論證、思想實(shí)驗(yàn)、案例研究和實(shí)證數(shù)據(jù)。也許在此無法涵蓋所有有趣的內(nèi)容，因此我將集中討論該書的兩大突出之處：一個(gè)巨大的、具有爭議的假設(shè)和一個(gè)巨大的轉(zhuǎn)折。

這個(gè)假設(shè)是，按照博斯特羅姆的觀點(diǎn)，在可預(yù)見的未來，我們將生活在一個(gè)“所有問題都被解決了的世界”里，這個(gè)世界是“技術(shù)成熟的”。它意味著所有重要的科學(xué)問題都已經(jīng)解決，人類平靜地向宇宙擴(kuò)展，人口隨著時(shí)間的推移呈指數(shù)增長。我們享有極大的富足，幾乎所有沖突的源頭都已然被消除。所以，該書的核心任務(wù)是探討這種狀態(tài)對人類（或后人類）來說是否令人愉快，以及我們的生活是否還能夠擁有意義。

我認(rèn)為，當(dāng)博斯特羅姆相信一個(gè)“最大技術(shù)能力”的社會也將是“非常好”的社會時(shí)，他或許過于樂觀了。就邏輯而言，我覺得他的假設(shè)不太可信。過去，每當(dāng)人類解決了一個(gè)挑戰(zhàn)，都會暴露出若干新的挑戰(zhàn)。盡管過去并不是未來的可靠指南，但我強(qiáng)烈懷疑這種模式會持續(xù)下去。因此，我更傾向于凱文·凱利（Kevin Kelly）的“漸進(jìn)烏托邦”（簡稱“進(jìn)托邦”，英文protopia，為progress+utopia或process+utopia的組合概念），而非烏托邦，哪怕博斯特羅姆在“烏托邦”一詞前邊加上了修飾語“深度”。在《必然》（The Inevitable，2016）一書中，凱利寫道：在進(jìn)托邦的模式里，事物總是今天比昨天更好，雖然變好的程度可能只是那么一點(diǎn)點(diǎn)，“因?yàn)檫M(jìn)托邦在產(chǎn)生新利益的同時(shí)，也在制造幾乎同樣多的新麻煩。今天的問題來自昨天的成功。而對今天問題的技術(shù)解決方案，又會給明天埋下隱患。隨著時(shí)間流逝，真正的利益便在這種問題與解決方案同時(shí)進(jìn)行的循環(huán)擴(kuò)張背后逐漸積累起來”。

淺層冗余與深層冗余

為了論證他的“深度烏托邦”，博斯特羅姆的首要任務(wù)是判斷在一個(gè)“所有問題都被解決了的世界”里，人類/后人類是否會變得冗余。他做出了一個(gè)有用的區(qū)分：淺層冗余和深層冗余。

在書的第三章，博斯特羅姆討論了我們?nèi)绾卧谝粋€(gè)幾乎所有職業(yè)勞動(dòng)都已自動(dòng)化的后工作世界中找到意義和目的。他的答案是，我們需要發(fā)展一種能賦權(quán)和教育個(gè)體在沒有傳統(tǒng)就業(yè)的情況下茁壯成長的休閑文化。這種文化將“鼓勵(lì)有益的興趣和愛好，促進(jìn)精神修養(yǎng)和對藝術(shù)、文學(xué)、運(yùn)動(dòng)、大自然、游戲、美食和對話等的欣賞，這些領(lǐng)域可以成為我們的靈魂樂園，讓我們能夠抒發(fā)創(chuàng)造力，了解彼此、了解自己、了解環(huán)境，同時(shí)愉悅身心，發(fā)展我們的美德和潛能”。

然而，后工作社會的問題與后工具性社會所提出的更深層次問題相比是膚淺的。博斯特羅姆將前者稱為“淺層冗余”，后者稱作“深層冗余”。在淺層冗余中，由于機(jī)器能夠以更便宜、更好、更快的方式完成我們曾作為謀生手段的所有工作，人類將不再有工作可做。但是，如果我們擁有了上述的休閑文化，在淺層冗余的情況下，人類依然可以過上有價(jià)值、甚至富有意義的生活，通過創(chuàng)造、娛樂和從事自己喜歡的工作，盡管不再為之獲得報(bào)酬。

本書的大部分都致力于探索深層冗余問題，這使得討論進(jìn)入了高度推測和未來主義的領(lǐng)域。在一個(gè)后工具性世界中，人類努力變得冗余，也就是說，沒有任何任務(wù)，包括休閑活動(dòng)，值得人類和后人類去從事。博斯特羅姆提到一些例子：納米機(jī)器人可以在我們睡覺時(shí)對我們的身體進(jìn)行物理調(diào)節(jié)，從而使鍛煉變得不再必要；學(xué)習(xí)變得毫無意義，因?yàn)槿斯ぶ悄苤笇?dǎo)的大腦編輯可以將新的信息和技能融入我們的大腦，而無需進(jìn)行學(xué)習(xí)。甚至育兒也可能變得深度冗余，因?yàn)闄C(jī)器人可以成為更好的父母，而且無論如何，育兒也不足以占據(jù)一個(gè)人生命（現(xiàn)在非常長壽）的足夠時(shí)間來賦予其意義。

如果深度烏托邦中的人們擁有博斯特羅姆所稱的可塑性和自我變革能力——即修改自己心理狀態(tài)的能力——他們或許可以避免因無用而產(chǎn)生的絕望。但盡管可以消除無聊，他們卻無法消除乏味感。博斯特羅姆引用了格雷格·伊根（Greg Egan）的科幻小說《數(shù)字永生計(jì)劃》（Permutation City,1994）中的情節(jié)，名為皮爾（Peer）的角色實(shí)現(xiàn)數(shù)字永生之后，為了避免無聊，他通過編程讓自己在隨機(jī)時(shí)間間隔內(nèi)產(chǎn)生新的激情。在小說的那個(gè)時(shí)刻，他的激情是制作桌腿，已經(jīng)制造了162,329條。由于他在雕刻完美的椅子腿時(shí)充滿喜悅，皮爾并不感到厭倦，但他的生活卻是極其乏味且缺乏意義的。

到此，這位牛津大學(xué)的前哲學(xué)教授不得不繼續(xù)他尋找生命意義的旅程。正是在這一刻，發(fā)生了巨大的轉(zhuǎn)折：博斯特羅姆并沒有給出答案。公平地說，他在書中的一段話中已經(jīng)提前警告了我們，這也是我認(rèn)為書中最精彩的段落之一：他比喻說，向別人提問生命的意義，就像問他們自己該穿多大的鞋碼一樣?！坝行┤丝赡苄枰孕?，而另一些人則應(yīng)該更周到。有些人應(yīng)該對自己更寬容，而另一些人則需要更自律。有些人無疑應(yīng)該被鼓勵(lì)去獨(dú)立思考、追求夢想，而另一些人最好還是待在人群中?！保ù颂?，博斯特羅姆模仿道格拉斯·亞當(dāng)斯的風(fēng)格補(bǔ)充道，最佳的鞋碼是十碼半。）

如果所有人類努力都是冗余的，那一切又有什么意義

拋開這類調(diào)侃，我們來看看博斯特羅姆對后工具性目的問題的回應(yīng)。總體來說，他對深度烏托邦中生活的前景持樂觀態(tài)度。盡管開放式討論風(fēng)格常常使得結(jié)論模糊不清，但他強(qiáng)調(diào)了兩點(diǎn)樂觀的原因。首先，他認(rèn)為，即使深度烏托邦中的生活缺乏意義，它們在其他方面將極為豐富，可能彌補(bǔ)這一缺失。這樣的生活可能充滿巨大的愉悅，通過“令人心醉神迷的美麗”帶來的強(qiáng)烈體驗(yàn)來讓人類盡情享受。憑借認(rèn)知增強(qiáng)和精密的人工智能內(nèi)容編程，我們的智力、情感和審美能力都可以得到充分激發(fā)。此外，這樣的生活不必是被動(dòng)的——即使人類努力變得冗余，人工智能仍然可以為我們設(shè)計(jì)引人入勝的任務(wù)和挑戰(zhàn)（博斯特羅姆稱之為“人工目的”），來利用我們增強(qiáng)的能力。

無疑，有些人會對這樣的生活感到滿足。但其他人仍然會感到目的問題的痛楚揮之不去——如果所有人類努力都是冗余的，那一切又有什么意義呢？這使得博斯特羅姆開始探討生命意義的哲學(xué)文獻(xiàn)，特別是與南非哲學(xué)家撒迪厄斯·梅茨（Thaddeus Metz）的理論展開對話。這一理論規(guī)定，生命要有意義，就應(yīng)遵循一個(gè)整體改善的弧線，并包含原創(chuàng)性和幫助他人的元素。這是一種客觀主義理論，意味著意義不能僅僅是我們每個(gè)人決定自己想要的樣子。相形之下，主觀主義的意義則可以通過調(diào)整心理狀態(tài)來滿足，甚至包括美國法學(xué)學(xué)者理查德·波茲納（Richard Posner）警告過的那種生活：“打架、偷竊、暴飲暴食、酗酒和晚睡?！?/p>

對于梅茨來說，有意義的生活必須具有一種包容性和超越性的目標(biāo)：它應(yīng)該吸收一個(gè)人大量的時(shí)間和精力，且應(yīng)服務(wù)于超越日常生活的目的。博斯特羅姆承認(rèn)，根據(jù)梅茨的理論，深度烏托邦中的生活將缺乏一個(gè)有意義生活的關(guān)鍵成分——即朝向善的方向，并在現(xiàn)實(shí)中產(chǎn)生價(jià)值。如果人類努力完全冗余，那么我們將不再能夠創(chuàng)造價(jià)值，因此無法達(dá)到此種生活意義的標(biāo)準(zhǔn)。然而，博斯特羅姆指出，我們?nèi)匀豢梢酝ㄟ^成為一個(gè)具有美德的人，去熱愛和欣賞周圍的善。同樣，也可以欣賞意義的另外兩個(gè)基本方面，即真和美。實(shí)際上，深度烏托邦將比我們當(dāng)前的世界提供更多的機(jī)會來做到這一切。這讓博斯特羅姆不禁要問：為什么這還不足以讓我們的生活變得有意義呢？

在書中的博斯特羅姆教授正要對此給出回答的時(shí)候，系主任悄悄耳語告訴他結(jié)束演講，因?yàn)閳龅刂蛔庥玫酵砩?點(diǎn)?！昂冒伞?，博斯特羅姆角色說道，“我想就這樣吧”。

無論書里書外，博斯特羅姆可能十分明智地沒有對后AGI世界中的生命意義做出精準(zhǔn)評價(jià)?；蛘咭膊环猎O(shè)想，他自己也根本不知道答案。如果非烏托邦是可怕的，而烏托邦又是乏味的，我們是否能找到某種在中間的甜美平衡點(diǎn)？人類天生討厭問題，但如果我們沒有問題需要解決，生活還能有什么意義呢？我們在桃花源中或者巨石糖果山上坐多久，才能感到滿足？對我來說，一個(gè)長周末大約就足夠了。十億年的完美幸福將變成完美的痛苦。