來源|愛范兒

(相關(guān)資料圖)

作者 |劉慈欣

最近，劉慈欣在直播時(shí)透露，自己實(shí)在沒時(shí)間，所以參加科幻大會(huì)時(shí)用 ChatGPT 寫了一兩篇發(fā)言稿。

劉慈欣表示，ChatGPT 寫得也還挺不錯(cuò)的。

此前劉慈欣發(fā)表了一篇題為《科幻文學(xué)中的可持續(xù)未來》的演講，用科幻的視角解讀了一個(gè)截然不同的人類未來。

何為科幻視角？從距地球 60 億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關(guān)的一切的星球，即為科幻視角。

在演講結(jié)束后，劉慈欣談到了以 ChatGPT 為代表的人工智能可能會(huì)給人們帶來的影響。

2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點(diǎn)，霍金曾預(yù)言「人工智能比核彈還危險(xiǎn)，人類馬上就要被人工智能控制」，當(dāng)時(shí)的他認(rèn)為這個(gè)說法有點(diǎn)危言聳聽。

而現(xiàn)在，他認(rèn)為我們是時(shí)候?qū)ξ磥碛兴X。

劃重點(diǎn)

1. 人工智能會(huì)首先取代高智能的職業(yè)，這與我們的預(yù)測(cè)相反。

2. 人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發(fā)展。

3. 人工智能或許會(huì)讓人類陷入舒適的陷阱之中。

Q：現(xiàn)在 ChatGPT 橫空出世，被人們熱烈地討論，您覺得人工智能的發(fā)展對(duì)人類的命運(yùn)會(huì)產(chǎn)生一個(gè)什么樣的影響？那自我迭代的人工智能有沒有可能會(huì)取代或者說消滅人類？

我覺得這（人工智能的影響）應(yīng)該從這個(gè)現(xiàn)實(shí)或近未來和比較遠(yuǎn)的未來這兩點(diǎn)來看待。

從我們近未來或甚至從我們現(xiàn)實(shí)來看，人工智能它對(duì)我們社會(huì)世界的影響我相信大家已經(jīng)都看到了，它現(xiàn)在已經(jīng)產(chǎn)生一個(gè)很明顯的趨勢(shì)：（人工智能）有可能在代替我們?nèi)巳氖潞芏嗟墓ぷ鳌?/p>

這個(gè)應(yīng)該說是一個(gè)正面的趨勢(shì)，這種趨勢(shì)它可以提高我們的生活質(zhì)量、提升人類的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。

但是另一方面我們也不能不正視，人工智能的發(fā)展給人類社會(huì)帶來的沖擊。

首先，最明顯的一點(diǎn)是人工智能可能會(huì)代替相當(dāng)多的「人的工作」，而且這個(gè)趨勢(shì)與我們以前的預(yù)測(cè)正好相反。

以前我們預(yù)測(cè)認(rèn)為人工智能首先代替的是那些簡(jiǎn)單勞動(dòng)、重復(fù)勞動(dòng)的那樣的工作，但是現(xiàn)在看來正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫(yī)生、教師、股票經(jīng)紀(jì)人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。

所以說人工智能對(duì)于人類的整個(gè)世界的發(fā)展來，它的影響很深遠(yuǎn)。我們?cè)偻鶎哟卧俑咭恍┑脑?，人工智能可能?huì)對(duì)我們世界中相當(dāng)多的比較基礎(chǔ)的東西可能會(huì)產(chǎn)生重大的影響。

比如它會(huì)對(duì)文化藝術(shù)、文學(xué)，對(duì)這個(gè)人的創(chuàng)造力，對(duì)人的對(duì)世界的認(rèn)識(shí)等等可能都會(huì)產(chǎn)生重大的影響，甚至可能讓這一些東西都會(huì)被重新定義。

當(dāng)這個(gè)人工智能現(xiàn)在已經(jīng)開始介入到我們的科學(xué)研究之中，介入到我們對(duì)整個(gè)世界規(guī)律、對(duì)自然規(guī)律的認(rèn)識(shí)之中，介入到對(duì)人類發(fā)展規(guī)律的認(rèn)識(shí)之中，它可能產(chǎn)生的影響十分的深遠(yuǎn)。

當(dāng)初人工智能在圍棋領(lǐng)域戰(zhàn)勝很多優(yōu)秀的圍棋選手的時(shí)候，有一位我們國(guó)內(nèi)最出色的圍棋選手說了一句話，讓我印象很深刻。

他說中國(guó)的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個(gè)理論和經(jīng)驗(yàn)，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發(fā)現(xiàn)它的一切全是錯(cuò)的。

這一個(gè)說法確實(shí)很令人震驚，這件事情會(huì)不會(huì)發(fā)生在別的領(lǐng)域我們不知道，如果廣泛發(fā)生的話，那么人工智能對(duì)人類文化文明最深層的影響我們是不可忽視的。

下面我回答您的第二個(gè)問題，就是說人工智能是否會(huì)把這個(gè)會(huì)消滅人類，這也應(yīng)該分兩個(gè)層次來回答。

第一個(gè)層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統(tǒng)治世界。

這一點(diǎn)從目前的這個(gè)技術(shù)發(fā)展趨勢(shì)來看，特別是從目前的技術(shù)水平來看，在可以看到的未來可能性不是太大。

當(dāng)然您剛才提到一個(gè)很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現(xiàn)危險(xiǎn)的一個(gè)行為。

這個(gè)行為是什么呢？就是說當(dāng)人工智能按我們現(xiàn)在的發(fā)展，它比人類的智能稍稍高一些的話，它自己也會(huì)像人類一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來的這個(gè)新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會(huì)接著迭代下一代，這樣的話他們就會(huì)很快的把這些人工智能的智能水平提高到很高。

可能迭代下去，會(huì)提高到人類（智能）的幾百倍甚至上萬倍。

而它而由于它的這個(gè)計(jì)算機(jī)的計(jì)算時(shí)間比這個(gè)人腦人的大腦要快成千上萬倍，那么這個(gè)迭代的時(shí)間可能十分的短，據(jù)推測(cè)可能只有半個(gè)小時(shí)到一個(gè)小時(shí)。

就說我們把人工智能發(fā)展到現(xiàn)在用了一個(gè)世紀(jì)的時(shí)間，而人工智能百倍于現(xiàn)在的這個(gè)程度，可能只用半個(gè)小時(shí)到一個(gè)小時(shí)，這是很可怕的一件事。

但是做出這個(gè)預(yù)測(cè)的人忘了一點(diǎn)，就是我們?nèi)祟惖挠?jì)算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。

所以這就是一個(gè)有很諷刺意義的一件事情：我們?nèi)祟惖臒o能反而成為我們一個(gè)最后的屏障。所以您說的這這種毀滅不太可能。

那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對(duì)人類的消滅可能完全符合我們的意義。

比如說人工智能的發(fā)展，我剛才說過它可能會(huì)代替我們的這個(gè)大量的工作，而我們的社會(huì)如果適應(yīng)了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來一個(gè)十分舒適的那種社會(huì)環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進(jìn)行。

在這種情況下，我們會(huì)越來越多地交出自己對(duì)社會(huì)運(yùn)作的操作這種權(quán)利給到人工智能。

而生活會(huì)變得越來越舒適，那么這個(gè)樣子下去的話，我們可能面臨著人類歷史上前所未有的一個(gè)巨大的陷阱。

就是說在這個(gè)科技的這種安樂窩里面，那么人類文明的活力在哪里？我們的開拓精神在哪里？如果這樣一直發(fā)展下去的話，那可能人類最后的命運(yùn)就是您說的被人工智能所消滅，但這個(gè)消滅的過程完全是在我們的意愿之內(nèi)，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。

而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計(jì)算能力遠(yuǎn)遠(yuǎn)小于我們前面那個(gè)真正的字面意義上的那種消滅。所以這確實(shí)是我們應(yīng)該對(duì)未來有所警覺的一件事情。

劉慈欣演講全文整理

大家好，我們今天要談?wù)摰脑掝}是科幻文學(xué)中的可持續(xù)未來。

作為一種基于想象力的文學(xué)形式，科幻小說并不能夠?qū)ξ磥碜鞒隹茖W(xué)的預(yù)測(cè)，它只是描述未來的各種可能性，同時(shí)它也提供了一個(gè)看世界和看未來的獨(dú)特視角，這個(gè)視角與我們從現(xiàn)實(shí)看世界看未來的視角可能有很大的不同。

《暗淡藍(lán)點(diǎn)》

科幻的視角是什么？大家可能都知道一張叫《暗淡藍(lán)點(diǎn)》的照片，我本來想把那個(gè)照片拿來的，但我覺得好像大家應(yīng)該都看過那張照片，就沒有把它拿來放出來。

這可能是人類歷史上最重要也是最著名的照片之一，他是上個(gè)世紀(jì) 70 年代發(fā)射的旅行者 1 號(hào)宇宙探測(cè)器，在 90 年代初在距地球 60 億公里的太空中拍攝的。

初看上去整張照片它都是黑色的，很仔細(xì)看才能發(fā)現(xiàn)這一片黑色中有一個(gè)小小的亮點(diǎn)。它十分的小，就是僅有這張照片的 0.12 個(gè)像素那么大。如果不加以指示，你說觀看者是很難發(fā)現(xiàn)這個(gè)白點(diǎn)的。

有人形容它是太空中的一粒塵埃，其實(shí)是把它說的大了。按照比例計(jì)算，這個(gè)暗淡的小點(diǎn)放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個(gè)數(shù)量級(jí)，要小得多。這個(gè)亮點(diǎn)就是地球，人類世界的全部，和我們有關(guān)的一切，所有活著和曾經(jīng)活過的人，所有曾經(jīng)有過和正在進(jìn)行歷史和生活，都在這里塵埃上面，這就是科幻的視角。

對(duì)于人類的發(fā)展和未來，這個(gè)視角與我們傳統(tǒng)的視角是有很大差異的。從這個(gè)視角去看，我們對(duì)人類社會(huì)的可持續(xù)發(fā)展會(huì)有一些新的感悟。

首先，目前可持續(xù)發(fā)展所依賴的基礎(chǔ)環(huán)境保護(hù)，阻止全球氣候變化、對(duì)資源開采的節(jié)約和節(jié)制、基于環(huán)保的綠色生活方式等等，其重要性是無需質(zhì)疑的。在可以想見的未來，堅(jiān)守并貫徹以上的理念是人類文明得以延續(xù)的基本保證。

但是從科幻的視角看，從 60 億公里外，看一看那個(gè)暗淡的藍(lán)點(diǎn)，我們就真切地感受到，人類世界在宇宙中是多么的渺小。

對(duì)于文明的發(fā)展，這樣一個(gè)小世界存在著天然的脆弱和不確定性。這些脆弱和不確定性極大地影響著人類可持續(xù)的未來。對(duì)發(fā)展的威脅，它很可能來自發(fā)展自身。世界正走在現(xiàn)代化的進(jìn)程中。盡管近年來遇到了包括疫情、局部戰(zhàn)爭(zhēng)、國(guó)際社會(huì)分裂和對(duì)抗加劇這些挫折，但從長(zhǎng)遠(yuǎn)的大趨勢(shì)來看，現(xiàn)代化的進(jìn)程不可遏制。

現(xiàn)有的不發(fā)達(dá)國(guó)家和地區(qū)全面達(dá)到西方的發(fā)展程度和生活水平并非遙不可及的事，而如果全世界都進(jìn)入這樣的發(fā)展?fàn)顟B(tài)，我們粗略估算一下，人類將需要 4 個(gè)半地球的資源。所以，要實(shí)現(xiàn)人類真正的可持續(xù)發(fā)展，我們必須找到另外 3 個(gè)半地球。

另外也是更重要的就是未來的不確定性還來自地球自然界本身。地球生態(tài)系統(tǒng)是一個(gè)極其復(fù)雜的系統(tǒng)，處于不斷的波動(dòng)之中。

例如在漫長(zhǎng)的地球歷史中，在地球的地質(zhì)紀(jì)年中，大氣溫度上升或下降幾度，從這個(gè)地質(zhì)紀(jì)年的尺度來看那是一件很平常的事。但是對(duì)于現(xiàn)代人類社會(huì)來說，卻可能是滅頂之災(zāi)。

地球平均氣溫上升幾度，就會(huì)因冰川融化導(dǎo)致海平面全面上升至使沿海地區(qū)、沿海經(jīng)濟(jì)區(qū)被淹沒，大量人口向內(nèi)地遷移，進(jìn)而造成世界經(jīng)濟(jì)的混亂和崩潰。

而地球平均溫度下降幾度將導(dǎo)致全球農(nóng)業(yè)體系的崩潰，是世界處于大饑荒之中。就在現(xiàn)在人們擔(dān)憂過量的碳排放導(dǎo)致氣溫上升時(shí)，卻很少有人注意到地球的下一個(gè)小冰期可能正在到來。在地球這樣一粒宇宙塵埃上，生態(tài)圈的長(zhǎng)期的穩(wěn)定，它只是一種幻覺而已。

為了應(yīng)對(duì)未來的種種不確定性，人類社會(huì)將在政治、經(jīng)濟(jì)和文化等方面作出不斷的努力。但這也是從我一個(gè)科幻作家的這個(gè)角度來看，我們最終所能依賴的力量還是來自于科技的進(jìn)步。

首先，在地球的生態(tài)空間之內(nèi)，技術(shù)的進(jìn)步可以開發(fā)出全新的資源。在歷史上，煤炭、石油和核能取代了木材，合成材料取代了棉花和皮革。在未來，科技的進(jìn)步能夠帶來更加高效和環(huán)保的能源，能夠從之前從未利用過的自然資源中產(chǎn)生出新的材料，能夠培育出適應(yīng)各種氣候的高產(chǎn)農(nóng)作物。

無論是在未來變化的地球環(huán)境中生存下去，還是努力阻止地球環(huán)境發(fā)生變化，都要借助科技的力量。如果從地球向外看，我們就看到了一條更為廣闊的發(fā)展之路。太陽系中有著巨量的資源，在八大行星上，在小行星帶中，人類生存和發(fā)展所需要的資源，從水到金屬，從有機(jī)物到核聚變材料到核聚變?nèi)剂蠎?yīng)有盡有。

我們能夠從太陽系的太空中找到的遠(yuǎn)不止 3 個(gè)半地球，按照地球最終可以養(yǎng)活 1000 億人口計(jì)算，那么太陽系中的資源總量可以養(yǎng)活 10 萬個(gè)地球的人口，一個(gè)人只有走出搖籃才能實(shí)現(xiàn)可持續(xù)的成長(zhǎng)，而人類文明作為一個(gè)整體，要想擁有真正的可持續(xù)的未來，也必須走出地球這個(gè)搖籃。

否則的話，人類的未來就有可能像阿瑟克拉克在科幻小說《2001 太空奧德賽》中描述的那樣，在一片豐饒之中他們慢慢餓死。

這兩個(gè)方向的可持續(xù)發(fā)展都是以科學(xué)技術(shù)的不斷進(jìn)步為基礎(chǔ)的，在這方面人們面對(duì)的現(xiàn)實(shí)并不是很樂觀的。我們現(xiàn)在所處的這個(gè)年份就是 2023 年，曾經(jīng)無數(shù)次在科幻小說中出現(xiàn)。

對(duì)比一下以往的科幻小說中的 21 世紀(jì) 20 年代和我們現(xiàn)在已經(jīng)變?yōu)楝F(xiàn)實(shí)的 2023 年，我們能有的也只是一聲嘆息。

在科幻小說中的 2023 年，地球的同步軌道上運(yùn)行著宏偉的太空城，月球像地球的近鄰近郊一樣繁榮，在火星上已經(jīng)建成多處人類知名城市，生活著數(shù)以百萬的人，在小行星帶進(jìn)行著大規(guī)模的礦業(yè)開發(fā)。在木衛(wèi)一的冰封海洋上，在海王星的軌道之外，都有人類開拓新世界的身影。太空航行已經(jīng)普遍使用核動(dòng)力飛船，擁有著現(xiàn)在的化學(xué)動(dòng)力飛船所不可比擬的運(yùn)載和續(xù)航能力。

在那個(gè) 2023 年，也就是在科幻小說中的 2023 年，他們所展望的 2023 年， 10 萬個(gè)地球正在誕生之中。談到可持續(xù)的未來，這應(yīng)該是一幅符合邏輯的圖景，但在現(xiàn)實(shí)的 2023 年中，我們確實(shí)還看不到這幅圖景的影子。

在現(xiàn)實(shí)的 2023 年，唯一與科幻小說中對(duì)這個(gè)年份的想象相近的是信息技術(shù)的發(fā)展。在過去的 30 年，信息技術(shù)以遠(yuǎn)超其他技術(shù)的速度越近，信息網(wǎng)絡(luò)已經(jīng)滲透到人類社會(huì)的方方面面，全面而深刻地改變著我們的生活。

特別是近來人工智能開始有了取得突破的跡象，也引起了廣泛的關(guān)注?？苹眯≌f中無數(shù)次描述過的 21 世紀(jì)強(qiáng)人工智能，它已經(jīng)現(xiàn)出端倪。

但正是信息技術(shù)的快速發(fā)展，掩蓋了其他科技領(lǐng)域進(jìn)步的緩慢，造成了科技全面飛速進(jìn)步的一個(gè)假象。如果把科學(xué)發(fā)展產(chǎn)生的技術(shù)進(jìn)步看成是一棵大樹的話，那么在今天，這棵樹上最容易夠得到的果實(shí)都已經(jīng)被摘光。

科技進(jìn)一步的發(fā)展和突破需要巨大的投入和長(zhǎng)遠(yuǎn)的規(guī)劃，而這一點(diǎn)在目前對(duì)可持續(xù)發(fā)展所持的理念上似乎并沒有被放到最重要的位置。

目前世界各國(guó)對(duì)于基礎(chǔ)科學(xué)研究和航天探索的資金的投入，只有對(duì)環(huán)境保護(hù)事業(yè)投入的 1/ 10?，F(xiàn)在對(duì)可持續(xù)發(fā)展的規(guī)劃是建立在環(huán)境保護(hù)、節(jié)約資源和建立綠色生活的基礎(chǔ)上。但要得到一個(gè)長(zhǎng)遠(yuǎn)的、真正可持續(xù)的未來，我們還需要更多的開拓精神和進(jìn)取精神。

國(guó)際社會(huì)需要更長(zhǎng)遠(yuǎn)的發(fā)展規(guī)劃，需要對(duì)基礎(chǔ)研究和技術(shù)創(chuàng)新全力關(guān)注和投入。在這方面的很多事業(yè)可能只有大范圍的國(guó)際合作才能完成，聯(lián)合國(guó)無疑能夠在這方面發(fā)揮重要的作用。

科幻小說描述了未來的多種可能性，用想象力構(gòu)建了無數(shù)個(gè)未來世界。他們色彩各異，形態(tài)萬千，但都有一個(gè)共同點(diǎn)，那里的科學(xué)技術(shù)已經(jīng)發(fā)展到了很高的水平，借助于科技的力量，人類能夠?yàn)樽约洪_拓更加廣闊的生存空間。這無數(shù)個(gè)想象世界中的一個(gè)將變?yōu)楝F(xiàn)實(shí)，成為我們的未來。

也許在那樣的世界中，人類仍然會(huì)面臨來自社會(huì)發(fā)展和大自然的更多的挑戰(zhàn)，我們也必須接受未來的挑戰(zhàn)，用發(fā)展來解決發(fā)展遇到的問題。最后，對(duì)于人類可持續(xù)的未來，引用科幻作家喬治威爾斯的一句話：

要么遍布宇宙，要么徹底滅亡。

謝謝大家，我的講話完了。