 主持人：我注意到，前段時間尹燁老師在一個論壇上提到，比起扎克伯格的元宇宙，您好像更關注馬斯克的太空探索，要不您給我們展開聊一聊吧。 尹燁：去年扎克伯格元宇宙大火的時候，我覺得這件事情還是比較忽悠的。我當時最受不了的是，全社會都被他帶著走。那個時候變成了美國人在講什么概念，我們就都跟風，甚至高校以及很多地方政府都開始跟風建立了元宇宙學院。劉慈欣講過這么一句話：當我們的肉體還不能離開地球，但思想卻陷入一個無窮的虛擬世界時，這對人類不是好事。有點像，如果大家每天都刷短視頻，我們就完蛋了。 一個基本的問題是，總有一批人是要去仰望星空的。很多人說，哎呀飯都吃不上了。我說，其實仰望星空的反義詞不是腳踏實地，仰望星空的反義詞是不允許你仰望星空。我們現在要創造大量的機會，讓更多同志們能夠去仰望星空。其實如果你去看馬斯克，他在少年時期大量閱讀，這是一個極好的習慣。他的讀書量，當年蓋茨講過，一年至少都是幾百本。 那么你會發現他對宇宙觀的理解來自卡爾·薩根，然后他對于人工智能的理解來自亞瑟·克拉克。基本上他講到的內容，比如“人類是硅基生命的先導”，“我們要成為多行星物種”，美國的科普大師們早就在六七十年前就講過了。他看的就是這些讀物，實際上是站在了巨人的肩膀上，又堅定地按照巨人指引的方向、按照第一性原理，向前去推進。 他最核心的內容是我們不甘心只困在地球上。現在地球最大的問題是地球可以沒有人，但人類卻不能沒有地球。我是做生命科學的，我太明白了，我們經歷了五次大滅絕，人類才走到今天。 其實從哥白尼到伽利略，我們已經知道人類不是宇宙的中心了，但我們可不可能成為一種精神的中心。人類的愛、人類的美、人類的這種人文主義、人文精神能不能在宇宙中廣為流傳？這其實是包括馬斯克在內，也包括中國航天在內的，大家都想要找的一個答案。 我們想要一個備份，如果都沒有備份了，那地球就是一個小小的點，這個小小的點哪天如果不在了，實際上我們人類所有的努力就化為灰燼了。所以從這個意義上講，如果有人能推十年，那么100代人就可能推出1000年，那這1000年給我們省下的時間，可能在人類更長的歷史上，它是件很了不起的事情，畢竟人類擁有科學僅僅500年。  主持人：我覺得剛剛我們談論的，其實是一個關于人類未來解題思路的問題。馬斯克他提出的一個想法，是通過他的科技手段，讓人類成為多行星物種。 那順著這個問題，我也想聽聽施展老師的看法。由這個問題延伸開來，也是一個關于人類未來的問題。我們會發現，現在全球的經濟空間或者是政治空間，它好像會呈現一種張力，一種兩相背反的分離趨勢，比如說全球化讓各國之間的經濟聯系，我們有個共識，是很緊密的。 但是我們看這幾年的政治形勢，會發現很多問題，比如說戰爭越來越頻繁，比如說各國都在強調自己優先，好像這兩股趨勢是在互相拉扯的，那您覺得就是面向人類的未來，技術手段有可能成為一種凝聚的趨勢嗎？或者是成為一種凝聚力嗎？ 施展：技術本身它是中立的，但是技術的社會后果未必是中立的。或者這么說，您說技術是否成為未來凝聚的一個來源，但技術它同樣可以成為未來撕裂的一個來源。原因在于，任何一個新技術的出現，它都會產生一系列的政治學和社會學后果。因為任何一個新技術的出現，都一定會帶來大量的新資源。沒有這個技術，那個資源就不會被開發出來，或者說不會被創造出來。任何一個新技術都會帶來大量新的資源，從而帶來大量的財富。 但是財富的分配從來又不是平均分配的。那它就會導致，往往是過去的loser，他能夠率先拿到那些新的財富，因為他一無所有，他沒有什么可以失去的，而過去的winner如果去冒險的話，他的機會成本太大了。于是，過去的winner往往很難拿到這個新的財富，但是權力是掌握在過去的winner手里的，在這種情況下，一定會發生張力，這是一個方面。 再一個方面就是咱們看現在全球化，它確實讓全球的財富獲得了極大的提升，跟過去比，提升速度非常之大。同樣因為全球化所帶來的分配差異也很不平衡。 咱舉一個例子，就比如像現在的全球化，美國創新能力超強，它在這方面的比較優勢就是最大的，那么美國的企業家為了更有效地讓自己的比較優勢釋放出來，他就會把生產環節這些利潤環節小的部分甩出來、外包出來。因為生產環節產生利潤相對小，創新環節的利潤大。  而這個過程就拉動了中國經濟、中國制造業的崛起。那么在這種情況下，新的問題來了，美國內部原來做制造業的那幫兄弟，他就被擱那兒了。美國東海岸、西海岸，甭管是風投領域，還是科技創業創新領域，都有可能賺到很多。但是中間這群人，原來做制造業的就被晾在那了。而中國，雖然我們只能賺到利潤比較薄的那一塊，但如果業務夠多，獲得的財富總量也是非常可觀的。 中國這些年我們都知道財富總量非常可觀，但它會導致美國內部分配非常不均衡，而這種不均衡就有可能在內部引發一系列的社會問題。這種社會問題如果用經濟手段解決不了的話，就會轉化為一種政治手段解決的動力。所以我們看美國這幾年的，最近這兩屆大選，都有很嚴重的政治撕裂，這是由于它底層的社會撕裂所帶來的，而社會撕裂的更底層，又是它的東海岸、西海岸跟中間這些鐵銹地帶的經濟撕裂結果。 而這種經濟撕裂，它是全球化所帶來的一個結果。那么在這種情況下，全球化會促成人類財富的普遍提升，但是在具體某個政治體內部，它的財富提升、財富的分配未必是均等的，它有可能會帶來撕裂，而這種撕裂會引發一系列政治上的反制。 但是我們回頭看人類歷史的話，地理大發現開啟了全球化，在這之后，我們會看到大量這種因科技的進步、因全球化的展開而導致了一系列不均衡，這些不均衡它有可能會引發一系列問題，然后甚至有可能爆發戰爭，每一次最激烈的解決形式是戰爭，戰爭把之前問題給一把出清。出清之后，全球化會進入一個新的、更深的階段。那么就今天來說，我覺得當下咱們看到的各種動蕩、各種沖突，是類似的一個狀況、類似的一個表達。 有些地方，它是熱戰，比如在中東、東歐。有些地方，它未必是熱戰，但它是另外一種表達，至少核大國之間不會再發生熱戰了，核武器的出現消滅了大國間戰爭，因為它的破壞力完全不可控。 而戰爭是政治的延續，打仗不是目的，打仗為了什么才是目的。如果核戰爭最后兩敗俱傷，同歸于盡，任何目的都達不到，此時戰爭就變得不是一個可以訴諸的手段了。所以核大國之間不會再發生直接熱戰了，但是它會以別的方式表達出來。 剛才我們聊到，它是需要以某種方式把既有的這些問題釋放出來，重新達到一種均衡，然后全球化才會繼續往前造，所以我們看過去這幾百年，全球化就是這么往前走上三步，要退一步，再走三步，再退一步。今天可能已經到了退一步的那個階段了，但是你退完這一步，再往前看，還會往前再走上三步。 主持人：除了這種實際的熱戰發生的可能性非常小。我們會發現，在我們現在所處的這個時代，還會有另一層擔憂，就是以AI為代表的人工智能對我們的沖擊，也會引發人類對自身處境的一個擔憂。 尹燁：我們真的只是在想象中認為會有一些硅基物種，會有一些這樣的機器人等。在這一刻，我們還看不到被所謂的硅基物種徹底代替的可能性。我們現在看到更多的可能會走到一個融合，有點像十多年前，我們討論互聯網會不會取代傳統制造業的時候，當時給出的答案是“不會”，但是傳統制造業可以變成互聯網+，然后很快獲得比較優勢，那么它會戰勝那些不用互聯網的部分。 今天來看，AI也是，AI+。AI并不是一個單純的行業，AI會滲入到各個行業，特別是垂直細分領域的各個行業。那么在這一刻，其實反過來講，我們最近討論的很重要的一個問題就在于，如果硅基生命真的可以威脅碳基生命，反而碳基生命可能會很團結。今天如果讓地球都不打仗的唯一可能性是什么？三體來了，我們要一起對抗一個要消滅整個地球生命的文明，大家可能會握起手來。 所以我想現在一個最核心的問題就是在于，我們在評價任何一個技術的時候，既要允許子彈飛一會兒，不可能一下子就把它按到地上，又要積極地去思考，讓這個技術能保證它向上和向善。 之所以講這個問題，實際上我們可以去看，包括核武器，施展老師剛才講到了，核大國之間最后形成了平衡，其實核是盾、并不是矛，大家誰沒事丟個核彈玩。但反過來講，對核電站的態度，特別是對可控核聚變未來的投入和大家的決心就可能會決定人類，至少在能量這個環節上，我們有多大的程度上具備了成為多行星物種的能力。 《流浪地球》演了半天，大家天天在燒“石頭”，那其實是一個非常高階的可控核聚變。人類今天能做的可控核聚變就是氫的同位素，就是從氘到氚，就這一步，連一個氦我們都不可能合成。太陽是用氫合成氦的，但那個東西需要在2500億個大氣壓、1000萬開爾文以上的溫度，高溫高壓下才能做，地球今天還沒有這個能力，所以一方面不要放棄對技術的想象，允許大家大膽去假設，但是求證時候要小心。 主持人：人工智能、ChatGPT最近非常熱，如果我們開腦洞地想象，一旦這個人工智能進入到強人工智能時代，它們產生自主意識的話，人類的價值會不會受到影響，或者是人類的生存會不會受到威脅？  施展：這是現在很多人都在討論的問題，但我個人對這個事一點都不悲觀。當然，我做的是一個純哲學式的判斷了，就是笛卡兒他說過一句話，大家都很熟悉的“我思故我在”。仔細去分析這句話，你會注意到“我思故我在”里面有兩個我，它是在不同位階上的。任何一個理論，如果其中有一點你是覺得有疑問的，那么你就把它給懸置起來，先不拿它當一個真的、給定的真理對待。那么你再去看下一個理論，發現也有問題的話，就把它也懸置起來。 你不斷地質疑，不斷地質疑，質疑到最后，會發現有一個正在質疑的我的存在是不可置疑的，這是原點。但新的問題來了，是誰看到了有一個正在質疑的我的存在，那一定是一個更底層的我觀察到了有一個我正在進行質疑，更底層的那個我，它去觀察而不被觀察。而最底層的去觀察而不被觀察的那個我，它是永遠無法被觀察的，因為只要你去觀察它的時候，它就變成次底層了，一定有一個更更底層的我。 你去觀察更更底層的我的時候，又有一個更更更底層的我，就是永遠有一個最底層的去觀察而不被觀察的我的存在，它是一切動力的來源，它是最終第一性的來源，第一推動者。那么這意味著什么？那個第一推動的我，它是你一切的自我意識，一切的自主欲望，你的野心，你的善意，所有一切都是從那里來的。它是去觀察而不被觀察的，那么這意味著什么？這個我如果無法被觀察，它就無法被數學模擬，無法被模擬，ChatGPT就處理不了。 ChatGPT能夠處理的，都是可被觀察的對象，而最底層的我是無法被數學化的。所以在這個意義上，我不認為AI真的能夠產生自我意識。如果說它有自我意識，一定是背后有一個人在操控它，利用這個AI去達到自己的目的。 嗯，我不知道尹燁老師怎么看問題？ 尹燁：其實說實話，我怕有一天，我們大部分人可能分不出來它有沒有自我意識。就像我也不覺得我們地球上很多人有自我意識。 什么叫自我意識？如果都是道聽途說，可能也不叫自我意識。實際上，我現在更大的擔心，不是說硅基生命產生的意識，只要它那個意識還是來自人類的訓練。它有愛有美，我不擔心，我現在更害怕的是，我們看到了很多碳基生命，它像硅基生命一樣去執行。 大家可能知道，最近我正在跟蔡磊老師做漸凍癥的攻克，我們還在考慮一群為了生存苦苦掙扎的人，然后一群很健全的人，也不知道因為什么理由，天天在互相殘殺，所以這個在我來看是更可怕的一個事情。 實際上，我們看了這么多年的物種，我是做生命科學的，唯一一個可以以滅種式消滅同類的，那就是人類。我們當年的尼安德特人被智人在遷徙過程中“干掉”了。種族滅絕只發生在人類身上，所以你說，如果人類這個屬性沒有被去掉的話，我們去擔心人工智能會消滅人類，有什么意義嗎？ 當我們去吃小龍蝦的時候，我們也沒有想過小龍蝦媽媽怎么想。我舉這樣的一個看似笑話的例子，是告訴大家，怎么能夠把人類當中的美植入，讓所謂的代碼倫理化？強人工智能如何能夠有愛，這是我更加希望在技術上能夠實現的問題。 施展：對，我再接著尹燁老師這個話往前說一下，就是到未來，我們確實有可能從它的行為表現上分不出它是不是AI，還是一個真人？但是這個AI它是否有它的自主意識，就是我想去干什么，而不是接受了一個命令，我去執行什么，就這個還是不一樣的。 但是AI背后有可能有一個，你不知道它的存在的人，那個人想去干什么的時候，此時AI當然會對人類構成一個巨大挑戰，但這不是因為AI，而是因為背后那個邪惡的意義。 主持人：嗯嗯，然后兩位老師的一個回答，我覺得特別有啟發性的一點是，當我們在討論AI是不是具有自主意識的時候，你首先可能捫心自問，問問自己是不是有自我意識？你是不是只是機械地去執行的？是不是某種程度上的一個AI？我覺得這一點也很重要。 |
|
|
