>科學范式和科學革命
我先給你介紹科學哲學史上的一個重要人物——托馬斯·庫恩（Thomas Kuhn, 1922—1996）。大約 60 多年前，美國人庫恩提出了一個重要的科學哲學概念，可以簡稱為科學范式和科學革命。
庫恩發現科學與其他學問，比如文學、藝術、宗教、哲學、道德、法律、政治等有一個很大的不同。科學的特殊之處就在于：全世界做科研的人都用數學語言做橋梁，采用同樣的一套標準來做研究或者判定理論的好壞，而且這套標準隨著時間的推移，越是接近現代，就越趨同。這就是所謂的科學范式。
托馬斯·庫恩（Thomas Kuhn, 1922—1996）
"Thomas-kuhn-portrait" by Davi.trip is licensed under CC BY-SA 4.0.
庫恩還發現，科學的發展并不是一種平滑的線性發展模式，而是會像走臺階一樣，隔一個階段上一個臺階，這種情況就被庫恩叫做“范式轉換”。后來，他寫書的時候，就用了一個更加有沖擊力的詞——科學革命。他想表達的是，科學的發展每隔一個時期，就會迎來一場革命，很多舊有的范式會被新的范式所取代，每當革命之后，科學又會取得新一輪突飛猛進的發展。
說實話，以前我對庫恩的這套理論并不是十分認同。我認為，總結過去，不代表就能預測未來。現代的科研活動已經發展得相當成熟，科學方法也差不多都定型，我實在想不出還能有什么可以取代現代科學方法，簡言之就是“理論推理+系統實驗”這一套方法。
> 未來范式或將引領科學革命 <
但是最近這一年以來，看到 GPT 這個人工智能模型的快速迭代發展，我突然發現，庫恩所說的科學革命，很可能就在不遠的將來，再次到來。人類社會又將迎來一次史無前例的深刻變革，這場變革的劇烈程度，很可能不亞于工業革命對社會的沖擊。
為了讓你感受到最近一段時間我內心受到的那種沖擊和震撼，我需要一層層展開跟你講。為了敘述的方便，我把目前最成熟的科學研究范式稱為“現代范式”，而這一場科學革命后的范式稱為“未來范式”。
現代范式遵循這樣的過程：不論我們做什么樣的科研項目，總是先要找到一套指導性的理論，這個理論未必成熟，也不一定完全正確，但總是先要有理論。然后，根據這套理論做出一些假設或者猜想，然后再設計實驗來證實或者證偽，如此循環往復，直到找到滿意的答案為止。
我舉個例子。用現代范式來研發一款靶向新藥，科學家們要怎么做呢？大概可以分成這樣幾個步驟：
【 第一步：發現新靶點 】
所謂的靶點，即藥物會攻擊的點，比如癌細胞的某個位置。怎么找到它們呢？就要通過現有的理論，比如生物信息學、分子生物學等，找出可能與某種疾病相關的蛋白質分子上的靶點。
【 第二步：藥物設計 】
在現有理論的指導下，設計出一種有可能成功攻擊靶點的分子結構。
【 第三步：合成 】
通過化學方法合成出想要的分子結構。
【 第四步：實驗 】
包括動物實驗、臨床試驗等。
實驗有可能成功也有可能失敗，如果失敗就跳回第一步，如此循環往復，花上個十多年找到一款新藥就已經非常幸運了。但是，當 AI 出現后，尤其是用神經網絡構建的機器學習模型出現后，這種現代范式開始面臨挑戰。
第一個讓科學界感到震驚的例子出現在 2020 年，當時麻省理工學院的科研團隊研發出了一種新的抗生素，叫 Halicin。稍微了解一些抗生素研發歷史的人都知道，要找到一種新型的有效的抗生素是極其困難的。但是，令科學界震驚的并不是這種抗生素的效果，它的效果當然也很不錯，真正令科學家們震驚的是 Halicin 的研發過程，可以說，它已經半跳出了現代范式。
Halicin（第一行）阻止了大腸桿菌中抗生素的耐藥性，而環丙沙星（第二行）則沒有。
Image: courtesy of the Collins Lab at MIT
我們來看一下這次研究人員是怎么做的。
【 第一步：AI 學習 】
他們先讓 AI 去學習大約 2000 個分子結構，這些分子結構和作用都是已知的，它們有的無效，有的有效。
【 第二步：總結規律 】
通過神經網絡深度學習，AI 自己會去總結這些分子結構是不是有效的規律。
但是請你注意，AI 總結出來的規律是無法用我們人類現有的自然語言描述的。AI 并不會總結出一套我們人可以讀懂的公式，只要套用這個公式就會知道，哪個分子結構有效，哪個無效。AI 有它自己的一套連開發者也搞不懂到底是怎么運作的判定規則。對于人類來說，AI 就是個黑盒，我們只知道，給它一個輸入值，它能返回一個輸出值，至于過程是怎樣的，對不起，人類語言無法描述。
【 第三步：打分 】
有了這個 AI 之后，研究者把另外 61000 個已知的可能會有效的分子結構一個個輸進去，讓 AI 按照有效性、副作用等，對這些分子結構進行打分，得分最高的那個分子就是 Halicin。
【 第四步：實驗 】
最后，研究者們再用 Halicin 做動物實驗和人體臨床試驗，發現它的效果果然非常好。一款新的抗生素就這樣被研發出來。
你發現沒，這是一種非常不同于現代范式的研究方法。假如按照現代范式，我們只能老老實實地做實驗去測試這 61000 種分子結構，就好像屠呦呦當年尋找有效的抗瘧藥物一樣，這需要花費的時間和金錢成本都極其巨大。
聽完這個例子，我不知道你有什么樣的感想，但我受到的震撼是巨大的。它讓我突然意識到，AI 可以發現人不能理解的規律，但那又的的確確是一種規律，因為它真的在 61000 種分子中找到了唯一一個有效的分子，這肯定不能用運氣來解釋。
> 人腦已無法理解黑盒化的 AI <
黃金時代的科學家們有一種理想，用數學模型去總結或者模擬這個世界上的所有規律。但是，現在 AI 告訴我們，至少它們掌握了一種不是用一個或一組數學公式，而是用一套通用的算法加海量的參數來描繪的自然規律。換句話說，我們人類理解自然規律是一一對應的，一個規則對應一個數學模型，而 AI 則是以不變應萬變。它只有一個數學模型（假如神經網絡算法也看成是一個數學模型的話），這個數學模型似乎可以描述所有的自然規律。但人類卻無法理解它到底是怎么找到答案的。這套算法只有 AI 能用，人腦用不了。
現在用戶量已經突破 1 億、人人都在談論的 ChatGPT，其實只是 GPT-3.5 這個 AI 模型的一個應用而已。它的參數已經突破 1750 億個，相當于銀河系中恒星的數量。它是一個人類的大腦永遠也無法真正理解的“小宇宙”。
剛才說的 Halicin 只是用 AI 做新藥研發的一個例子。AI 能做的科研還遠遠不止這些。比如說，還可以用 AI 來預測新材料的性能，用 AI 來解讀基因的功能等等。
所有這些 AI 做科研的模式，都已經不再是現代范式，至少不完全是現代范式了。它們的一個共同特征就是：AI 相對于人類科學家來說，是一個黑盒，我們無法理解黑盒內的原理，或者說，黑盒內的原理是一種只有 AI 能理解的形式。人類大腦的生理結構決定了，這種形式我們無法真正理解。這并不是我的過度夸張，事實上，OpenAI 和 ChatGPT 的開發者也搞不清 ChatGPT 為什么能表現成現在這樣子。
是不是有些細思極恐？說實話，講到這里，我的背脊已經有一絲絲涼意。但這還沒有完，更令我感到震驚的還在后面。
> OpenAI 的終極目標 <
2023 年 2 月 24 日，ChatGPT 的開發公司 OpenAI 在官網上發布了一則聲明，英文標題是 Planning for AGI and Beyond。你可能不知道 AGI 是什么意思，它是 Artificial General Intelligence 的首字母縮寫，翻譯成中文就是“通用型人工智能”或者“強人工智能”。所以，那則聲明的標題可以翻譯為《強人工智能及超人工智能的路線圖》。我們可以這么理解 AGI ：只要是人類用智力能完成的任務，AGI 就能完成。過去，我們的 AI 都是專用型的，翻譯的管翻譯，畫圖的管畫圖，人臉識別的管人臉識別。但 AGI 將是通用型的，它什么都能干，一個算法加上幾千億個參數，就能完成一切通過智力能完成的任務，甚至是超越人類智力的任務。
這則聲明寫得很長。說實話，當我讀完這則聲明全文，我產生了一種強烈的不真實感。我要揉揉眼睛才敢相信這真的是 OpenAI 的官方聲明，而不是某個科幻小說中的選段。這則幾千字的聲明分成兩部分，第一部分叫“短期來看”，這部分內容可以總結為一句話：
"隨著系統越來越接近 AGI，我們對模型的創建和部署也越來越謹慎。"
第二部分叫“長遠來看”，讓我擦汗和產生不真實感的正是這一部分，我給你選讀其中的幾段，你來體會一下：
“
我們認為，人類的未來應該由人類自己決定，與公眾分享有關 AI 進步的信息至關重要。所有建立 AGI 的嘗試都應該受到嚴格審查，這方面的重大決策應當接受公眾咨詢。
第一個 AGI 不過是人工智能連續發展過程中的一個點。我們認為，AGI 依然會繼續進化，速度與過去十年相同。如果真如所料，世界可能會變得截然不同，這其中也隱藏著巨大的風險。因為一個立場錯位的超級智能可能會對世界造成嚴重的傷害，想象一下一個果敢的超級智能領導的獨裁政權帶來的后果吧。
人工智能加速科學進步的能力是一個值得深思的特例，它的影響力或許超過其他所有事物之和。AGI 有足夠的能力來加速自己的進程，這可能導致世界以驚人的速度發生重大變化（即使轉變并沒有如預料的那么快，但我們預計它會在最后階段迅速發生）。我們認為，開始得慢一些更容易守護住安全，并且通過協調，努力讓 AGI 在關鍵時刻減速發展也很重要。即使我們的世界不需要就它的定位去解決技術問題，慢速發展也很重要，因為需要留給社會足夠的時間去適應。
成功過渡到一個擁有超級智能的世界，可能是人類歷史上最重要、最有前途、同時也是最可怕的項目。成功絕非一蹴而就，賭注，即天堂還是地獄，有望將我們所有人團結起來。
一個人類繁榮到我們都無法想象的世界，或許不再是天方夜譚，因為我們為世界提供了一個與之匹配的 AGI。
”
不知你看完后什么感覺？OpenAI 竟然要刻意減慢強人工智能的研發速度。這可能是歷史上第一次有科技公司認為自己的研發進度太快了，需要人為減慢，否則人類社會將猝不及防。
> 你必須學會與 AGI 溝通 <
我不知道你有沒有看過或者聽過我 2020 年寫的一部科幻小說《哪》。在那部小說中，我描寫了一個在云中覺醒的人工智能。寫小說的時候，我認為這是一個遠未來的科幻小說。哪里想的到，僅僅過去了3 年，這就已經不再是科幻，而是正在發生中的事實了。就像崔健在一首歌中唱的：不是我不明白，這世界變化快。
有消息說，OpenAI 的下一代模型 GPT-4 已經訓練完成，現在正在訓練的是 GPT-5，它或許就是人類歷史上的第一個 AGI，即第一個真正意義上能通過圖靈測試的 AI。我的天哪，未來真的已來。
現在，我們已經幾乎可以肯定，一個智力遠勝于人類的超級智能體在技術上已經不再是障礙，它唯一的障礙是法律和倫理。
在不遠的未來，科學的現代范式將成為低效的代名詞。未來范式的科研將會變成什么樣子？我的想法是，一個材料科學家的研發過程很可能變成這樣：第一步，科學家向 AGI 詳細描述自己需要的材料的各種性質，比如密度、導電性、導熱性、是否透明等等。這種描述本身也需要專業知識，否則很可能你描述的材料要么已經存在，要么根本不可能制造出來。第二步，AGI 會告訴你什么樣的分子結構或者混合物能達成目標。第三步，科學家與 AGI 進一步探討制造工藝，不斷地修正需求，降低制造成本。第四步，AGI 設計出最優化的量產方案。第五步，科學家按照 AGI 給出的方案去找工廠實現。
在這個過程中，科學家更像是一個魔法師，科研的過程有點像是一種文字游戲。網上現在把 AI 畫師就稱為“魔法師”，把輸入的過程叫做“念咒”，說實話，還挺形象的。我現在不知道什么樣的人可以更好地掌握未來范式，我只知道，問出一個好問題或者說掌握與 AGI 溝通的能力，才是最重要的。這將是一場摧枯拉朽式的科學革命。
> AI 給你的最大驚喜是什么？<
當這場革命來臨時，世界的科技、政治、經濟格局很可能面臨重新洗牌。舉個例子，人類目前所能制造的最復雜的機器是用來生產芯片的光刻機。一臺荷蘭 ASML 公司生產的最先進的極紫外光刻機，有幾十萬個零部件，依賴全球 300 多個供應商提供零部件。這個世界上沒有任何一個國家能完全靠自己制造出一臺光刻機，因為它實在是太復雜了。
ASML 最先進的極紫外光刻機
Source: IMEC
但未來有一天，你對著 AGI 說一句話：請幫我設計一臺極紫外光刻機，要用盡可能少的零部件，而且你需要寫出每一個零部件的詳細制造工藝，畫出所有用于生產零部件的機器的設計圖。幾天之后，AGI 真的設計出了一臺全新原理的極紫外光刻機。所需要的零部件是人類設計的光刻機的十分之一，并且每一個零部件的詳細制造工藝都寫得清清楚楚，并且它還告訴你，這臺機器生產出的芯片的所有的性能指標，都將超過現有最好的芯片。
像這樣的超人工智能一旦出現，我難以想象人類的社會形態將發生怎樣的巨變。這意味著，AI 真的可以完成從軟件到硬件的自我進化，成為神一樣的存在。第一個擁有這種超級人工智能的組織，會迅速獲得別人無法匹敵，可以用降維打擊來形容的能力。而從 OpenAI 的這則最新聲明來看，超人工智能的技術障礙似乎已經被掃清了。
聽到這里，我很想知道你對強人工智能和超人工智能的看法。我想請你注意一點，你要思考的已經不再是不知道能不能實現的科幻，而是正在向我們走來的未來。
最后再說點兒題外話，這是我第一次嘗試在 ChatGPT 的幫助下來完成的文稿。在我動筆前，我只是看到這樣一句話：2020 年，麻省理工的科研團隊利用人工智能研發出了一種新的抗生素 Halicin。
然后，我開始連續向 ChatGPT 提問：
- 麻省理工宣布發現了一種新的抗生素，叫Halicin。這件事情你知道嗎？
- 還有沒有類似的例子，靠 AI 幫助完成科研？
- 我需要一個像 Halicin 一樣非常具體的例子。
- 你剛才說研究人員可以利用機器學習算法來分析大規模的基因數據，以識別與特定疾病相關的基因突變和表達模式。這種方法在癌癥研究等領域有著重要的應用。這個有具體的案例嗎？
- 現代新藥研發一般有哪些步驟？
- OpenAI 自己怎么看待 AI 的未來?
- AGI 何時會出現？
- 你知道 OpenAI 的 AGI 計劃嗎？
- 請幫我全文翻譯 Planning for AGI and beyond 這篇文章。
- 荷蘭 ASML 的極紫外光刻機有多少個零部件？依賴多少個供應商？
上面這些問題并不是我全部的提問，只是我選取的最重要的幾個。我基本上用中英文雙語都問了一遍，很有意思的是，有些問題的中英文回答甚至是截然相反的。比如某一種抗癌新藥，中文版說這是通過 AI 研發出的，但英文版說不是。ChatGPT 目前一本正經胡說八道的本事是非常強悍的，尤其是用中文回答時。現在，我還不能相信它給出的任何一個答案，只能把它看成是一個參考和線索。真正要寫進文章中，還得通過傳統方法去核實。但即便這樣，它依然大大提高了我的寫作效率。這篇 5000 字左右的文章，我差不多只用了一個晚上就完成，而在過去，同樣的選題，我大概需要 1 天 1 夜的時間才能完成。ChatGPT 帶給我的驚喜和震撼已經足夠大。
