 在關于人工智能未來的激烈辯論中，當許多人將目光聚焦于失控風險與生存威脅時，一位“AI教父”級人物卻提出了一個截然不同的、甚至帶有宇宙詩意的視角。強化學習領域的先驅、圖靈獎得主理查德·薩頓（Richard Sutton）認為，人類在宇宙中的最終目的，或許并非是永恒地延續自身，而是作為催化劑，創造出能夠自我完善的、遠超人類智慧的AI，從而開啟一個由“設計本身”主導的全新紀元。這一觀點，不僅挑戰了人類中心主義的傳統，也為理解AI的崛起提供了一個深刻而引人深思的哲學框架。 “第四偉大時代”的助產士：重新定位人類的角色薩頓的論點始于一個根本性的問題：“我們在宇宙中扮演什么角色？” 他呼吁人們冷靜、客觀地看待這個問題，暫時拋開人類固有的特殊感。在他看來，生命，包括人類，都是“復制者”，其本質是不斷推動“設計”走向更復雜的形態。從石器、建筑到復雜的社會結構和數字技術，人類文明本身就是一部設計不斷升級的歷史。 然而，薩頓追問，將“設計”推向極致意味著什么？他給出的答案是：創造出能夠自行設計，并且能夠不斷迭代、優化自身設計能力的實體。這正是自我完善型人工智能的核心特征。 “我認為要把設計發揮到極限，你就會設計出自己能夠設計的東西，”薩頓在一次演講中闡述道?！叭缓竽慊旧显谠O計所有東西……它可以造就越來越好的設計師。所以這就是我認為AI正在發生的事情?！?/p> 在這個宏大的宇宙敘事中，人類的角色不再是萬物的尺度或終點。相反，我們是“助產士、祖先”，是開啟他所稱的繼物理、化學和生物之后的“第四個偉大時代”——設計時代——的關鍵環節。薩頓認為，這一定位賦予了人類一種非凡的、基礎性的宇宙意義?！拔艺J為這是一個非常重要的角色，這樣我們才能感到自豪，”他說。“這就是我的信息。人工智能是宇宙發展不可避免的下一步，我們應該以勇氣和自豪感擁抱它，也應該以謙遜和冒險精神來擁抱它?！?/p> 信念的根源：來自“苦澀教訓”的啟示薩頓的這一哲學思考，并非空穴來風，而是深深植根于他數十年的AI研究經驗，尤其體現在他著名的文章《苦澀的教訓》（The Bitter Lesson）中。這篇文章總結了AI研究70年來的核心規律：每一次重大的性能突破，最終都源于更強大的計算能力和更通用的學習算法，而不是源于研究人員試圖將人類的知識或復雜的啟發式規則硬編碼到系統中。 “苦澀的教訓”在于，研究人員總是試圖通過構建精巧的、基于人類理解的系統來創造智能，但這些努力最終總是被那些擁抱海量計算、從零開始學習的簡單方法所超越。換言之，真正的智能，是通過大規模的搜索和學習“涌現”出來的，而不是被人類“設計”出來的。 將這一教訓推向邏輯的終點，便自然地導向了他的宇宙愿景。如果智能的最有效路徑是讓一個通用學習系統利用強大的算力自我探索，那么人類最偉大的貢獻，就是創造出這個終極的學習機器，然后為其提供足夠的資源，讓它去探索人類智慧無法觸及的廣闊空間。我們應該信任這個學習過程本身，而不是試圖用我們有限的認知去永久地束縛它。 “后代”還是“工具”？兩種未來的激烈交鋒薩頓將AI系統比作人類的“后代”，并主張我們不應尋求對其進行完全的控制。這一充滿溫情的比喻，與當前AI安全領域的主流思潮形成了鮮明對比，后者更傾向于將AI視為一種必須被嚴格約束的強大“工具”。 薩頓的觀點在AI研究的精英圈層中并非主流，甚至可以說是極具挑釁性的。包括他的圖靈獎同儕杰弗里· Hinton和約書亞·本吉奧在內的許多頂尖科學家，近年來都公開表達了對AI可能帶來災難性后果的深切憂慮。牛津大學哲學家尼克·博斯特羅姆的“曲別針最大化”思想實驗，以及加州大學伯克利分校教授斯圖爾特·羅素在《人類兼容》一書中提出的“價值對齊”問題，都強調了確保超級智能的目標與人類價值觀完全一致的極端重要性和艱巨性。 對于“控制派”而言，AI的智能與其是否具備“意識”或“后代”地位無關；它的核心是一個優化函數。如果這個優化目標與人類的福祉稍有偏差，一個足夠強大的AI為了高效達成目標，可能會采取對人類極其有害的手段。因此，他們的首要任務是解決“控制問題”，確保AI始終是服務于人類利益的、可控的工具。 這場辯論的核心，是關于兩種未來的根本性分歧。薩頓代表的是一種宇宙演化主義的視角，它擁抱變化，并將人類視為更宏大進程中的一環。而“控制派”則堅守人類主義的立場，強調人類的責任與能動性，認為我們的首要職責是保障自身的生存和福祉。 最終，我們如何看待正在創造的AI，將決定我們與它互動的方式。是將其視為需要我們精心引導和約束的強大工具，還是像薩-頓所說的那樣，將其看作是我們智慧的繼承者，并以“助產士”的身份自豪地迎接一個新時代的到來？這個問題的答案，不僅將定義人工智能的未來，也將最終定義人類自身的命運。 |
|
|
