 機器人在都靈 2024 年意大利科技周上與人互動。圖片來源：Stefano Guidi/Getty 科學記者亞當·貝克爾 （Adam Becker） 的《永遠的更多一切》（More Everything Forever） 是對一群未來主義思想家所倡導的思想的引人注目的調查，這些思想家一直倡導對人工智能 （AI） 力量的無限信仰并從中受益。他講述了與自稱該領域元老的相遇，包括未來學家和谷歌工程師雷·庫茲韋爾（Ray Kurzweil）、硅谷投資者馬克·安德森（Mark Andreessen）和人工智能理論家埃利澤·尤德科夫斯基（Eliezer Yudkowsky），后者警告人工智能帶來的生存風險。結果令人不安，盡管是準確的——我可以證明，作為一名與書中許多人受訪者互動過的計算機科學家。  硅谷正在為人類與 AI 混合的前景歡呼——我們應該擔心“技術極端主義者”所倡導的思想范圍很廣，但也有相互聯系的線索。貝克爾寫道，幾乎所有這些人都相信，大多數問題都可以通過應用計算機科學來解決。他們中的許多人認為自由是由自由市場組成的，而不是其他的。他們最深切的愿望是超越所有限制，追求永恒的增長。太空旅行可以規避地球資源的限制，而人類生物學施加的限制可以通過將自己的思想上傳到可能永遠持續的計算機上來規避。 貝克爾所說的這種“技術救贖”意識形態巧妙地契合了某種資本主義的邏輯，這可能解釋了它在科技行業思想領袖中的吸引力。參與這些注入技術的愿景是必要的，因為它們開始影響社會的治理方式。 人類的命運真的掌握在那些自封的夢想家手中嗎，他們認為自己是有史以來最重要、最聰明的人？貝克爾的敘述雖然令人不安，但來自一個沒有現在那么可怕的時代。它是在億萬富翁商人埃隆馬斯克控制美國政府并開始解散其機構之前寫的。也許馬斯克將治理視為人工智能即將解決我們所有問題或摧毀我們所有人的世界中的遺物。 對代碼的信心貝克爾是一位優秀的編年史家，也是一位有價值的歷史學家。他將超人類主義的根源追溯到基督教神學——一場倡導使用技術來提高人類能力并超越生物極限的運動。人機混合的可能性使直言不諱的無神論者能夠想象他們自己的不朽版本，包括通過部署“計算機程序的清晰邏輯”來“升天長生”。 他記錄了幾個例子，其中人類永恒的問題——比如如何過上好日子，或者心靈和身體是如何相聯系的——被重新包裝成工程問題。它們增加了我們對這個奇怪時刻的理解深度。  SpaceX 創始人埃隆·馬斯克 （Elon Musk） 現在正試圖削減美國政府的支出。圖片來源：Jamie Kelter Davis/Bloomberg/Getty 這本書的核心信息是，應該對技術烏托邦思想進行更多的公開辯論。例如，與其接受技術精英重塑治理的敘事，世界各地的社區可以簡單地將信息技術用作幫助人們更有效地協作和管理自己的工具。然而，貝克爾發現很難向他的受訪者提出這樣的論點，他們似乎呼應了電影《終結者》中的臺詞：“如果你想活下去，就跟我來。這意味著：任何聰明人都應該意識到別無選擇，只能跟隨技術大師。  “開源”AI 并不是真正開放的 — 研究人員可以通過以下方式重新使用這個詞貝克爾指出，倡導這些不可能的未來，其真正目標是“此時此地擴大它們的力量”。作為解決方案，貝克爾建議對實際上是非法的億萬富翁引入懲罰性稅收，他認為財富集中有助于將邊緣哲學推向主流。 我不確定這是否是正確的處方。科技億萬富翁主要是夸大網絡效應的產物：隨著數字化減少摩擦，小優勢變得顯著，連通性超過其他因素。獲勝的頭寸會變得持久——或者用硅谷的話說是“粘性”——導致財富和成功的極端集中。 這種模式適用于社交媒體、加密貨幣、物流和支付處理等領域的公司，這使得中型企業幾乎不可能實現真正的獨立性。現在的成功取決于與高層的接近。因此，禁止億萬富翁將是一種間接的解決方案——更持久的解決方案在于重新制定數字網絡塑造社會的方式。 欺騙引擎此外，計算機科學作為一個領域必須面對其對意識形態誘惑的獨特敏感性。當該領域的創始人之一、英國數學家艾倫·圖靈 （Alan Turing） 試圖定義計算機與人類的區別時，他設計了一個聰明的解決方法：使用人類判斷作為衡量人類獨特性的指標。在著名的圖靈測試中，人類法官根據機器和人的通信方式來確定是否可以區分它們。如果機器可以騙過法官，那么人類的特殊性就可以被忽視。 燈泡有能源等級——那么為什么 AI 聊天機器人不能呢？在嚴格的哲學圈子里，這項考試并沒有得到認真對待，但在計算機科學和數字設計文化的大部分領域，它仍然是教條。人們專注于可以模仿人類語言或生成逼真視頻的軟件。這不是很奇怪嗎？欺騙除了魔術師之外沒有內在價值。 是否有可能將計算機科學從這種譫妄中解脫出來？解決方案在于提出一種替代概念。人工智能研究領域充斥著形而上學的雄心壯志，正是因為正如圖靈所暗示的那樣，目前還沒有意識的測量設備。這就是圖靈測試告訴我們的，因此，制造有意識的生物是一項未定義的任務。我們可用的務實選擇是將 AI 視為人類制造的工具。將 AI 視為一種生物的幻想是問題所在——它提供的任何東西都可以通過 AI 作為工具一樣有效或更好地實現。顯然有一個選擇，盡管流行的敘述是不可避免的，就好像人類對人工智能研究的方向沒有代理權。 當億萬富翁科技大亨競相控制他們自相矛盾地堅持必須不受控制的東西時，真正的戰斗是爭奪早期職業 AI 科學家的心靈和思想。我懷疑，不到 1,000 名關鍵研究人員影響了大型語言模型等基礎模型的開發。如果只有億萬富翁參與進來，爭論想法將是徒勞的——但年輕科學家可能仍然對實用主義和討論持開放態度。讓我們希望他們是。 自然 640， 595-596 （2025） doi： https:///10.1038/d41586-025-01145-5 |
|
|
