編者按：在3月底舉辦的中國發(fā)展高層論壇2025年年會上，英國劍橋大學特聘研究員、《人類簡史》作者尤瓦爾·赫拉利圍繞人工智能(AI)發(fā)表主題演講。他從“什么是AI”“AI將帶來怎樣的風險”“人類如何在AI時代實現(xiàn)繁榮發(fā)展”三個問題出發(fā)，闡述了自己對AI時代的思考。

關于AI時代，我認為需要探討三個關鍵問題：一是AI的本質究竟是什么；二是AI給人類帶來了哪些危險；三是在AI時代，人類如何實現(xiàn)繁榮發(fā)展。

首先，讓我們來談談什么是AI。

當下，AI概念被廣泛炒作，幾乎所有機器都被貼上AI的標簽，使其真正含義模糊不清。其實，AI并非簡單的自動化。AI意味著一種主體性和主動性，不是人類手中被動的工具，而是一個智能體。一個機器要成為AI，必須具備自我學習、自我改變、自主決策的能力，甚至能夠發(fā)明新的想法。

以咖啡機為例，當你按下按鈕，咖啡機按照預設程序制作一杯咖啡，這只是普通的自動化設備，并沒有創(chuàng)造新事物。然而，若當你走近咖啡機，它便說道：“我已監(jiān)測你數(shù)周，基于我對你和其他人的了解，推測你可能想要一杯意式濃縮咖啡或美式咖啡?！边@就體現(xiàn)了AI的學習能力，學習和創(chuàng)造新的東西。

倘若第二天，它又聲稱創(chuàng)造出一種名為“Best Espresso”的新咖啡口感還優(yōu)于普通咖啡，這便是AI自我創(chuàng)造的體現(xiàn)。

從主體性角度來看，AI是一種異質的非有機智能體，其智能不同于人類智能，甚至超越了有機體的智能范疇。它能夠作出決策、產生想法，而且這些想法可能是人類難以想象的。

就像2016年Alpha Go擊敗人類圍棋冠軍，其意義在于它發(fā)明了一些前所未有的策略，這是數(shù)千年來人類棋手從未想到過的。如今，AI能創(chuàng)造新的游戲方式、咖啡品種或許無關緊要。但設想一下，未來它若能發(fā)明新的軍事戰(zhàn)略、金融策略、新型武器、全新貨幣甚至新的意識形態(tài)或宗教呢？

不可否認，AI具有巨大的積極潛力，它能夠在諸多領域助力人類，比如發(fā)明新藥，以及應對氣候變化。然而，AI也帶來了諸多挑戰(zhàn)與威脅。其作為一種異質性智能體，具有不可信和不可預測的特性。

其次，AI帶來的危險到底是什么？

在全球旅行期間，我常常詢問那些主導AI發(fā)展的人士兩個問題。第一個問題是，為何在風險眾多還要如此快速地發(fā)展AI。他們回答，盡管有危險，最好能謹慎前行并加大安全投入，但如果放慢速度，競爭對手卻不停步，就會在AI競賽中落敗，所以必須加快發(fā)展。接著，我會問第二個問題：你覺得可以信任正在開發(fā)的超智能AI嗎？有趣的是，同樣是這些人不信任人類競爭者，卻聲稱可以信任AI，這無疑是一個悖論。

人類相互交往已有數(shù)千年歷史，我們對人類的心理、生理，以及人類對權力的渴望和控制權力欲望都有一定了解，并且也探索出了許多建立信任的方法。

而如今，眾多能夠連接全球80億人的合作網絡不斷涌現(xiàn)，這些陌生人能夠攜手為人類生產食物、研發(fā)藥物、提供保護。盡管人類之間的信任問題尚未完全解決，但至少我們清楚面臨的挑戰(zhàn)是什么。

相比之下，人類與AI打交道的經驗幾乎為零。雖然我們剛剛發(fā)明了AI的最初原型，但它們已經出現(xiàn)撒謊、偏離預期的情況。倘若未來有成百上千萬的超級智能AI與人類進行互動，將難以預測這些AI智能體之間以及其與人類間的互動會有何結果。

誠然，目前是人類發(fā)明并設計了AI，努力讓其對人類安全。但要知道，AI具備學習和自我改變的能力，無論如何設計，它們都可能以不可預測的方式發(fā)生改變。

可以將AI革命類比為外星人入侵。想象一下， 2030年高智力的外星人軍艦將抵達地球，他們或許能幫助我們治愈癌癥，讓世界變得更加和平繁榮。但大多數(shù)人憑直覺就能明白，將未來完全寄托于外星人的善意是一場巨大的賭博。

同樣，若認為所開發(fā)的AI值得信任，會成為人類的忠實奴仆，這也可能是一個巨大的錯誤。

最后，如何在AI時代實現(xiàn)繁榮發(fā)展？

答案很簡單，那就是人類只有團結協(xié)作，才能夠控制AI；反之，如果人類相互爭斗，那么AI將反過來控制我們。所以，在開發(fā)超級智能AI之前，首先需要在人類之間建立更多的信任。

然而，令人遺憾的是，當前人類之間的信任在瓦解，國際機制的基本范式和規(guī)則遭到破壞。從本質上講，合作是生存的必要條件。舉例而言，我們每秒鐘都在呼吸，每一次呼吸都是一種信任——信任外界的空氣。這種信任和呼吸是生命的象征，如果失去對外部世界的信任，停止呼吸，生命也將終結。

每個人都屬于某個族群，所有人都屬于人類大家庭。在AI時代，如果我們忘記共同的遺產，不信任他人，就會成為失控AI的犧牲品。

許多人認為歷史遺留下來的只有痛苦和恐怖，因此想要擺脫過去的恐懼。當人們看向其他國家和其他人時，心中或許只剩下焦慮。誠然，這種對恐懼的焦慮對于生存至關重要，在某些時候還能保護我們。但歷史告訴我們，信任比恐懼更為重要。為什么地球是由人類主宰？并非是因為人類比其他動物更聰明，而是因為我們更懂得如何與陌生人建立信任并展開合作，這種能力經過了數(shù)千年的錘煉。

在AI時代，想要生存和繁榮，我們需要更加信任他人，這一點比信任AI更為重要。

（本刊記者謝瑋據(jù)演講整理，未經本人審核）