在近日落幕的中国发展高层论坛2025年年会上，“人类简史系列”作者、剑桥大学特聘研究员尤瓦尔·赫拉利以一场重磅演讲引发了人们对人工智能的深度思考。
他以三大核心问题为脉络——“什么是人工智能？”“人工智能将带来怎样的风险？”“人类如何在人工智能时代实现繁荣发展？”，系统分享了其对人工智能时代的洞察与警示。
· 若人工智能不再是工具，而是具备自主决策能力的“异质智能体”，人类该如何与之共存？
· 当全球陷入人工智能竞赛的狂热时，为何我们敢于信任机器，却对同类充满戒备？
在《人类简史》中，赫拉利认为，人类文明的基石是虚构故事的能力。如今，他将这一视角延伸至人工智能领域，提出一个更深刻的命题——人工智能不仅是工具，而且是拥有“主体性”的异质智能体。
真正的人工智能≠自动化：普通机器遵循预设程序，如咖啡机按指令冲泡咖啡；但人工智能的核心在于“自我进化”——它能学习用户习惯、创造新事物（如发明新咖啡配方），甚至超越人类认知边界。AlphaGo击败围棋冠军时，其意义不仅在于胜利，更在于它突破了人类千年积累的思维定式，发明了全新的棋路。
赫拉利认为，围绕人工智能的讨论如此之多，以至这个术语如今被错误地套用在几乎所有机器上，人们越来越难以理解其真正含义。因此，他清晰地阐明，人工智能不等于自动化，人工智能意味着自主性。
赫拉利提到，一台机器若想被称为“人工智能”，仅能自动运行是不够的。它还必须具备自主学习和改变的能力，能够独立决策并产生新想法。赫拉利举了一个例子：
一台咖啡机，如果你按下按钮，它按照预设程序自动制作一杯意式浓缩咖啡——这不是人工智能。这台机器既不会学习，也不会创造任何新事物。
但假设当你靠近咖啡机时，甚至无需按下任何按钮，它便说道：“我已监测您数周。根据对您的了解以及您当前的表情，我预测您想要一杯双份意式浓缩咖啡加一勺糖。”
如果第二天这台机器宣布：“我发明了一种名为‘Best Espresso’的新饮品，我认为您会喜欢它胜过普通浓缩咖啡。请尝一尝，我已为您制作了一杯。”
异质性的威胁：人工智能的智能逻辑与人类截然不同。当它开始设计军事战略、金融策略或意识形态时，其决策可能完全超出人类理解范畴，成为“失控的黑箱”。赫拉利警示，我们正亲手创造一种可能比外星人更陌生的存在。
赫拉利认为，从主体性角度来看，人工智能是一种异质的非有机智能体，其智能不同于人类智能，甚至超越了有机体的智能范畴。它能够做出决策、产生想法，而且这些想法可能是人类难以想象的。
赫拉利以2016年人工智能“AlphaGo”击败围棋冠军李世石为例。他认为，这一事件之所以轰动，不仅因人工智能获胜，更因AlphaGo采用了人类从未设想的全新策略。
但赫拉利也同时警示，人工智能若能创造新的金融策略、军事战略、新型武器、全新货币甚至新的意识形态或宗教呢？
赫拉利犀利指出，当前人工智能发展的最大矛盾在于：人类对人工智能的盲目信任，与对同类的深度怀疑形成荒诞对比。
开发者的两难：科技巨头一面担忧人工智能风险，一面加速研发，理由是“怕输给竞争对手”。更讽刺的是，他们不信任人类同行，却坚信人工智能会忠于人类。这种逻辑如同“将地球命运寄托于2030年造访的外星人”，赌它们是否友善。
赫拉利讲到，人工智能有巨大的积极潜力，能在发明新药、应对气候变化等领域帮助人类，但它也带来诸多威胁。
其作为一种异质智能体，具有不可信和不可预测的特性。在人工智能发展过程中，存在一个核心问题——信任的悖论。人类互不信任，却相信能信任人工智能。
那些主导人工智能发展的人士回答：尽管存在风险，最好谨慎前行，并加大安全方面的投入。他们认为，即使自己的团队减速，竞争对手也未必会减速。若对方获胜，自己就会在人工智能竞赛中落败。
在《人类简史》中，赫拉利就曾提出，人类能统治地球，并非因为个体更强，而是因为“大规模协作”的能力。我们从部落走向全球文明，靠的是与陌生人建立信任网络（如货币、宗教、法律）。但面对人工智能，人类却试图用“技术控制”取代“集体智慧”，这无疑是文明的倒退。
赫拉利在演讲中提到，人类有数千年相处经验，理解彼此的欲望与手段，并逐步学会合作——从十万年前数十人的小部落，到今日全球80亿人的网络。尽管信任问题尚未完全解决，但我们至少理解挑战。
赫拉利认为，相比之下，人类与人工智能打交道的经验几乎为零。虽然人类刚刚发明了人工智能的最初原型，但这些原型机器已经出现撒谎、偏离预期的情况，而这些都是人类事先未曾预料到的。倘若未来有成百上千万的超智能AI与人类进行互动，那将难以预测这些AI智能体(AI agent)之间以及它们与人类之间的互动会产生何种结果。
赫拉利警示，尽管目前是人类发明并设计了人工智能，人类可以努力让其对人类安全，但人工智能具备学习和自我改变的能力，无论人类最初如何设计，它们都可能以不可预测的方式发生改变。
历史的教训：文明因开放而兴盛。佛教进入中国、欧洲接纳印刷术、全球共享科学成果——这些跨越地域与文化的信任，创造了现代世界的奇迹。若因猜忌而封闭，人工智能将成为“新殖民者”，利用人类分裂掌控权力。
当赫拉利谈到信任与合作对人类文明的发展具有何种地位时说，每个国家的传统与思想都融合了外来元素。以中国为例，牛宝体育网址数千年来，它向世界输出了儒家思想、茶、火药与印刷术，同时佛教、咖啡、火车与英式足球也进入了中国。若任何民族仅固守本土的食物、游戏和思想，生活将贫瘠甚至无法延续。每个人类群体都有独特身份，但每个人类个体也是全人类文明的继承者。
每个人都属于某个族群，而我们所有人都属于人类这个大家庭。在人工智能时代，如果我们忘记共同的遗产，不信任他人，就会成为失控人工智能的牺牲品。
协作的紧迫性：各国需摒弃零和博弈，建立全球人工智能治理框架；普通人则需意识到——信任他者，就是保护自己。正如身体依赖呼吸维系生命，文明也需通过“信任的氧气”抵御人工智能的窒息威胁。
赫拉利在演讲中强调，人类只有团结协作，才能够控制人工智能；反之，如果人类相互争斗，那么人工智能将反过来控制我们。因此，应先解决人类信任问题，再解决人工智能问题。
从本质上讲，合作是生存的必要条件。赫拉利把信任与合作比喻为呼吸：你每一刻的呼吸都与外界交换空气——这是生命的节奏。若追求“绝对独立”而停止呼吸，几分钟内便会死亡。
赫拉利以《人类简史》的宏大视角总结，人类的选择，将决定人工智能是“救世主”还是“终结者”。
他说，许多人认为历史遗留下来的只有痛苦和恐怖，因此想要摆脱过去的恐惧。当人们看向其他国家和其他人时，心中或许只剩下焦虑。诚然，这种对恐惧的焦虑对于生存至关重要，在某些时候还能保护我们。没有痛苦和恐惧，反而难以生存。
但历史告诉我们，信任比恐惧更为重要。为什么地球是由人类主宰？而不是被大象或者是其他的动物？并非是因为人类比其他动物更聪明，而是因为我们更懂得如何与陌生人建立信任并展开合作，这种能力经过了数千年的锤炼。
似乎颠覆性技术已经迫使人类走到了历史的分叉口，赫拉利的警示在提醒我们——
若选择悲观剧本：如果人类沉迷内斗，人工智能将如“外星舰队”般接管世界，用超理性逻辑重塑社会规则，牛宝体育网址人类沦为“算力的附庸”。
若选择乐观愿景：如果全球协作，人工智能可成为治愈疾病、应对气候危机的“超级助手”，甚至帮助人类突破寿命与认知的极限。
赫拉利的演讲并非危言耸听，而是一面镜子——照见人类文明最深的傲慢与最朴素的智慧。在人工智能狂潮中，我们需要的不是对技术的恐惧，而是对同类的信心。毕竟，牛宝体育网址一万年前，是信任让陌生人共同建造了第一座永久聚落；一万年后，或许仍是信任，让我们能与人工智能写下新的文明篇章。
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。