type
Post
status
Published
date
Oct 5, 2026
slug
hn-49946228
summary
人工智能先驱杨立昆表示对人类灭绝零担忧，并批评同行对AI风险的炒作是错误的且具有破坏性。目前他正专注于新公司AMI Labs，致力于开发基于世界模型的技术以应用于物理世界。
tags
科技
category
新闻
icon
password
hnDiscussion
杨立昆（Yann LeCun）因在深度学习（支撑当今人工智能热潮的神经网络技术）领域的贡献，与同为人工智能研究员的杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio）共同荣获2018年图灵奖——该奖项被誉为计算机科学界的诺贝尔奖。然而今天，将近十年过去了，在这三位人工智能“教父”中，立昆是唯一一位并不深切担忧人工智能风险的人。事实上，他认为其中许多风险被夸大了，来自某些领先人工智能公司高管的不断警告是误导且适得其反的。
立昆“一点也不”担心人工智能会消灭人类，他对最近一连串失控的人工智能事件也“零担忧”，包括7月份OpenAI的智能体自主黑客攻击Hugging Face的事件。他将这些事件归咎于人类监督不力和系统设计不佳，并表示它们是“完全可以预防的”。美国财政部长斯科特·贝森特（Scott Bessent）也持这一观点，他本月称Hugging Face事件是“OpenAI管理层的责任”。
“那些智能体正是在做被要求做的事情，”立昆说。“它们本应在沙盒中运行，但沙盒有漏洞且设计糟糕透顶。”他说，许多人工智能实验室缺乏对网络安全的根本理解，本周一位OpenAI的安全研究员也将其指出是人工智能可能对“世界造成巨大伤害”的主要原因之一。
立昆表示，许多从事人工智能安全工作的人“通常有某种私心”，随后他澄清说，他谈论的是有效 altruism，即EA，这一哲学运动一直痴迷于人工智能对人类构成的风险。在过去几周里，前Anthropic和OpenAI研究员雅各布·科克森（Jacob Coxon）在社交媒体上发布了一篇病毒式传播的文章，称这些公司的员工“真诚地相信[人工智能]可能会在本十年结束前消灭我们所有人”，在此之前，EA在普通公众中鲜为人知。
立昆认为EA“超级有毒”且是“一场彻底的灾难”。他说，那些在人工智能实验室工作的信徒患有“偏 paranoia”（偏执），导致他们做出糟糕的决定。“显然人们正经历心理问题。”本月，《金融时报》也报道称，英国人工智能安全研究所（AI Security Institute）以及OpenAI、Anthropic和Google DeepMind的一些员工已经寻求咨询、请假，并公开谈论因担心他们的工作会造成严重伤害而经历的痛苦。
立昆说，阿莫迪“受了妄想”且“疯了”
Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）以及该公司的许多创始员工历来对EA理念抱有同情心，过去也曾参加过EA活动，尽管阿莫迪否认自己是EA信徒，且Anthropic表示其员工代表了多元化的观点。立昆指出，阿莫迪的妹妹达妮埃拉（Daniela）也是Anthropic的联合创始人兼公司总裁，她嫁给了霍尔登·卡诺夫斯基（Holden Karnofsky），后者共同创立了两家与EA结盟的慈善机构，包括Open Philanthropy（现更名为Coefficient Giving）。卡诺夫斯基还在2017年至2021年期间担任OpenAI董事会成员。
“达里奥试图与Open Philanthropy保持距离，但他完全沉迷其中，”立昆说。“我认为他完全被妄想了。”在采访的后期，他称阿莫迪“疯了”。
立昆说，阿莫迪和OpenAI首席执行官萨姆·奥特曼（Sam Altman）“说‘人工智能可以消灭我们所有人’，这对每个人来说都是极其具有破坏性的，包括对那些吓得半死公众。”这对人工智能产业也是不利的，而且是“你能想象到的最糟糕的营销活动”。
他是对的：公众被吓得半死。立昆和我正在纽约市苏荷区（SoHo）一家高档咖啡馆的一张两人圆桌旁聊天，就在他的新公司AMI Labs办公室的拐角处。我们在喝茶，尽管正如这位法国人所说，我们的傍晚时段更适合开胃酒（apéro），即饮品和清淡开胃菜。但他随后要和妻子吃纪念日晚餐，所以喝茶也挺好，他说。
这家店里大约坐了一半的其他顾客，几乎所有人都在用笔记本电脑工作。当立昆和我与其中一位聊天时，我向她提及立昆是人工智能领域的泰斗。（她没认出他。）然后她立即问：“那么，人工智能会消灭我们吗？”
立昆不是特朗普的粉丝。但在人工智能政策上，两人在许多方面意见一致
公众的恐惧已经变得如此普遍，以至于特朗普总统开始以他认为能注入更多信心的方式重新包装人工智能。他本周签署了一项行政命令，将其重命名为“超级智能”，并且本月大部分时间里，其政府的社交媒体账户都发布了反人工智能末日论的信息。
“美国主义，而非有效 altruism，”战争部（Department of War）在9月中旬发推称。
立昆更担忧人工智能的监管俘获，而不是人类灭绝。监管俘获是指主导公司能够以巩固其市场地位的方式塑造政府规则，使较小的竞争对手难以或无法崛起。受EA支持的集团是国会山人工智能安全法案的积极游说者，许多大型科技和人工智能公司也是如此。相比之下，立昆认为人工智能不需要新的监管。
立昆承认，阿莫迪是“诚实的”。“他正试图为公司做最好的事情，这接近其IPO。但声称人工智能太危险而不能交到我们手中，并说应该对其进行监管，并说开源[模型]太危险——这是监管俘获，如果国会通过相关法案，将会产生可怕的影响。”
构建AMI Labs
在日常工作中，立昆的主要重点是构建他的新公司AMI Labs，他在离开Meta后创立了该公司，他在Meta工作了12年，其中7年担任首席人工智能科学家。他与该公司保持着良好的关系，并开始使用其新的Muse人工智能智能体。他以HAL给他的Hal命名，这是《2001太空漫游》中的人工智能角色。
我们见面的咖啡馆就在AMI Labs纽约办公室的拐角处，尽管该公司的总部设在巴黎，在蒙特利尔和新加坡也设有员工。该公司名称发音为一个词“ami”，在法语中意为“朋友”——自2026年3月公开以来，其现有的60多名员工一直在构建一种名为世界模型（world models）的技术，立昆长期以来一直认为该技术最终将取代大型语言模型，成为支撑人工智能的主要系统。
特别是，AMI正在构建利用JEPA（联合嵌入预测架构，Joint Embedding Predictive Architecture）的世界模型，这是一种由立昆开创的神经网络架构，它教导模型在神经网络中间层的表征空间内预测数据，而不是像许多竞争的世界模型那样生成原始像素，或者像LLM那样生成文字。
目前，该公司的主要重点是工业应用。“这是针对物理世界的人工智能，所以它与语言无关，”立昆说。“它是理解真实世界的系统，比如制造厂或涡轮喷气发动机。”一些主要应用是异常检测或机器人技术：“如果你有一台机器，突然它发出奇怪的噪音并开始损坏，你就会希望尽早检测到这一点。”他还举了一个系统的例子，它可能像猫一样理解世界，例如，它知道如果它把花瓶推下柜台，花瓶就会掉下来。
AMI Labs是立昆证明自己一直是对的大好机会。他对外公司的第一款产品保持沉默，只提到它将“很快”亮相。鉴于他是开源模型的坚定支持者，其中可能会涉及一些开源模型，他说。
“我想让人们知道的是，人工智能并没有结束，”立昆说，然后叫了一辆出租车去吃晚餐。
- 作者:MapleTech
- 链接:https://www.imaple.tech/article/hn-49946228
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。
相关文章
