“我们俩就是莱特兄弟！”马斯克、黄仁勋最新同台谈超级智能

9月29日，特朗普在白宫召集了美国科技行业的一批核心人物。马斯克、黄仁勋，以及来自Google、Meta、OpenAI、Anthropic等公司的负责人都在其中。

当天，多家公司签署了一份一页纸的“超级智能”安全协议，约定建立更严格的内部控制、独立外部审计和董事会监督。协议是自愿签署的，特朗普称其具有“道德约束力”。

同一天，他还要求美国联邦机构在官方沟通中更多使用“Super Intelligence（超级智能）”，而不是“Artificial Intelligence”。

以下这场最新对话就发生在这样的背景下。

除了马斯克和黄仁勋，Anthropic联合创始人汤姆·布朗也参与其中，主持人则是长期投资科技行业的Atreides Management管理合伙人兼首席投资官加文·贝克。

整场气氛相当和谐。

能源、数据中心、美国再工业化、太空算力，大部分都是几位嘉宾过去已经反复谈过的话题。

马斯克倒是现场认真算了一笔账，美国平均用电约500吉瓦，如果每瓦电力能够产生的“智能”持续提高，他愿意打赌，未来电力使用量每增加1%，大致会对应GDP增加1%。

顺着这笔账，他们进一步算出，每新增1吉瓦算力基础设施，可能对应约600亿美元的年经济产出。

整场最有意思的问题反而是最后。

当贝克问，怎样让超级智能拥有“正确的价值观”时，黄仁勋反问，我们究竟希望一个工具拥有多大的判断权？他说，你可以把超级智能想象成一把牛排刀，切七分熟牛排游刃有余，但如果它“不肯切一分熟牛排”呢？

这倒不是一句玩笑。就在前一天，英伟达刚刚发布开放智能体安全平台Open Agent Safety Platform：OpenShell负责把智能体限制在明确的权限边界内，Sentry则通过BlueField-4在系统之外持续监控它的行为。

英伟达的思路很明确，不能只指望模型自己遵守规则，还要在模型之外建立一道它无法轻易绕开的安全边界。

当AI越来越有能力理解、甚至判断人的意图，究竟有多少判断应该交给机器，又有多少决定必须留在人手里？

想想，就觉得边界挺难的。

IN咖（Insight_daka）第一时间整理分享给大家。

“我们两个就是莱特兄弟”

贝克莱特兄弟、第一个登上月球的人、互联网……美国几乎引领了每一次重大的技术革命。

马斯克我们两个就是莱特兄弟。

黄仁勋这个说法我喜欢。

贝克而这些技术革命，最终都给美国和普通美国人带来了巨大的好处。

现在，我们好像已经开始把AI叫作“超级智能（Super Intelligence，SI）”了，这个名字其实挺不错的。所以我们就从这里开始吧：美国怎样赢下这一轮竞争？而且怎样让这种“赢”真正惠及普通美国人？

黄仁勋人工超级智能或者说超级智能，本质上是在彻底重构整个计算技术栈。

从处理器、芯片怎样设计和运行，到软件怎样训练、怎样开发，再到应用最终能做什么、怎样完成这些事情，整个计算技术栈的每一层，都被重新发明了一遍。

而这种计算方式和过去检索信息的方式不同，它是一种生成式计算。

所以，如果我们想成功，第一件需要的东西就是能源。我们需要能源来驱动算力，算力运行算法，算法再去驱动应用。

因此最底层的东西是能源。

有了能源之后，我们才能建设土地、电力、厂房这些基础设施，再把计算基础设施放进去，一层一层往上搭。

所以美国要赢（当然我们已经拥有世界一流的芯片设计能力，也拥有世界一流的算法开发能力），现在我们尤其需要警惕的一件事，就是必须确保电力供应和发电能力能够真正建设起来。

特朗普总统在支持能源发展这件事情上，是很有远见的。如果没有这种支持能源建设的方向，我们根本不可能在上面建设这些数据中心。

当然，现在这些数据中心上线得实在太快了。

它们正在进入越来越多的社区和城镇，所以我们还需要做得更好，要和当地社区建立合作，让当地居民真正参与进来，让他们成为这轮工业革命繁荣和成功的一部分。

我想，这大概就是美国赢下这场竞争的方法。

我们要造出世界上最好的芯片，要有大量、大量的能源，要创造出非常出色的算法。

最后，还要确保美国整个社会愿意拥抱这项技术，让它真正扩散到制造业、医疗、太空探索等各行各业。

“电力使用量每增加1%，大致会对应GDP增加1%”

贝克埃隆，你觉得呢？怎样才能继续赢下去？

马斯克我们需要很多电力，需要大规模增加能源供应。

在软件层面，以及任何属于智力和数字领域的东西上，美国现在都是领先的。但是从长期来看，我们必须有能力生产足够多的电力去竞争。

最主要的竞争对手基本就是中国，中国目前的发电量大约是美国的3倍。

芯片这件事，我觉得最终我们总能解决。

所以真正最核心、而且从长期看最重要的问题是：我们怎样生产足够多的电力？同时怎样保证美国本土，或者至少在一个安全地区，拥有足够的逻辑芯片和存储芯片制造能力？

贝克好消息是，莱特兄弟确实已经上场了。

埃隆，SpaceX公开谈过10吉瓦的目标。如果你真的新增10吉瓦，大概相当于美国新增电力供应的25%左右。

而且我知道，你甚至已经让真正的火箭工程师去解决发电问题了，包括帮忙造燃气轮机。你能谈谈这件事吗？

马斯克先给大家一个数量级的概念。

美国平均的电力消耗大约是500吉瓦。所以每增加5吉瓦稳定持续的电力供应，就相当于美国电力使用量增加1%。

而我认为，这最终很可能也会转化成大约1%的GDP增长，因为每瓦电力能够产生的“智能”还在不断提高。

你可以画一条曲线来看看，每瓦电力能够产生的有效智能，到底是怎样增长的？

硬件层面也是如此。比如黄仁勋的GPU，单位功耗能够提供的算力一直在提高。

算法也在不断进步，让同样一瓦电能够产生更多智能。

所以这可能是一个挺有意思的判断。我愿意打个赌，电力使用量每增加1%，大致会对应GDP增加1%。

这样算下来，新增10吉瓦，大概就是GDP增加2%。尤其等Rubin这些系统上来以后，我觉得差不多就是这样。

贝克那我们把这笔账简单算一下。每1吉瓦算力基础设施，每年大概能创造400亿到500亿美元的经济产出。差不多吗？美国GDP的1%大概是3000亿美元。

马斯克对，3000亿美元。

贝克所以5吉瓦就是3000亿美元。

马斯克没错。

贝克那就是每1吉瓦600亿美元。

马斯克对，就是这样。

贝克这账算得通。

马斯克这大概就是我们最擅长的东西了。别的很多事情我们可能不太行，但数学还行。而且这个数字以后每年都会非常大幅地增长。

从SpaceX的角度看，我们长期还在考虑另一个问题，有没有办法获得远远超过地面所能提供的能源？

答案就是太空。轨道计算会成为一件非常大的事情。

事实上，谷歌也认同这一点。他们刚刚把TPU送上去（或者正准备送上去）。我记得去年好像已经有人把一块H100送进了轨道。

这东西在太空里是能工作的。

SpaceX和特斯拉现在的目标，是每年制造200吉瓦的太阳能发电能力。

如果放到太空，它基本可以把设计发电能力充分发挥出来；但放在地面，实际平均发电量可能只有设计水平的1/5到1/8。

太空基本永远都是晴天。

黄仁勋而且现在正是做这件事情非常好的时机。

因为这些计算系统目前能够产生的经济回报实在太高了。所以即使发射成本依然很高，把它放到整个经济价值里看，其实完全负担得起。

马斯克绝对是。现在正是最好的时候。

黄仁勋把英伟达的计算系统送进太空，是实现这件事情最好的办法。

“这些超级智能工厂是货真价实的工厂”

贝克黄仁勋讲了一点，我觉得特别重要。当这些能源项目进入美国的小城镇时，我们实际上是在重新工业化美国，在重新振兴小城镇，也是在现代化美国的电网。

能不能讲得更具体一点？数据中心到底怎样帮助普通美国人？怎样帮助所在的社区？而且你们现在又在怎样让这些项目对当地社区变得更好？

黄仁勋过去我们把它叫“数据中心”，是因为那里是存放数据的地方。

但是今天我们建设的这些东西，其实已经应该叫“SI工厂”，也就是超级智能工厂。

为什么叫工厂？

因为它真的在生产具有经济价值的东西，而不只是把数据存在那里。这些SI工厂就是货真价实的工厂。

你可以把它想象成一个巨型发电设施。里面有大量计算设备、网络设施、发电设施、冷却系统，非常复杂。

互联网如今让你无论在哪里都可以找到任何东西，而未来，借助这些超级智能基础设施、这些SI工厂，你无论在哪里，都可以知道任何事情，也可以做任何事情。

我们正在全美国建设这套基础设施。

粗略估计，一年大概新增10到20吉瓦。光是建设这些数据中心，很可能就会创造大约100万个工作岗位。

别忘了，你还得建设发电厂，要建设数据中心，要做建筑施工，要建设供电和冷却系统，还需要管道安装工等各种技术工种。

所以这可能是过去50年来第一次——你刚才说35年，我本来想说50年，美国真正重新开始工业化，同时创造出大量蓝领工作岗位。

我认为，一个健康的经济体应该既有白领工作，也有蓝领工作，而不是只有白领工作。

所以这是一次非常难得的机会，可以让我们重新塑造美国经济，把这些建设者、技术工种和制造能力重新带回美国。

贝克完全同意。而且像Colossus这样的超级计算集群，以及xAI围绕Macrohard等项目建设的基础设施……给我的感觉确实很惊人。它们给周围社区带来了很多工作。

埃隆，你怎么看这件事情？

马斯克它们带来的经济影响，或者说正面的经济影响，确实非常大。

我们所在的那个地区现在实际上已经出现了劳动力短缺。

过去那里还有相当高的失业率，但现在反过来了，你甚至可以叫它“就业过剩”——工作岗位比人还多。

给当地带来的税收收益也非常大。我觉得我们可能让当地政府的税收预算翻了一倍左右，反正规模非常可观。

另外我们也会做一些规模没那么大、但对当地人很实用的事情。比如给他们提供低价的Starlink服务，大概半价；我们还在建设一座2.5亿美元的水循环处理厂。

我觉得，你确实需要真正为当地社区做一些事情，如果你这么做，他们也会以同样的方式回应你。

黄仁勋而且还有一件经常被忽略的事情。

可能有史以来第一次，我们现在真的拥有足够强的市场力量，去支持对可持续能源的投资。

你随便给我举一个例子——核聚变、核裂变、小型核反应堆、大型核反应堆，今天几乎所有形式的可持续能源，都有人愿意出钱。

所以我们第一次有机会，仅仅依靠市场力量去投资未来的能源，而不是一定要政府补贴。对吧？

马斯克对。

黄仁勋你今天只要给我一个很好的能源或者储能方案，它就能拿到资金。

贝克顺便说一句，我想代表所有美国人谢谢你们两位。

你们两家公司加在一起，可能已经给普通美国人的401(k)退休账户创造了超过5万亿美元的财富，直接创造了数以万计、甚至可能数十万个工作岗位，也支付了数百亿美元的工资。

马斯克其实我觉得，黄仁勋一个人就已经创造5万亿美元了。

黄仁勋我觉得……我这边大概是3.5万亿美元左右吧。

“安全和技术进步其实是一回事”

贝克你们两个这个星期一都过得不错。我当时一边看星舰发射，第一次把星舰完整送入轨道，一边在读英伟达发布的开放智能体安全框架。那天早上还挺让人兴奋的。

所以也许你们可以分别谈谈这两件事情。如果未来我们真的要把200吉瓦的美国太阳能、美国芯片和美国超级智能送进轨道，我们就需要星舰。

黄仁勋要不我讲他的，他讲我的？

马斯克行啊。

黄仁勋开玩笑的。我们确实希望继续推进AI——不对，现在应该叫推进SI了。我得赶紧习惯这个词。

我们希望以一种负责任、但又保持乐观的方式推进超级智能。

我们非常坚定地相信，超级智能最终会带来的那个未来，是一个我们愿意生活其中的未来。

但另一方面，我们必须确保这项技术是在安全、可靠的情况下开发出来的。

这里面其实有几个不同的环节。

模型训练的时候，通常是一个相对安全的环境。

但是当你开始评估模型、测试模型的时候，就必须确保这个智能体系统、这个模型本身，是被高度隔离起来的。

这个隔离系统必须非常安全。

第二，即使你已经把它隔离起来了，在测试过程中也绝对不能因为“它已经被关起来了”，就完全相信它真的不会出来。

所以你还需要进行实时监控，而且理想情况下，负责监控的应该是另一颗独立的芯片。

也就是说，监控系统应该在智能体自身环境之外，处于一个带外的位置，不在它自己的沙箱里面。

所以一方面要隔离，另一方面要监控。

当评估完成以后，真正把智能体部署出去的时候，也应该使用一套非常类似的体系。

其实这和我们管理员工没有太大区别。

你招一个员工进来，会给他一定范围的权限、工具和访问权，同时也会持续监督他的行为。

对于智能体也是一样。只不过我们必须确保，隔离和监控这两件事情，是以最高等级的安全方式去完成。

我们推出了两项技术。

一个叫OpenShell，它是一套智能体隔离系统。

你可以把它想象成网站时代的浏览器，只不过现在，它变成了“智能体的浏览器”。

它把智能体和电脑的其他部分隔离起来，你只给它完成工作所真正需要的那些权限。

另外还有Sentry。

它运行在BlueField-4 DPU上，相当于一直站在系统外面盯着这个智能体，看它到底在做什么。

如果它做了任何越界、违反既定策略的事情，系统就可以按照需要逐级处理，必要的时候直接把它停下来。

贝克我很喜欢你们技术博客里用的那个类比。

互联网刚出现的时候，大家都担心信用卡会不会被偷。后来我们把互联网变得足够安全，所以才有了亚马逊、Netflix、谷歌、X，才有了今天这么多东西。

而现在，我们是在对AI做同样的事情。

黄仁勋对。安全和推动技术进步，本来就不是矛盾的事情。

安全和技术进步其实是一回事，就像自动驾驶一样。它一方面是更先进的技术，同时也应该是更安全的技术。

你就是应该这样推进技术。

所谓“能力提高了，安全就一定会受损”，或者“如果你把精力放在安全上，就一定会在技术竞争里落后”，这些都是错误的二选一。

贝克埃隆，如果未来200吉瓦的计划很大程度上要依赖星舰，那你能不能谈谈星期一那次飞行？你们学到了什么？你现在怎么看整个星舰项目？

马斯克星舰现在进展得非常好。

我们第一次把一艘星舰送进了轨道，而且部署了Starlink V3卫星。

这些卫星非常巨大。它们展开之后，翼展差不多有一架波音737那么大，所以真的是非常、非常大的卫星。

事实上，这是自天空实验室以来，送入轨道的最大规模载荷。

接下来，我们预计星舰最终能够实现非常高频的发射。

我觉得到了明年，很可能可以做到每周一次，甚至每周两次。

星舰其实会做很多事情。

它设计的目标之一，是能够向月球和火星运送足够多的载荷，最终在那里建设一座能够自我扩张、自我生长的城市。

如果只是非常粗略地估算，要在月球表面建设一座能够自行发展的城市，大概需要向那里运送100万吨物资。

火星的数量级也差不多。

除此之外，星舰未来每年至少还会向太空发射几百吉瓦的AI算力。如果一年是200吉瓦，那已经相当于美国目前总能源消耗的40%。

这是一个非常大的数字。有一天，它甚至可能达到1太瓦。

那时候需要送上去的东西，就是非常严肃的吨位了。

“你可以把超级智能想象成一把牛排刀”

贝克还有一个非常重要的问题。这些超级智能不可避免会带有创造者赋予它们的价值观。而我们确实有一些共同的美国价值观，比如第一修正案、言论自由，以及对真相的追求。

你们能不能谈谈，各自在做些什么，确保这些超级智能被赋予正确的价值观？

黄仁勋这里允许说一点有争议的话吗？

贝克当然，说点有争议的。

黄仁勋好。我的看法是，超级智能首先是一种工具，而一旦你开始让一件工具拥有“价值观”，某种意义上，也就是开始让它拥有判断。

问题在于，如果超级智能有了自己的判断，它就可能先去判断你为什么要这么做。可一旦它开始判断你的意图，它作为工具本身就可能没那么好用了。

你可以把它想象成一把牛排刀。

如果端上来的是一块七分熟的牛排，它切得特别好。

但如果端上来的是一块一分熟的牛排，看起来实在太像一块还活着的肉了，它突然决定自己不切了。

所以我脑子里一直有这样一个问题：我们到底希望这些工具拥有多大的判断权？因为真正重要的，还有使用者的意图。

我刚才拿刀只是举个例子，你当然还可以想到很多别的场景。

比如网络安全。

一个人可能是防守方，也可能是攻击方。

但防守方为了保护系统采取的某些行为，看上去完全可能跟攻击者一样。

而这个时候，即使它表面上看起来是一种攻击性行为，你仍然希望这个超级智能能够代表防守方采取行动。

所以这里面的边界并没有那么简单。

贝克最后，也许你们可以分享一点刚刚在白宫发生的事情。你们在那里待了很长时间，看上去也是一次非常有成果的午餐会。有什么是现在可以跟大家讲的吗？

马斯克我们表现不错。

黄仁勋对。我们签署了一份关于超级智能安全的联合声明。

我们在里面达成了一系列共识，其中包括共同监督机制、设立专门委员会等等。

简单来说，就是大家互相检查作业，这显然比每家公司永远都只给自己的作业打分要好得多。

协议覆盖的范围很广。包括严格的内部控制，成熟而明确的方法和流程；你必须非常清楚地记录自己正在开发的产品到底想实现什么；然后建立内部控制，确保最终交付出来的东西确实符合这些目标。

接下来还要有内部审计，再往上还有第三方外部审计。

行业之间也要共享最佳实践。

我觉得这份声明并不是一份没有约束力、空泛的东西，它里面其实有不少实质内容。

我觉得写得非常好。

而且从长期看，我认为它完全可以成为这个行业的一套标准。每一家公司都应该接受这样的做法。