你可以在 Bayt播客App上收听本期播客的中文音频。Bayt能将任何英文播客翻译成中文,并用真实自然的中文声音呈现,帮助你跨越语言障碍,收听高质量内容。

核心要点

1、达里奥·阿莫迪提出AI能力正经历真实指数增长,模型性能在18个月内从"高中生水平"跃升至"博士水准",并预测生成式AI商业营收两年内可能突破千亿美元规模。

2、Anthropic采取"纯技术赌注"策略,超75%收入来自API接口。达里奥独创"模型创业论"解释行业亏损本质:每代模型独立盈利,但持续研发投入导致账面亏损。

3、针对"末日论者"指控,达里奥激烈反驳:"我父亲因医疗技术晚到几年去世,我比任何人都清楚AI能拯救生命",强调其安全预警是为避免技术失控。


背景

本期《大科技播客》深度对话Anthropic CEO达里奥·阿莫迪。作为OpenAI前核心成员(主导GPT-3研发),达里奥罕见公开回应与OpenAI的竞争、黄仁勋批评、AI安全争议等敏感话题。访谈揭示Anthropic年营收从零飙升至45亿美金背后的技术逻辑,以及达里奥因父亲早逝形成的独特技术伦理观。对话还涉及Meta挖角风波、开源模型误判、以及价值20万亿美元的AI产业利益链引发的安全隐忧。


01 紧迫的时间线:指数增长下的双重危机

Reed Albergotti
达里奥,让我们回顾下你过去几个月的言论:你说AI可能淘汰半数初级白领岗位;在得知OpenAI要收购Windsurf后切断了他们访问Anthropic顶级模型的权限;你向政府申请出口管制惹恼了英伟达CEO黄仁勋——你到底怎么了?

达里奥·阿莫迪
我认为Anthropic和我本人始终专注于践行我们相信的理念。随着我们越来越接近更强大的AI系统,我想更有力、更公开地阐明这些观点。多年来我一直在说——AI系统正变得越来越强大,几年前它们几乎语无伦次,两年前达到聪明高中生的水平,如今已接近大学生、博士水准,并开始渗透整个经济领域。因此我认为,从国家安全到经济影响等所有AI相关问题,都即将成为现实挑战。

Reed Albergotti
是源于你的时间线预判吗?看起来你比多数人设定的时间线更紧迫,所以你感到必须尽快发声?

达里奥·阿莫迪
基础技术发展相对可预测。我们当前所处的指数级增长可能突然停滞,这种概率或许有20%-25%。若真如此,我所有预警都会显得荒谬。但假设指数增长再持续两年,规模将突破千亿级。90年代的互联网就是如此——在指数爆发前两年,它看起来才刚起步。

Reed Albergotti
需要说明的是,本次对话是我正在撰写的个人专题的一部分。所有受访者都提到,在主要实验室领导者中,您预设的时间线最为紧迫。为何您的时间线如此短暂?

达里奥·阿莫迪
我根本不明白AGI和超级智能指什么,这些像是营销术语。但抛开术语,我确实对AI能力快速提升极为乐观。每隔数月就会出现更优模型,通过投入更多算力、数据和新训练方法实现。以编程领域为例:我们发布的3.5到4.0 Opus版本,每个在编程能力上都显著超越前代。SWE基准测试从18个月前的3%提升至80%。


02 生成式AI的商业模式:API赌注与千亿营收逻辑

Reed Albergotti
CNBC称Anthropic 60%到75%的销售通过API完成,这个数字现在还准确吗?

达里奥·阿莫迪
大部分确实来自API,尽管我们也有蓬勃发展的应用业务。我们押注AI的商业应用,因为这与我们的目标最为契合。企业AI的使用甚至将超过消费者AI的使用。

Reed Albergotti
为什么选择对技术本身下这种纯粹的赌注?OpenAI押注ChatGPT,谷歌整合Gmail...

达里奥·阿莫迪
更准确说是押注模型的商业应用场景。假设模型生物化学水平从本科生提升到博士生,辉瑞可能愿付十倍价格。这为模型发展提供更好激励。编程领域尤其明显:一年半前,我们最优秀的工程师说这个模型终于能做到他无法做到的事情。

Reed Albergotti
定价模式让开发者困惑。有人通过API获得每月6000美元价值却只付200美元。模型越受欢迎,你们亏损越多?

达里奥·阿莫迪
我们已调整定价策略。但关键要理解"模型创业论":假设2023年训练1亿美元成本的模型,2024年创收2亿美元,但同年投入10亿训练新模型;2025年新模型创收20亿又投入100亿——表面看公司每年亏损,但每个模型本身都是盈利的。

Reed Albergotti
实现盈利需要多久?据说今年亏损将达30亿美元...

达里奥·阿莫迪
需区分模型运行成本与研发成本。每创造1美元收入对应特定成本,这部分其实已相当盈利。真正的重头是下一代模型的训练投入。最终会达到某个规模,而持续投入新模型的事实意味着业务规模将逐年扩大。


03 安全与伦理:父亲之死激发的技术使命

Reed Albergotti
我听说你父亲的病情对你影响很大。能分享一下吗?

达里奥·阿莫迪
他病了很长时间,最终在2006年2月去世。这实际上成为了推动我转向的契机——我进入普林斯顿时本想成为理论物理学家,但这件事促使我转向生物学。在生物学深耕多年后,我意识到生物问题的复杂性似乎超越了人类认知尺度,而AI是唯一能弥合这个鸿沟的技术。

Reed Albergotti
听说当时他患的疾病基本无药可治?

达里奥·阿莫迪
没错。事实上就在他去世三四年后,该疾病的治愈率就从50%提升到了约95%。

Reed Albergotti
这一定让你觉得很不公平。

达里奥·阿莫迪
当然。但这更凸显了紧迫性——那些研发治愈方法的人拯救了许多生命,但如果能早几年突破,本可以救更多人。当我指出AI风险时,有人称我是末日论者,这让我非常愤怒。我父亲就因为医学进步晚来几年而离世。我比谁都清楚这项技术的价值。

Reed Albergotti
我猜你一定听过类似Jensen的批评:Dario自以为只有他能安全构建这项技术,因此企图控制整个行业?

达里奥·阿莫迪
我从未说过这种话!这是无耻的谎言!Anthropic追求的是"向上竞争"——胜出者带动所有人共赢。比如我们首个发布责任分级政策后,积极鼓励业界跟进。在可解释性研究上,我们向全行业公开成果。我从未发表过任何暗示垄断技术开发的言论。


04 万亿资本下的安全困局

达里奥·阿莫迪
当前形势需要我们严肃理解风险与收益的双重性。数万亿资本站在加速AI发展这边。即便因此招致非议——比如美国政府某些人因我们支持对华芯片出口管制而恼怒——我仍持续发声。

Reed Albergotti
但你仍假设我们能控制它?

达里奥·阿莫迪
这是场分阶段博弈:每开发一代更强模型,我们就实施更严格测试。若模型领先对齐技术数年,我会主张大幅减速。此刻预警风险,正是为了不必减速。我们几乎没有回旋余地——那些执掌万亿美元公司的人因为我谈论技术风险而批评我。

Reed Albergotti
开源模型会威胁你们吗?

达里奥·阿莫迪
"开放权重"不同于传统开源。多数优势如多人协作并不适用。评估竞争时,我只关注哪些模型擅长目标领域。开源其实是个干扰项...除非它能免费运行——但总要有人承担推理成本。

Reed Albergotti
最后,SPF(Sam Bankman-Fried)事件究竟是怎么回事?

达里奥·阿莫迪
我和那人见过四五次。事先注意到他属"快速行动,打破常规"类型。我决定:只给他无投票权席位。回想起来,这种做法结果比我预想的糟糕得多。


尾声:在加速与刹车间寻找平衡

达里奥·阿莫迪
我每晚入睡前都在思考平衡问题:技术能拯救生命,但20万亿美元资本正推动无约束发展。那些主张十年内不应监管的人,与声称绝对无法安全开发的末日论者同样危险。当前需要更多违背自身利益的人,而不是轻浮的推特骂战。

Reed Albergotti
感谢Anthropic的公开研究。从模型红队测试到自动贩卖机版Claude,让世界了解这里发生的一切是件好事。

达里奥·阿莫迪
如果有更多人加入深思熟虑的行列,将会大有裨益。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐