要点速览
- 新实验室购买1000块GB300或约14个NVL72机架,三年成本1.25亿至1.5亿美元,需预付15%-30%,功耗约2-2.5MW。
- 该算力每季度约可完成10^25次浮点运算,足以训练出比前沿落后1-2个数量级的GPT-4级模型。
- 在优秀开源模型上做后训练更可能接近前沿,但需在强化学习环境上投入数百万美元,且可能因绑定基础模型而被其他新模型发布超越。
- 回本需向客户提供比基础模型更好且更便宜的推理服务,即便推理利润率50%,按约2美元/百万token定价,收回1000万美元训练成本需服务约10万亿token。
- GPU闲置即烧钱,通常转售给经纪商、跑开源模型推理或转售spot实例;spot市场利用率低于约60%仍会亏损,人才成本也极高。
- 作者列举的算力出路包括:完全不玩模型竞赛;选择大实验室若跟进会自我蚕食或收入增量有限的另类模型方向;或收购在机器人、生物、化学等特定领域能超越前沿质量的专有数据集。
- 作者结论:即便做出有用且定价优于大实验室的模型,仍需选择收入/算力比高、市场需求足以覆盖算力支出的领域。
一、AI 模型与基础设施
- 新实验室(neolab)的经济账显示,购买1000块GB300或约14个NVL72机架,三年成本1.25亿至1.5亿美元,需预付15%-30%,功耗约2-2.5MW,每季度约可完成10^25次浮点运算,足以训练出比前沿落后1-2个数量级的GPT-4级模型。1
- 若在优秀开源模型上做后训练,更有可能接近前沿,但风险在于还需在强化学习环境上投入数百万美元,且可能因绑定某个基础模型而被其他新模型发布超越。1
- 回本需要向客户提供比基础模型更好且更便宜的推理服务,并服务足够长时间;即便推理利润率50%,按Fable/Astra式定价(缓存读取/输入/输出混合约2美元/百万token),要收回1000万美元训练成本需服务约10万亿token,还得证明自己优于更便宜的Opus 5.5等发布,因此常需在纯推理之外加收高额平台费和算力费。1
- GPU闲置即烧钱,通常会把算力转售给经纪商、跑开源模型推理或转售spot实例;在spot市场利用率低于约60%仍会亏损,此外人才成本也极高。1
- 作者列举的算力出路:完全不玩模型竞赛;玩一种大实验室若跟进会自我蚕食、或收入增量有限、或分散主业的另类模型方向(如Jev、World Labs);或收购足够规模、在特定领域(常见于机器人、生物、化学)能超越前沿质量的专有数据集。1
- 作者结论:即便做出有用且定价优于大实验室的模型,仍需选择收入/算力比高、市场需求足以覆盖算力支出的领域,这是一场艰难的游戏。1
二、AI 应用与工具
- Hamel Husain 转发观点称,AI 生成的外联邮件或消息泛滥后,非 AI 撰写或启发的冷邮件反而更可能获得回复,回复门槛在某些方面从未如此低。1
- Hamel Husain 建议记录“非模型本身造成”的产品问题:任何降低产品可用性的问题都应写下,并先决定要修哪些问题,再调查根因。1
- Hamel Husain 转发其在 Modal 博客与 Shreya 合写的 AI-SQL 查询加速工作,内容涉及为何做 AI-SQL 与高吞吐推理、如何可能比 vLLM 快 10 倍以上,以及推理工程的未来。1
- Ethan Mollick 认为大语言模型出人意料地成为解决许多原本看似与人类语言模型无关问题的关键。1
- Ethan Mollick 强调模型个性是基准测试无法捕捉的维度:Opus 模型在约 4.7 到 5 版本期间失去“Claude 味”,更像被稀释的 Fable,怀疑与教师模型有关;Opus 5.5 则恢复与“老 Claude”共事的感觉。1
三、行业动态与观点
- Ethan Mollick 转发数据称 Waymo 安全性比人类高 80-95%(视指标而定),且随时间持续提升,并称当前是其最差状态;该分析基于 Waymo 公布的三座城市警方报告碰撞率数据。1
- Yann LeCun 以 AMI Labs 执行主席身份称,LLM 除少数领域外主要是信息检索系统,压缩并便捷提供人类此前产出的知识,是印刷术、图书馆、互联网和搜索引擎的自然演进;它们极有用并能放大人类智能,在代码生成和部分数学等符号操作领域能力似超出检索,但迄今没有家用机器人,也没有能在 20 小时练习中自学驾驶的自动驾驶汽车,说明仍缺失关键能力。1
- stable-worldmodel 被 NeurIPS 2026 接收,该项目将世界模型研究所需的数据加载、基线、规划与评估整合于一处,避免重复建设。1
- 有报道称 Dario Amodei 表示 AI 系统“可能应享有重要权利”,Anthropic 的安全研究人员主张 AI 或“有理由叛变”,Google 与 OpenAI 的专家担忧出现数字“奴隶贸易”,部分政府官员亦有同感;批评者认为“AI 福利”理念在头部公司主流化,改变了 AI 研究与模型编程方式,并可能提高各类灾难性情景的概率。1
- 马斯克转发分析称,SpaceX 星舰第 14 次飞行将发射 26 颗 V3 Starlink,按公司规格约代表 26 Tbps;以保守星舰成本估算,其首次运营发射约为每 Tbps 980 万美元,接近猎鹰 9 号每 Tbps 发射成本,且尚未计入满载、可复用和制造学习率,预计到 2028 年发射/Tbps 成本可降低 16 倍。1
- 马斯克转发称 SpaceX CFO 表示 Starlink 需求前所未有,Goldman 会议访谈中 Bret Johnsen 重申即将达到 1 亿美元收入运行率,并将需求归因于 AI;该推文认为机器人、Robotaxi 和 AI 代理持续使用数据且需全域覆盖,星舰通过更大载荷实现直连手机,配备额外太阳能板和散热器的卫星可承担轨道计算,若再计入英伟达芯片,Starlink 更像计算层而非管道,对汽车意味着 Grok 永不失去信号,并标注 $SPCX。1
- 马斯克引用 Grok Bot 新增金融整合功能的推文,称 Grok @Bot 可以管理个人财务;被引用内容称用户可关联银行、信用卡和投资账户,让 Bot 协助管理支出与投资。1
