社交媒体X上的一则关于“未来AI竞争态势”的推文近期吸引了科技巨头马斯克的注意，并获得了他的点赞。巧合的是，马斯克旗下的xAI公司也于上周正式推出了Grok 3大模型。
这则引人瞩目的推文由美国知名TMT领域投资人Gavin Baker发布，马斯克对此评价道：“分析颇为深刻。”接下来，让我们深入了解Baker究竟提出了哪些见解。
核心观点：Baker认为，AI行业的变革步伐正在加快，OpenAI的领先优势在未来或将缩减。他强调，数据将成为未来竞争的核心要素，缺乏独特且有价值数据的前沿模型将面临迅速贬值的风险。在这方面，谷歌、meta等巨头凭借数据垄断，能构建起坚实的竞争壁垒。
具体分析：自2022年夏季至2024年春季，OpenAI凭借其先发优势和对传统预训练“缩放定律”（Scaling Law）的积极投入，在AI领域占据了七个多季度的领先地位。缩放定律在机器学习领域被视为大模型预训练的基本原则，揭示了模型性能与其规模、训练数据集大小及计算资源之间的可预测关系。
然而，Baker指出，缩放定律的优势窗口正在逐渐关闭。他指出，Google的Gemini、xAI的Grok-3以及Deepseek的最新模型已达到与GPT-4相当的技术水平。OpenAI创始人奥尔特曼和微软CEO纳德拉也分别表示，OpenAI未来的领先优势将更加有限。据媒体透露，微软因预训练边际效益递减，已暂停原计划投入160亿美元的预训练基础设施升级方案，转而专注于为OpenAI提供推理算力以获取收益。
大模型蒸馏的局限：Baker还提到，如果前沿模型无法访问YouTube、Instagram和Facebook等独特而有价值的数据，其投资回报率可能为零。他引用了Eric Vishria的观点，指出缺乏独特数据的前沿模型是贬值速度最快的资产，而大模型蒸馏只会进一步放大这一点。
行业格局变化：Baker预测，未来巨型数据中心的数量将大幅减少至2-3个，而推理所需的算力将占据95%的市场份额。他解释说，成本效益推理将依赖于更便宜的电力和量化压缩技术，如Deepseek R1的1-bit LLM，以支撑低成本推理。与之前预训练和推理阶段计算资源各占一半的情况不同，未来预训练将仅占5%，推理阶段将占据主导地位，卓越的基础设施将成为关键因素。
最后，Baker提到，如果OpenAI在五年后仍然是AI领域的领导者，那可能是因为其先发优势和规模优势，以及强大的产品影响力。他总结道：“时间会给出最终答案。”
