人工智能领域近期迎来了一股新的热潮,大模型一体机的崛起成为了市场关注的焦点。这一趋势的引领者无疑是DeepSeek大模型,它不仅激发了市场的巨大热情,还推动了大模型一体机成为业界的明星产品。
科大讯飞智算业务部副总经理许昀透露,以往,一体机在市场上的需求并不显著,但如今这一局面已发生根本性变化。据IDC的数据显示,市场上已有近百家厂商推出了AI一体机产品,涵盖了服务器厂商如新华三、云服务提供商如京东云和百度智能云,以及行业应用开发商和大模型技术供应商等。
大模型一体机是专为人工智能大模型的部署和应用设计的,集成了CPU、GPU、存储器、操作系统、AI平台软件及多种模型算法等软硬件组件。它像是一个独立的小型服务器,不仅便于大模型的快速部署,还能确保数据安全。这些厂商推出的大模型一体机大多集成了DeepSeek大模型,如32B、70B及671B满血版等,价格从十几万元到百万元不等。
据一位大模型一体机销售商介绍,华为推出的一款四卡机器,售价约为15万元,底层硬件基于鲲鹏CPU和昇腾芯片,内置DeepSeek-70B大模型,具备问答助手、知识库等功能,支持30人并发使用。而配备DeepSeek-671B大模型的一体机,价格则超过了200万元。
尽管一体机并非全新产品,之前已有数据库一体机等存在,但市场需求一直较为平淡。此次大模型一体机的爆发,得益于DeepSeek的推动以及大模型和小型化算力的发展趋势。它通过“软硬协同、开箱即用”的特点,满足了企业在特定业务场景中低成本使用大模型的需求,解决了数据安全、算力成本和场景适配三大难题。
然而,尽管市场热度高涨,但大模型一体机的行业落地仍需时日。许昀指出,目前大多数企业仍处于试点阶段,行业适配需要时间,预计半年左右市场需求才会真正爆发。Gartner研究总监张吟铃也表示,许多企业尚未明确大模型一体机的投资回报比,因此大型企业对大模型一体机的投资并不多,整体行业仍处于初期阶段。
硬件厂商中,新华三发布了多种大模型一体机产品,包括集成DeepSeek大模型的灵犀Cube大模型一体机,以及为特定行业定制的城市治理、协同办公和医疗大模型一体机等。作为服务器厂商,新华三在硬件方面具有明显优势,自主研发的服务器能够支持高性能GPU,提供灵活的拓扑架构,兼容多种模型。
国产化成为大模型一体机的重要趋势,以华为昇腾、海光、寒武纪等为主的国产芯片,成为众多行业客户打造大模型一体机的首选底层硬件配置。在华为中国合作伙伴大会上,华为董事、ICT BG CEO杨超斌表示,已有超过80家伙伴基于昇腾打造开箱即用的大模型一体机。
云厂商也是大模型一体机市场的重要参与者,包括三大运营商云、百度智能云、京东云等众多云厂商都已推出相关产品。云厂商的大模型一体机主要分为适配DeepSeek标准版和满血版两大类,并以此为基础适配不同行业场景。云厂商不仅能推出针对各种细分场景的大模型一体机,还能结合自身的云服务生态和弹性算力,为用户提供更多支持。
科大讯飞作为行业应用及大模型技术厂商的代表,也推出了针对政务、警务、司法、医疗、高教等应用场景的一体机产品。许昀表示,一体机需要与行业软件做深度结合,对于同类型的大模型厂商来说,谁能具有更深的行业理解,谁就能实现差异化竞争优势。
大模型一体机的市场需求主要来自金融、政企、医疗、教育等对数据安全要求较高和对延时较为敏感的应用场景。然而,一体机所能提供的大模型能力和算力支持有限,目前主要应用在细分场景中。对于中小企业来说,更多使用便宜弹性的公有云,而对于一些存在长期需求且对隐私敏感的企业,则会选择部署一体机。对于大型企业来说,一般会构建自己独立的智算平台,而想要在细分场景中部署一体机,还需要考虑与自身其他智能算力平台的协同管理问题。
尽管大模型一体机市场火爆,但张吟铃对未来一体机赛道持谨慎态度。她认为,现阶段企业部署DeepSeek一体机后,更多用于效能提升,而非增长业务场景。当企业使用大模型进入成熟期后,需要扩展资源用于更多场景部署,可能会面临使用同一软件平台纳管不同种类一体机的挑战。
行业客户对一体机的评价存在两极分化。一方面,有客户认为一体机能够满足细分行业需求,整体效果良好;另一方面,也有客户认为一体机没有找到与行业深度结合的点,且部署价格不菲,效果不佳。