首 页 | 要 闻 | 电 商 | 互联网 | 业 界 | 家 电 | 智 能 | 汽 车 | 手 机 | 游 戏 | 动 漫 | 云计算
科 普 | 创 业 | 数 码 | 信息化 | 商 讯 | 产 经 | 商 业 | 财 经 | 移动化 | 大数据 | 中小企业
当前位置 > 主页 > 科普 >
企业爆买AI Box
时间: 2026-09-22 14:03 来源:新浪科技
【字号 大 中 小】 【RSS订阅】 【打印】 【关闭】

  原标题:企业爆买AI Box

  一台放在办公桌上、比机顶盒大不了多少的机器,塞着上百 GB 统一内存,断网也能跑千亿参数大模型。不用机房,不用机柜,插电即用,数据不出房门。这就是AI Box,一台搬上办公桌的数据中心。

  AI Box赛道中 苹果 、 英伟达 、AMD、微软、英特尔悉数到场。但这种形态并不新鲜,为何2026年“连上显示器就是台电脑”的小盒子成了必争之地?

  大模型有两种用法:调云端,或者在本地跑。

  云端意味着AI能力无上限,模型不用自己管,最强的能力随时可用。但账也很清楚:订阅制里,ChatGPT Pro、Claude Max 都是 200 美元/月封顶;封顶之外按量计费,9 月 3 日刚发布的 GPT-6 Astra,输出价格是每百万token 50 美元。对跑智能体的重度用户,一次长任务输出数万 token,一个月烧掉几百到上千美元是常态。

  业内人士表示,过去两年企业上 AI,绝大多数卡在“从概念到落地”的摸索期:场景要试、流程要换、提示词要调。这个阶段每一分钟都在花 token 的钱,而老板往往只给得出方向,给不出具体要求。“烧了很多钱,出什么结果呢?不知道。”

  本地部署的逻辑因此成立:主流模型大多开源免费(DeepSeek、Qwen 系列均为宽松协议开源),硬件一次性购入,之后没有 token 账单,数据不出机房。预研、验证、反复试错,成本是固定的。

  AI Box因此而生。

  01、什么样的Box才能叫AI Box?

  AI本地部署有一道硬门槛:模型得先“装得下”,内存就是AI Box的入场券。

  跑大模型的前提,是权重全部装进内存或显存。DeepSeek-R1 满血版 6710 亿参数,全精度(FP16)需要约 1.3TB 显存,FP8 量化约 0.7—0.8TB,即使 4-bit 量化也要 400—480GB8。作为对照,一张 RTX 5090 是 32GB 显存9,一台高配笔记本是 24—32GB 统一内存——只能塞下 70 亿参数级别的小模型。

  这就是桌面 AI 设备*的技术命题:在一台放得进桌子的机器里,塞进尽可能大的统一内存,喂给模型尽可能高的带宽,再把功耗压进办公室插座能承受的范围。

  容量决定能跑多大的模型,带宽决定多少人能同时用、出字有多快,功耗决定它能不能放在办公室而不是机房。在这三个维度上,最戏剧化的事情是:准备最充分的那家公司,本来不是为 AI 设计的。

  2020 年,苹果把 Mac 迁到自研 M 系列芯片,做了一个当时看相当激进的决定:CPU、GPU、神经引擎共享同一块内存,内存即显存。这个叫统一内存(UMA)的架构,初衷是砍掉数据在芯片间搬运的开销、压低功耗。

  五年后大模型时代降临,这套架构刚好踩中了所有需求点。

  今天的 Mac Studio,M3 Ultra 版本最高可选 512GB 统一内存、内存带宽 819GB/s,整机*持续功耗 480W10;9 月 22 日发售的 M5 Ultra 款,带宽进一步拉到 1.2TB/s,国行 46999 元起。苹果官方口径,这台机器可以跑 6000 亿参数以上的模型。 据报道,过去几个月,OpenAI 采购了数万台 Mac mini 和 Mac Studio用于强化学习和Agent的开发,需求旺到多次催促苹果发货。库克在 7 月的财报电话会上承认,“越来越多客户把 Mac mini 用作运行智能体的强大平台、部署 Mac Studio 集群在本地运行前沿模型”,并表示当季 Mac 一直面临供应限制。

  02、英伟达:不卖机器,卖“同款架构”

  如果说苹果是“无心插柳”,英伟达则是看到了市场需求后的“降维打击”。

  DGX Spark 用的是 GB10 Grace Blackwell 超级芯片,128GB 统一内存、273GB/s 带宽、FP4 精度下 1 PFLOPS 算力,整机功耗 240W,官方标称单机可推理 2000 亿参数模型、两台互联跑 4050 亿。美国官网售价 4699 美元,国行首发价约 3 万元,内存涨价后已逼近 4 万。

  单看纸面参数,它对 Mac Studio 毫无优势。但 DGX Spark 跑的是 DGX OS(Ubuntu),软件栈和数据中心里的万卡集群同源,CUDA 生态、企业级支持,开发者在桌上调好的东西,可以无缝搬到云上。

  围绕英伟达DGX Spark,宏碁、华硕、戴尔、技嘉、惠普、联想、微星七家 OEM 同时推出同芯片整机,微星的版本低到 2999 美元,联想 ThinkStation PGX 去年 7 月已经进入中国政企采购目录。相对于苹果,英伟达给AI Box更加清晰的市场定位与销售野心。

  如果说 Spark 是给开发者的入门机,DGX Station 就是给小团队的桌边工作站:GB300 芯片、748GB 一致性内存(252GB HBM3e 加 496GB LPDDR5X)、FP4 20 PFLOPS、整机 1600W,官方宣称能跑万亿参数模。虽然功耗已经摸到普通办公室电路的上限,但仍然比机房服务器低一个数量级。

  今年 6 月 Build 大会,微软发布 Surface RTX Spark Dev Box:和 DGX Spark 同款 GB10 芯片、128GB 统一内存、1 PFLOPS,热设计功耗压到 100W,预装 Windows 11 Pro 开发者版,标称本地可跑 1200 亿参数模型、百万 token 上下文,下半年在美国发售,媒体估价 3000—3500 美元。它的入场意义大于产品意义:Windows 生态需要一个官方答案,告诉开发者本地 AI 不必非买 Mac。

  03、X86阵营:展示推理时代的性价比

  AMD 的Ryzen AI Max+ 395(代号 Strix Halo)把 128GB 统一内存、256GB/s 带宽做进了 55—120W 的功耗墙,NPU 50 TOPS、平台总算力约 126 TOPS。今年三季度,换代的 Ryzen AI Max 400(Gorgon Halo)会把统一内存上限拉到 192GB,官方称可跑 3000 亿参数模型。

  X86的底牌是兼容,Windows、Linux 直接装,企业已有的运维体系全部复用。性能不是最强,但不用换生态,就是采购决策里*的权重。

  英特尔推出了 Panther Lake(Core Ultra 300 系),NPU 算力 50 TOPS,塞进每一台笔记本和迷你主机;最接近盒子形态的 NUC 16 Pro,内存上限 96GB,定位是 Copilot+ 迷你 PC。值得注意的是,英特尔的AI Box不只是放在桌面上的盒子,英特尔还把AI Box放到了智能汽车上,让过去算力不足的汽车拥有算力加成。可以看出,英特尔将AI Box的目标定位到了更具体的B端场景中。

  04、AI Box,到底谁在买?

  盒子卖出去之后,到底干出了什么?

  在高职教育场景中,学校把备课、批改、实训答疑、教案沉淀分别做成教师、学生、管理三组智能体,装在盒子里本地化运行。试点后的数据是:教师周均备课时间从 9.2 小时降到 5.1 小时,每班批改时间从 2 小时压到 0.4 小时,实训错误率从 22% 降到 14.3%,优秀教案复用率从不到 10% 提到 67%。

  另一个是律所场景,卷宗不能出所,正是盒子的主场:类案检索压缩到 40 秒以内,司法文书自动生成覆盖率 80% 以上,利益冲突审查准确率 95% 以上。

  这些场景的选择逻辑很清晰:重复性资料处理 + 数据安全敏感 + 结果可被人工复核。而AI Box的优势也十分明显,传统本地服务器方案要机房改造、周期三到六个月,公有云 API 即时开通但数据有出域风险,而盒子桌面即插即用、物理隔离,部署时间以小时计。

  从卖算力到卖效率,这个转变本身说明:市场已经过了“为参数买单”的阶段,开始为结果买单。

  05、写在最后

  AI Box有多大潜力算的是一笔经济账。

  自建机房要8 张 RTX 4090 的整机,批发平台上报价 35 万元上下,整机峰值功耗 4800W 以上,要机房、要散热、要工程师装机维护,一定需要一个独立机房。

  云端AI能力无限,但 token 账单随使用量线性增长,摸索期花费无上限。

  AI Box 从千元到万元,功耗 100—480W,插电即用,模型免费,试错成本固定。与 8 卡服务器相比,功耗相差 10 到 30 倍。

  

摆在行业面前的问题是,ROI 仍然算不清。真正掏钱的采购方,得拿自己的流程重新折算一遍。客服这类能折算成“少多少坐席”的场景好量化,但所谓对流程的优化,效率的提升无法良好。此外,如同自动驾驶推进的权责问题,在实际工作中如果AI 出错,谁来检查,谁来负责,也没有答案。

 

  现实情况是,当前成熟场景只有两个:写代码和办公,其余场景大多还在摸索。而硬件只是门票:数据治理、微调、迭代以三到六个月为周期,模型一换,上层应用大概率要跟着返工。还有一个思考是,一般情况下,盒子不能升级,扩容只能再买一台机器。在 DRAM 成本高企的情况下卖盒子似乎成了消化高价存储的一种方案。对市场来说,他们更需要看到AI Box到底能做什么。

  AI Box 不是来取代云的。需要最强模型、弹性算力、零维护的任务,云端依旧是*解。盒子承接的是另一类需求:反复试错的预研、不愿上云的数据、十来人小团队的固定算力、算得清电费和折旧的小本生意。

  AI Box的出现是把硬件做小,在支付固定成本后,实现算力自由。归根结底,产品的未来是算力如何落地,如何带来真正的价值。

【北广科技讯-www.bgkjx.com】
    企业,爆买,Box,原,标题,企业,爆买,Box,一台,
    分享组件,请点击:
    推荐新闻:
    ·诺贝尔经济学奖今日揭晓,哪个领域、哪些学者有望获奖?
    ·新冠新毒株EG.5在美国快速流行:世卫组织紧急提醒
    ·美国召回细菌污染的滴眼液,已致3人死亡12人失明
    ·亚马逊正开发下一代Prime Air送货无人机
    ·真的存在“男性大脑”和“女性大脑”之分吗?
    新闻要闻>>
    ·千问升级个人AI助理,推出Personal Age
    ·AI浪潮下“烧钱”堆算力 中美科技巨头
    ·英伟达为俄亥俄州OpenAI数据中心提供
    ·黄仁勋最新表态:存储芯片供应紧张的
    ·中国企业获得的补贴最多?商务部回应
    ·特斯拉造芯真来了!马斯克官宣:Te
    ·上海加码布局本土算力设施,在下一盘
    ·突发!2.4万亿资金,突然“消失”!黑
    ·拼多多发布Q3财报:践行长期使命,迈
    ·比亚迪国内首创量产水平对置发动机
    热点财经 >>
    ·英伟达与SK海力士签署多年合作协议,
    ·巨头大动作!CPU重回AI算力聚光灯下,
    ·传月之暗面将完成数亿美元新融资,公
    ·“AI手机 全面布局”
    ·Facebook母公司Meta 市值持续上涨
    ·NVIDIA依然没有放弃中国市场
    ·7600万美元,购买了一个占地164.7万平方
    ·浙江省标准化研究院牵头制定的《数据
    ·柯伊伯计划将全面推进
    ·(ITC)发布裁定停止向美国进口部分苹
    科技生活>> ;
    ·经济日报金观平:理性看待IMF微调中国
    ·证监会:坚决维护资本市场平稳健康运
    ·马斯克预言成真前,建议80%的家庭立刻
    ·vivo人事调整:执行副总裁胡柏山晋升
    ·谷歌推出Gemini3!模型竞赛转向“落地
    ·阿里云宣布扩建全球基础设施,将新增
    ·降息、降准!央行行长潘功胜最新发声
    ·A股百元股再超百只 半年时间数量大增
    ·国常会支持新型消费加快发展 AI+消费
    ·苹果长焦拍照远不如国产手机:iPhon