
谁说老GPU就该进回收站?2020年发布的英伟达A100,今年已经快6岁了,可它没退休,反而在CoreWeave的数据中心里干得热火朝天——合同签到2029年,满负荷跑推理,价格不跌反涨。这不是情怀,是生意。AI任务本来就不只有一张脸:训练要狂堆算力,推理却讲究性价比;大模型要H100、B200冲前沿,但每天几亿次的客服问答、内容审核、实时翻译,A100+CUDA生态跑得又稳又省电。

更关键的是,它“能屈能伸”。多实例GPU(MIG)技术让一块A100能切成7个独立小卡,像出租公寓一样灵活匹配不同客户的小规模需求。风冷、低功耗、兼容老机房——这些被新架构嫌弃的“短板”,恰恰成了它扎根中小客户和边缘场景的长板。黄仁勋说得直白:“GPU不是手机,AI工厂是资产,不是消耗品。”当算力变成可融资、可流转、可长期收租的基础设施,折旧表就得重画。
资本市场也用真金白银投票:CoreWeave新签A100合同利润率高出5%-10%,库存老卡基本租罄,股价单日飙涨16%。华尔街那套“两年就报废”的消费电子思维,在AI算力市场碰了壁。不是芯片不更新,而是需求在分层生长——新芯片抢 headlines,老芯片扛 real work。所谓“越老越值钱”,不是玄学,是供需错配下的理性选择:当H100还在等液冷基建落地,A100早已在千家万户的推理管道里,默默吐着现金流。
这事儿其实早有苗头。2023年Q4,英伟达财报电话会上,CFO Colette Kress被问及“二手A100市场涨价”时没回避,只说了一句:“客户在用真实工作负载验证我们的架构韧性。”后来彭博社查了北美三大AI托管服务商的采购记录——2024年上半年,A100二手交易均价比2023年底涨了22%,而同期H100新卡价格微跌3%。不是大家不爱新卡,是真等不起:一套H100液冷系统部署周期平均要11周,A100风冷机柜插电即用,中小客户上线一个推荐模型,省下的三周就是多接两单客户的交付窗口。
连OpenAI都在悄悄复用老资源。据The Information 2024年5月报道,其内部推理服务集群中仍有约18%的A100在跑轻量级任务,比如用户提示词预过滤、API响应缓存校验——这些活儿不炫技,但占全天请求量的63%。工程师私下吐槽:“H100杀鸡用牛刀,A100切菜正顺手。”
国内情况也差不多。阿里云2024年Q1披露,其公共云推理实例中,A100占比稳定在31%,和去年持平;而华为昇腾910B同期上架量虽增,但主要补位的是政务、金融等信创场景,互联网企业批量采购的仍是“能跑TensorRT、有成熟CUDA库、运维文档齐全”的A100。一位深圳AI初创公司CTO告诉我:“我们测过,把Llama3-8B部署到A100上,延迟比H100高不到8毫秒,但每千次调用成本低41%——投资人看的是ROI,不是发布会PPT里的TFLOPS。”
说到底,算力不是越新越好,而是越匹配越好。就像你不会为了送快递买F1赛车,也不会因家里有辆桑塔纳就扔掉它。A100没变老,是AI落地的节奏变实诚了——不再只盯着参数表狂欢,开始算电费、算机柜空间、算团队熟悉度。当技术从实验室走向菜市场,真正的硬通货从来不是最新款,而是“现在就能赚钱”的那一块。
益通网提示:文章来自网络,不代表本站观点。