前两天看到英伟达那则公告,黄仁勋辞去总裁、CEO和董事职务,CFO Colette Kress接手临时CEO。说实话第一反应是“这公司要变天了”,但冷静下来一想,对像我这种自己攒推理集群的散户来说,最该关注的不是谁上位,而是之前传闻里提到的Rubin Ultra延期和Kyber机架改动。大摩路演里黄仁勋否认了Rubin Ultra延期,说按计划明年推,但Kyber机架架构调整了。这玩意儿才是真正的痛点。
我去年底刚搞完一个小型推理集群,主要是跑开源LLM的推理服务,规模不大,就32张A100和十几张H100混着用。当时布线时最头疼的就是供电。标准机架通常走380V直流或480V交流,但H100单个节点峰值功耗能到700W,32张卡加上交换机、存储,单机架功率密度轻松破20kW。我一开始想用800V直流供电,结果发现国内机房能提供800V直流母线的供应商极少,大部分只走380V或240V。最后妥协成480V交流转直流,效率降低了大概3-4%,多出来的热还得额外风冷。现在英伟达那边要推800V直流,对大型数据中心是利好,但对中小玩家来说,意味着要么改造配电柜,要么等新规格的PDU上市,周期至少半年。
另一个改动是光互连。老架构里机架间通信主要靠铜缆,距离一长信号衰减大,带宽受限。Kyber机架据说要集成光互连,直接走光纤。这玩意儿对推理延迟改善明显,尤其是跨机架做张量并行的时候。我之前用H100跑Llama 3 70B,跨机架通信延迟占推理总延迟的15%左右,换成光互连应该能压到5%以下。但光模块的到货周期现在是个问题,我认识的做光模块的朋友说,800G光模块交期已经排到12周以上,英伟达自己又囤了不少,小厂想拿货得加价。
机架功率密度这块,Rubin系列传闻是单GPU功耗可能到1500W,比H100翻倍还多。这意味着散热方案得从风冷转液冷。我现在的集群是风冷,夏天最热时进风口温度35度,GPU温度能飙到85度,风扇转速拉满噪音堪比吸尘器。如果下一代卡真到1500W,风冷根本压不住,必须上冷板式液冷。液冷改造包括管道、水泵、冷板、CDU,一套下来成本至少是风冷的1.5倍,而且机房需要有排水和防漏设计。我算过一笔账,如果全换液冷,现有集群的改造费用接近新购一半卡的价格,所以暂时只能观望。
这三个改动——800V供电、光互连、液冷——对自建集群的影响是实打实的。到货周期上,新架构卡可能要等8-12周,配套的供电和散热设备可能更久。大摩路演里提到管理层对增长偏乐观,单季营收逼近1000亿,说明需求还在涨,但供应链瓶颈没解决。小玩家要么加钱插队,要么等两三个季度后产能爬坡。
最后说句实在的,技术路线调整是常态,但每次改架构都等于重新布线、重新算散热、重新调网络,成本和时间都不小。
随便看看
- [亚洲] 床上的美妞是如此的诱人[26P]
- [资讯分享] 福本莉子大阪轻盈少女脸! 恋爱戏路线跨
- [写真] 杨晨晨小甜心性感不羁风情写真[30P]
- 成功赶走陈行甲
- 下贱的淫肉[12P]
- [亚洲] 公司上下级的男女群欢派对[20P]
- 大秀身材曲线 [11P]
- [亚洲] 年轻的身体 [20P]
- [欧美] Aria Bella[20P]
- [兲朝浮世绘 2025/05/10] 波兰总理这是在批评习总可
- 让说话有“逻辑”视频教程分享,技多不压身系列 一百
- [车牌搜集]FapHouse.26.01.10.甜蜜做爱时光,温柔抽插
- ????????????又是一波年轻水嫩的肉体 保存了晚上看?
- [欧美] Bantina[20P]
- 2026年的中国,三千六就能买一个奴隶, 还不需要养活他,
- 接种而来-大图[45P]
- juq-105 胸小好看确实可行 状态到了无限色情 [7
- [亚洲] 成熟女人的感觉就是棒[51P]
- 聊聊前几天被偷窥的后续
- 辣妹调教[13P]
- 两个大灯泡太圆了[]
- MIAD-956 色情冲脑无法抑制 家中成员也不放过 [60P]
- [写真] 朦胧唯美且不失娇媚诱惑的柔情私房[25P]
- 边看边撸!黯笙爱看玉足美腿高跟,内置31源
- [兲朝浮世绘 2025/07/05] 不为别的,共产党就是要共你
- 5月12日历史的今天 大事记。
- [每日动图]20251222[140P]
- 草图榴人-肛交GIF 大自然的搬运工6[38P]
- 丝袜美腿 [27P]
- 这种少妇,有点邻家的纯,皮肤也很白,这种外面露出,更是增
- 全球首个!商用服务机器人体验中心在深圳启用
- [欧美] Nedda A[20P]
- 韩江《光与线》的诺奖文学奖演讲稿摘录
- 记录一下约的第一对情侣
- 中国实施信访新规 要求民众不得任意跨省越级申诉
- [亚洲] 198 浅仓 眞子 Mako Asakura [30P]
- [欧美] Dakota Pink[20P]
- [亚洲] 森あやみ[31P]