详情

“一个机灵东谈主从敌东谈主何处得到的东西，比从一个傻瓜一又友何处得到的东西更多。”

——玄学家格拉西安

这句格言，正在AI畛域被推行考证。好意思国的收尾政策总会告诉咱们，哪些东西是发展AI至关进军的。

2024年10月，好意思国商务部再次升级制裁，收尾中国实体走访好意思国的云行状，事理是“堕落左右好意思国基础法子测验AI模子”。这记号着好意思国对华算力基础法子的“双管皆下”：先断GPU芯片，再封云行状，最终倡导是让中国AI堕入算力断崖。

有读者会问，DeepSeek缩短了单模子算力需求，把英伟达股价都打下来了，如何AI算力仍然阑珊呢？

一方面是总量在增长。正如杰文斯悖论所说，期间跳动缩短了使用本钱时，资源的总浮滥量反而会增多。比如燃油效率提高了更省油，但跟着开车变得低廉，东谈主们就会更多聘用开车，收场导致汽油的总浮滥量增多。AI亦然如斯，模子门槛下落导致智能化应用多了，总算力需求也就更大了。

此外，还跟算力集群的左右率关系。一位银行总工程师共享到，自家搭建的搀杂异构算力平台，岑岭期算力集群左右率能达到60%就算优秀了，花大价钱采购的算卡资源，许多都被阔绰或闲置了，加上配套系统与运维本钱，通盘资金插手相配大。

既然自建算力集群买不到卡、本钱高，从云表获得算力的GPU云行状，就成了绝大多数企业用好、用活大模子的最好聘用。

那么，GPU云行状行为AI算力的另一根支握，中国准备好了吗？

从云表获得算力，联想很丰润，但推行很骨感。GPU云行状还莫得被企业普遍禁受。一位金融从业者就告诉咱们，通盘金融行业对GPU 云的瓦解还比拟暗昧，天下风气了传统的硬件采购模式，对云行状的禁受度并不高。

为什么不高？这有两个原因：

一是同质化严重。对比市面上的GPU云处理决策，会发现算力层、平台层都高度同质化，收受的GPU芯片大同小异，平台功能也差未几。甚至于有东谈主以为GPU云行状商提供的软件没什么太大价值。收场即是GPU云商场，现在的竞争主如果卷廉价。

二是创新不及。同质化并不虞味着GPU云行状的痛点和挑战都照旧被处理了，骨子上，同质化恰是创新不及的证明。比如说，跟着大模子的参数范围扩大，一个千卡集群的百P算力，训一个类Sora大模子就被占满了，其他客户需要算力，就得扩大集群范围，但AI芯片是很敏锐的，从千卡到万卡、超万卡，故障率和运维难度也快速飞腾，如何保证集群的踏实性，不可动不动就中断重写checkpoint？

花了大价钱买的GPU卡，收场有一半都在“摸鱼”，如何让资源经管更精益，投资不阔绰？

算卡供应链的不踏实，许多集群的架构不同、批次不同，无法合池测验，存在资源墙如何冲突？

国产芯片的适配难，新模子的测验时长比英伟达决策多出好几倍，一直沿用的测验推理一体化经过，在异构算力环境下裂缝百出，又该如何办？

不出丑到，不是行业用户不想用GPU云行状，而是市面上的处理决策都趋于同质化，过早运行卷价钱。这种情况，与内卷化的界说极端契合。就像农业发展到一个驯服风景之后，便停滞不前或无法向更高档更正。

GPU云商场，还处于未艾方兴的发展初期，五行八作都需要上云用算来进行AI训推，有宽阔的商场空间恭候掀开，不应过早跌入同质化、内卷化的泥潭。

但要冲突内卷，就得拿出有壁垒的各异化处理决策，让GPU云算力真实降本增效，从而带动企业用户的增长，以及通盘GPU云的产业升级，就像一块耕地，通过优化教诲期间和深耕易耨，进一步提高食粮亩产量，从而幸免卷入“谷贱伤农”的价钱战内卷。

向期间要谜底，一直是百度的特色。AI时间，百度智能云也凭借AI基础法子和期间本事在云商场异军突起，开首点亮了国产三万卡GPU集群，况且已毕了真实无损的搀杂测验本事，集群左右率高达95%以上。凭借GPU云畛域的卓著本事，百度智能云成为超半数央企的聘用。

咱们就以百度智能云为例，拆解一下GPU云逃离内卷的期间密码。

破解GPU云商场的内卷难题，势必要改变传统集群范围拓展难、故障率高、资源左右率低等问题，那就要从基础法子下功夫。

具体来说，百度智能云以期间为器具，对GPU集群进行了三重校正。让GPU集群从小农经济式的轻佻辩论，形成当代农场相似的范围化、集约化、精益化分娩模式。

第一重校正：范围化，开释超万卡集群的倾盆算力。

“深度想考的大模子，业务用着可以，底下要全集团实施，你们尽快给算力扩容吧”，进入2025年，大模子上量成了IT东谈主的一大挑战。因为集群范围扩大一倍，故障率能飙升好几倍，而骨子运算效率却出现了角落递减。如果集群是由不同城市的小范围集群互联来构建的，那资源性能损耗就更严重了，数据时延也会让在线推理行状的体验大打扣头。如果AI想考一次就得十几分钟，职工用起来不耐性，CTO如何能不狂躁上火。

是以，百度智能云在构建范围化GPU算力集群，濒临的首要期间挑战，即是如何提高集群的踏实性，缩短故障率，给性能调优。

解题想路，即是软硬协同。有点肖似于NVlink+ CUDA联手，充分开释N卡算力。那百度智能云靠的即是百舸。百度百舸是专为AI诡计遐想的高性能算力平台，让多个芯片、多个集群都用“日常话”，已毕跨芯片“交流”。

硬件资源层，百舸遐想了一套新的物理收罗架构，就像是城市里用心筹算的高效阶梯，新一代的HPN收罗范围上支握10万卡，可同期容纳十万卡并行测验，这就为诡计资源的高效运行提供了有劲保险，让AI模子训起来更快更踏实。

集群组件层，百舸自研的集会通讯库BCCL，可以已毕GPU、昆仑芯等方法RDMA设备的互联互通，使得通讯收场达到最优。以前莫得长入沟通风景的时候，不同芯片互不买通，常常出现繁芜，那协同使命效率当然就很低了。BCC制定了一套长入的通行规章，就可以让芯片高效合营，加上自合适并行策略搜索，自动筹算出最好决策，就能让各式硬件充分阐扬作用，进步多芯搀杂测验任务的全体效力。

训推加快层，百舸在AI加快套件AIAK-LLM中构建了Accelerator详细层，屏蔽硬件各异，十分于为多个集群开辟高速路，快速通讯，让各式硬件都能充分阐扬作用，高效合营，由此来构建极致范围、极致高密和极致互联的GPU集群。

联想一下，当企业使用万卡、超万卡集群时，就像一个滚滚不停供给营养的算力泥土，不论是金融机构处理海量交游数据，如故运行复杂的科学诡计模子，或者是AI智能体及时反应客户需求，都能无拘无缚。

现在，百舸照旧具备了空闲的10万卡集群部署和经管本事，在横跨几十公里的集群上，百舸可以把单一测验任务的性能折损适度在4%以内，也让百度智能云成为GPU云厂商中纳管超大范围集群的一个标杆。

第二重校正：精益化，PD分袂让AI应用随时在线。

如今，企业对算力的需求发生了宽阔更正，从曩昔侧重于模子测验，舒缓转向更注视及时性的推理和后测验阶段，有点像城市交通发展到了一定阶段，新路（测验）就建得少了，拔帜树帜的是堕落车流拥挤（推理优化）。

不论是B端用户如故C端用户，如果大模子想考十几秒才给回报，用户都会不耐性径直退出，这即是“首token延伸”。为了尽可能得志用户“即时反馈”的严苛条目，就迫使模子厂商搜索枯肠。不可忽略的是，算力基础法子的优化，就像是把路铺平、修上护栏，进步系统的处理本事和并发效率，从而让在线行状像上高速相似顺畅运行，大大缩短延伸率。

PD分袂加快期间成为云厂商们竞相展示的“王牌”，而百度智能云的PD分袂式推理基础法子，凭借全局优化本事脱颖而出。

物理收罗层面，百度智能云打造了HPN（High-Performance Network）高性能收罗集群，领有自合适路由算法，像智能导航相似，幸免了大范围数据传输时（如Alltoall）的流量皆集问题。全新的拓扑结构，如同再行筹算的城市路网，缩短通讯瓶颈，使带宽灵验性达到90%以上，让交换机转发延伸大大缩短，集群传输又快又稳。

流量经管层面，百度智能云自研的高性能KV Cache传输库，为高优先级部队预留带宽，十分于“特等车辆优先通行通谈”；分层传输遐想支握多层KV Cache复用，十分于潮汐车谈，左证数据流量生动诊治传输通谈，进步通行效率，况且训推任务互不插手，货车轿车“各走各谈”，已毕了DCN弹性RDMA满带宽传输，让数据高效畅达。

通讯组件层面，百度智能通过Alltoall算子优化和动态冗余内行编排，优化诡计流与通讯流，确保集群中通盘GPU通讯期间一致，权臣进步隐约量和性能。

以往企业使用大模子时，常因算力瓶颈、数据传输慢等问题受限，如同灌溉管谈不畅影响了营养运输。而百度智能云将收罗基础法子、通讯组件与表层业务深度交融，用心修建了一套高效的“算力管网”，可以让数据、算力在不同行务场景间快速流动，好像助力五行八作快速应用大模子，处理企业智能化转型确当务之急。

第三重校正：多元化，一云多芯筑起算力可靠围墙。

限卡又限云，照旧是好意思国遏制中国AI发展的明牌。绝对依赖英伟达风险太大了，外洋所在变化常常，供应链随时可能被卡脖子，企业构建算力集群，不可押注在单一芯片，会谈判一云多芯。但采购国产芯片漫步风险，异构芯片纳管与并行诡计效率低，不同类型芯片之间协同使命贫乏重重，算力资源阔绰严重。

在国内算卡供应弥留确当下，让万般化芯片好像协同测验，好奇无谓多说。“一云多芯混训”的本事，也让百度智能云成为多数企业GPU云的聘用，比如长安汽车。

走进长安汽车智算中心，就像是一座算力工场，依靠百舸平台与长安汽车自研的 “星环平台”，将算力资源阐扬到极致。曩昔，行状器像低效运转的老旧分娩线，大都算力被闲置阔绰。如今，百舸升级的智能调遣系统，集群平均算力使用率飙升至90%，综联合源左右率进步50%。

再比如某个头部城商行。对银行来说，业务可握续性至关进军，如果用户走访不了系统、办不了业务是毛病事故。既要自主可控的异构算力集群，又要踏实可靠的行状保险，对城商行的基础法子冷落了宽阔挑战。该城商行与百度智能云合作，通过异构平台在算力感知的情况下，进行长入调遣，让不同芯片不再“打群架”，可以被搀杂经管、搀杂使用，从而兼顾了算力安全与业务踏实。

再到百度自建的国产昆仑芯 P800 大型单一集群里一看，资源左右率更是高达 98%，让每一张GPU都物尽其用。

原本，单一行状器最多容纳8张诡计卡，而昆仑芯超节点期间可以将64张昆仑芯P800皆集于单机柜，况且通讯效率堪比单一机型。跨集群层面，百度百舸买通集群内的收罗墙，已毕异构芯片互联互通。通过accelerator 详细层，屏蔽底层芯片各异，通过长入接口已毕异构芯片的“即插即用”；收受自合适并行器具，找到最优的切分策略，左证芯片性能自动分派任务，减少性能亏空。最终已毕了近乎无损的“万卡级多芯混训”本事。

在万卡范围上，百舸可将两种芯片搀杂测验，现在一共支握 18 种以上芯片类型，绝对处理了一云多芯混训的复杂难题。

如今，经过范围化、精益化、多元化的三重期间校正，GPU云已从零落低效的“算力作坊”，升级为高效精益的“当代农场”。百度智能云也凭借在GPU云行状畛域的超卓证明，成为头部厂商中增速最快的云行状厂商。IDC最新发布的《中国智算专科行状商场文书》中，百度智能云凭借AI处理决策实施行状，成为行业第一，领跑商场。

这评释，依靠期间创新，GPU云厂商可以逃离内卷，为行业和客户创造各异化价值，让GPU云行状在企业级商场欣慰出充沛的价值。

坚握“期间精耕”，百度智能云走了一条向期间要效益、向期间要价值的良性发展之路。不仅让其在GPU云商场树立各异化竞争的壁垒，也为通盘行业从轻佻走向精益，从内卷走向高质地发展，提供了一个很好的参考样本。

那咱们不禁要问，为什么百度智能云能开脱内卷的旋涡？是什么让百度智能云有所不同？

一方面，是百度的期间基因，经过多年在AI畛域的发展，百度及百度智能云照旧打造了一系列高度适配AI业务、具有独到创新本事的“尖刀型”期间，有劲地处理GPU云集群开导中的痛点与难点。

另一方面，是百度智能云的发展旅途明晰，向期间要谜底、不走内卷化之路的政策聘用是明确的，这也决定了百度智能云必须在期间高下苦功、登天梯。面对需求侧的企业客户，以供给侧的高质地GPU云行状，回报AI范围应用的复杂算力需求；面对云商场的竞争敌手，以期间换取力带动GPU云产业的高质地发展，幸免裸金属的红海价钱战，以百舸为中枢的本事与行状，开拓更大的价值空间。

GPU云的改日，不是卷“谁更低廉”，而是看“谁敢创新”。真实的期间换取者，将赢下这场AI算力转换的主导权。