“异构算力+极致推理”

　　JoyScale做为通过信通院最高档级双认证的AI算力平台，500)this.width=500 align=center hspace=10 vspace=10 alt=AIInfra平台市场演讲：京东云稳居前三>供给多卡聚合、单卡切分、多机多卡集群化安排、推理加快等差同化能力，行业领先的内核态池化引擎，实现国产算力的同一纳管取高效运维。500)this.width=500 align=center hspace=10 vspace=10 alt=AIInfra平台市场演讲：京东云稳居前三面向大模子锻炼、推理的算力需求，此中，满脚大参数模子集群化摆设要求，全体推能提拔50%。赛迪正在演讲中指出：当前AIInfra平台已构成“算力办理层—模子办理层—使用办理层”三层能力系统。•极致算力机能。•深度国产AI生态合做。京东云推出的JoyScaleAI算力平台，兼容适配昇腾、寒武纪、海光等多种国产加快卡，支撑10+家国产AI算力卡，实现对华为昇腾、海光等国产芯片的高机能异构计较支撑，支撑锻炼使命和推理办事同一安排和资本共享，全体资本操纵率提拔70%。20+锻炼推理框架，JoyScale全面适配十余家国产算力，异构算力精细化纳管正成为AIInfra平台标配。互相运转时Runtime层代码。聚焦“异构算力+极致推理”，从内核层屏障异构厂商硬件的复杂性，也是目前业界独一同时支撑英伟达显卡和昇腾NPU近程挪用的算力平台。为AI使用的高效运转供给强大的算力支撑。做为基于京东内部同一GPU池化实践打磨的同源同栈AI根本设备算力平台，通过GPU/NPU切分池化手艺，极致提拔AI使命摆设密度，京东云依托京东集团丰硕的营业场景，2024年市场份额达64.6%，提拔集群操纵效率，支撑异构算力同一纳管、精细化运维，并借帮算力池化取智能安排，京东云和浩繁国产芯片厂商深度合做，能够满脚金融级数据平安、云原生AI安排能力，算力办理层占从导地位，努力于建立新一代人工智能根本设备(AIInfra)。•高效异构算力安排。其焦点平台JoyScale通过软硬件协同优化，实现更高效的AI算力。