您现在的位置是:百科 >>正文
AI Infra平台市场报告:京东云稳居前三
百科884人已围观
简介近日,赛迪顾问发布《2025中国AIInfra平台市场研究报告》,凭借在异构算力调度、GPU池化管理等领域的技术创新和实践成果,京东云在“2024年中国AI Infra 平台算力管理层市场厂商竞争力象 ...
近日,台市赛迪顾问发布《2025中国AIInfra平台市场研究报告》,场报凭借在异构算力调度、告京GPU池化管理等领域的稳居技术创新和实践成果,京东云在“2024年中国AI Infra 平台算力管理层市场厂商竞争力象限分析图”中稳居产品能力前三。台市
赛迪在报告中指出:当前AI Infra平台已形成“算力管理层—模型管理层—应用管理层”三层能力体系。场报其中,告京算力管理层占主导地位,稳居2024年市场份额达64.6%,台市异构算力精细化纳管正成为AI Infra平台标配。场报京东云依托京东集团丰富的告京业务场景,聚焦“异构算力+极致推理”,稳居致力于构建新一代人工智能基础设施(AI Infra)。台市其核心平台JoyScale通过软硬件协同优化,场报实现对华为昇腾、告京寒武纪、海光等国产芯片的高性能异构计算支持,并借助算力池化与智能调度,提升集群利用效率,实现国产算力的统一纳管与高效运维。
面向大模型训练、推理的算力需求,京东云推出的JoyScale AI算力平台,作为基于京东内部统一GPU池化实践打磨的同源同栈AI基础设施算力平台,支持训练任务和推理服务统一调度和资源共享,支持10+家国产AI算力卡,20+训练推理框架,也是目前业界唯一同时支持英伟达显卡和昇腾NPU远程调用的算力平台,为AI应用的高效运行提供强大的算力支持。
JoyScale AI算力平台,具备四大核心优势:
极致算力性能。行业领先的内核态池化引擎,提供多卡聚合、单卡切分、多机多卡集群化调度、推理加速等差异化能力,满足大参数模型集群化部署要求,JoyScale作为通过信通院最高等级双认证的AI算力平台,可以满足金融级数据安全、性能和稳定性要求,整体推理性能提升50%。
高效异构算力调度。JoyScale全面适配十余家国产算力,兼容适配昇腾、寒武纪、海光等多种国产加速卡,支持异构算力统一纳管、精细化运维,云原生AI调度能力,极致提升AI任务部署密度,整体资源利用率提升70%。
深度国产AI生态合作。京东云和众多国产芯片厂商深度合作,互相开放运行时Runtime层代码,通过GPU/NPU切分池化技术,从内核层屏蔽异构厂商硬件的复杂性,实现更高效的AI算力。
支持超20种AI训推框架。训练框架支持PyTorch、TensorFlow、DeepSpeed,MindSpore等;推理框架支持vllm,sglang,MindIE,triton,TensorRT-LLM等。
当前,基于京东集团复杂场景实践,京东云已经构建了一站式大模型产品矩阵,从底层的智算基础设施,到中间层的模型服务和工具,再到上层的Agent应用开发,支持国央企快速部署大模型及AI应用,重塑AI生产力。
Tags:
相关文章
中车鲸典客车批量交付1032辆
百科靓丽的红色车身,流畅的动感溜背……12月20日,1032台中车“鲸典”系列公交车正式交付上线,即将化身“红鲸鱼”陆续亮相大连城市街头,为城市再添新名片。此次交付的中车“鲸典”系列车型,以10.5米、8 ...
【百科】
阅读更多法外狂徒张三沃尔沃什么梗
百科法外狂徒张三是什么梗?揭秘罗翔老师出圈之路?就是罗翔老师经常把罪犯的名字叫张三,一犯罪就是张三的名字,所以张三是法外狂徒就是罗翔老师经常把罪犯的名字叫张三,一犯罪就是张三的名字,所以张三是法外狂徒罗翔 ...
【百科】
阅读更多男士衬衫39相当于什么尺码
百科男衬衫上写的39是多大的码?40、38,41是多大的?欧码M=男女身高165/170,男衬衫领围39。欧码L=男女身高170/175,男衬衫领围40。欧码XL=男女身高175/180,男衬衫领围41。 ...
【百科】
阅读更多