首页 热点 业界 科技快讯 数码 电子消费 通信 前沿动态 企业前沿 电商

京东云推出vGPU池化方案降低大模型推理成本

2023-08-16 07:54:38 来源 : 电商报


(资料图片仅供参考)

8月15日消息,京东云宣布,全新发布vGPU池化方案,提供一站式GPU算力池化解决方案,GPU利用率最高提升70%,大幅降低大模型推理成本。据介绍,京东云自主研发的混合多云操作系统云舰,在原有支持混合多云CPU算力池化能力基础上,针对大模型训练所需的泛算力池化能力,进一步增加了针对AI应用所需的调度管理能力,包括卡管理、节点管理、异构资源调度管理等,为包括大模型训练在内的多种AI应用,提供一站式算力池化解决方案,从而全面提升资源利用率。

标签:

相关文章

最近更新
note是什么意思 2023-08-16 07:16:32
流动摊点压上斑马线 2023-08-16 07:07:09
哈三中前身 哈三中吧 2023-08-16 06:56:36
舞动泉城 2023-08-16 06:48:52
羊肉焖芋头做法? 2023-08-16 06:41:53