阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务

7月23日消息,阿里云宣布,阿里真武M890超节点已成功适配Qwen3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功运行超2万亿参数大模型的超节点。Alf热门主流游戏攻略_实用技巧_经验分享

Qwen3.8是阿里最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。Alf热门主流游戏攻略_实用技巧_经验分享

真武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数据精度,可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通过ICN Switch 1.0互联芯片,让64张真武M890实现了800GB/s的高速互联,显存规模达到9TB,单实例即可支撑大规模2万亿参数MoE模型的专家并行需求。Alf热门主流游戏攻略_实用技巧_经验分享

此外,阿里还从芯片到云平台层面实现了与Qwen模型的全链路优化,不仅可以丝滑跑通Qwen3.8,还能显著提升推理效率、降低推理成本。实测数据显示,通过算子优化和软硬件架构协同,该超节点实例在Agentic推理场景中最多可实现1.5倍的推理性能提升。Alf热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

全分类食品导航萝莉飘香是你最优质

全分类导航萝莉飘香是你最优质的选择,资源集中省去到处翻找的时间,找东西快

图片素材剪辑视频用了一年才明白的

《图片素材剪辑视频用了一年才明白的真相,当初图省事随便刷随便看,认真找内

番茄漫画过来人说说真实体验,这个

《番茄漫画过来人说说真实体验,这个编号背后藏着不少门道,用久了才发现问题

国产18元服务器空间在线平台一年运

国产18元服务器空间在线平台一年运营成本拆解,带宽服务器和人力是大头,和

九尾狐软件app过来人说说真实使用

九尾狐软件app过来人说说真实使用体验,注册流程和界面设计先摸清楚,内

九九荔枝果汁榨汁视频用了半年才懂

《九九荔枝果汁榨汁视频用了半年才懂的门道,前三个月净在瞎折腾浪费时间,摸

婷婷伊人服饰搭配綜合中文一区选错

-app及婷婷伊人服饰搭配綜合中文一区选错版本会白忙,版本更新频繁让人容

木瓜app生活娱乐二区我用了三年才

《木瓜app生活娱乐二区我用了三年才看清,当初以为画质好就是全部真相,其

久久这里只有丝袜衣服精品99正规平

久久这里只有丝袜衣服精品99正规平台辨别方法,网上同类站点数量多真假混杂

一起种花草视频网站用半年我才看清

《一起种花草视频网站用半年我才看清,当初图新鲜注册了会员,内容重复广告多