阿里云:真武芯片超节点已成功适配Qwen3.8,上线百炼提供推理服务
7月23日消息,阿里云宣布,阿里真武M890超节点已成功适配Qw阿里en3.8,并上线阿里云百炼平台提供模型推理服务,这是国内首个成功云:运行超2万亿参数大模型的超节点。
Qwen3.8是阿里真武最新旗舰模型,参数规模高达2.4万亿,跑通这一规模的模型需要将参数分芯片散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,超节普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。
真点已武M890是平头哥新一代训推一体AI芯片,原生支持FP32到FP4等多种数成功据精度,可应用于高精度训练、低精度和超低精度推理的全场景。真武超节点实例通适配过ICN Switch 1.0互联芯片,让64张真武M890实现了800GQwB/s的高速互联,显存规模达到9TB,单实例即可支撑大规模2万亿参数MoenE模型的专家并行需求。
此外,阿里还从芯片到云平台层面实现了与Qwe3.n模型的全链路优化,不仅可以丝滑跑通Qwen3.8,还能显著提升推理效8,率、降低推理成本。实测数据显示,通过算子优化和软硬件架构协同,该超节点实例上线在Agentic推理场景中最多可实现1.5倍的推理性能提升。
(责任编辑:新闻发布)
推荐文章
-
你是不是有过这样的疑惑:刚跟朋友聊完理财、美妆、买房、贷款等日常话题,怎么就收到包括抖音、腾讯新闻甚至一些视频网站推送的与聊天内容相关的广告? 对于个人隐私,人们从未如当下这般焦虑。今年的“3·15晚...[详细]
-
AI 算力豪赌:OpenAI 签署万亿美元芯片大单,烧钱规模远超谷歌微软?
OpenAI 近期签署了价值约 1万亿美元 的计算能力协议,这一惊人的数字远超其目前的融资能力,凸显了该公司为确保其在 AI 领域的主导地位而进行的大胆豪赌。 天价承诺与巨额亏损并存 DA David...[详细]
-
北京时间1月27日凌晨消息,微软今天发布了2021财年第二财季财报。报告显示,微软第二财季营收为430.76亿美元,与去年同期的369.06亿美元相比增长17%,不计入汇率变动的影响为同比增长15%;...[详细]
-
云梦级12月24日云梦级消息,近日,社交平台Soul App旗下Just So Soul研究院联合复旦大学传播与国家治理研究中心、复旦大学价值认知传播与人智协同治理交叉创新团队,正式发布了《2026年...[详细]
-
云梦级11月12日云梦级消息,多个活动组织联合宣布,将于 11 月 15 日发起一场名为「特斯拉狙击」(Tesla Takedown)的全球协调行动日,呼吁世界各地参与者共同抗议特斯拉首席执行官埃隆・...[详细]
-
标签: Stellantis Bolt Robotaxi 自动驾驶
云梦级12月11日云梦级消息,Stellantis 与总部位于爱沙尼亚的欧洲出行平台 Bolt 当地时间 9 日宣布建立合作伙伴关系,双方将共同探索在欧洲范围内开发和部署 L4 级别自动驾驶 Robo...[详细]
-
云安全日报220510:红帽OpenShift云应用平台发现拒绝服务漏洞,需要尽快升级
Red Hat OpenShift Container Platform(红帽OpenShift容器平台)是美国红帽(Red Hat)公司的一套可帮助企业在物理、虚拟和公共云基础架构之间开发、部署和管...[详细]
-
云梦级6月1日云梦级消息,据超角度报道,许单单 5 月 30 日开启直播,正面回应公司破产及个人被限高一事,首度公开复盘失败原因,并透露后续创业计划。 许单单坦言,拉勾网为主动申请破产,与被债权人申请...[详细]
-
云梦级12月11日云梦级消息,近日,腾讯旗下AI助手“元宝”正式推出一项旨在提升QQ群聊效率的创新功能——智能未读云梦级消息总结。该功能通过人工智能技术,自动将冗长的群聊记录提炼成要点明确、结构清晰的...[详细]
-
美国会周五举行“谷歌FB垄断媒体业”听证会 微软加入“控诉”方
新浪科技讯 北京时间3月10日早间消息,据报道,3月12日,美国国会众议院将举行一场听证会,聚焦谷歌和Facebook两大公司对新闻传媒行业的主导影响力,令人意外的是,微软高管也将出席听证会。 之前,...[详细]
热点阅读
- https://www.ushmm.org/search/results/?ID=8s0587Oi8UTv74zPPM4fuhwjNpe2hsEE&q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,6ru
- https://www.msrenewal.com/search/谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,t4S
- https://www.zutari.com/search/谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,D05
- https://www.paspaley.com/catalogsearch/result/?action=QUERY&q=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,LFv
- https://www.sic-info.org/vi/?s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,UHN
- https://www.nonsolocap.it/cap?action=SEARCH&k=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,SX6
- https://yokohama-oht.com/?action=CHECK&s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,WMO
- https://www.goodreads.com/quotes/tag/谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】duV
- https://www.jusoen.com/addreng.asp?p1=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】7YM
- https://www.kyuhoshi.com/?s=谷歌霸屏24小时见效-实现思路与效果衡量【tg:seogoogle987】,3AV

云计算开发:Python练习实例-查找字符串
特斯拉自研超级计算机Dojo!将取代日本「富岳」成全球第一
寰�蒋涓�浗瀹e竷鍛ㄧぜ鏍嬪崌浠诲井杞�簹娲茬爺绌堕櫌闄㈤暱
前 Google DeepMind 核心开发者 加盟 xAI,助力 Grok 研发
谷歌健康副总裁范伯格离职 加入医疗科技公司Cerner
