直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:知识)
-
近日,数码博主曝光的小米手机及平板产品日本售价引发网友热议。其中,旗舰机型小米15 Ultra 16GB+1TB版本售价高达19.98万日元(约合人民币9750元) ,逼近万元大关。根据博主公布的现场 ...[详细]
-
中国消费者报北京讯记者武晓莉)近日,国家数据局综合司印发《数字中国建设2025年行动方案》以下简称《行动方案》),部署了体制机制创新、地方品牌铸造、“人工智能+”、基础设施提升、数据产业培育、数字人才 ...[详细]
-
六安:智慧充电端口方便绿色出行 编辑:文竹 来源:本网原创 ...[详细]
-
波波维奇吃饭给3万小费 老爷子土豪式消费任性发布时间:2022-04-12 22:39 来源:豫都网 我要投稿[摘要]北京时间4月26日,社交媒体上曝出了一张圣安东尼奥马刺队主帅波波维奇吃饭的账单。餐 ...[详细]
-
潜江新闻网讯日前,记者在市招商服务中心获悉,1至8月,全市招商引资共上报到资228.57亿元,完成全年计划的69.26%,同比增长5.69%。签约项目184个,合同引资488.58亿元。“今年以来,我 ...[详细]
-
据悉,男性时尚文化杂志《Fantastic Man》将正式推出中文版。《Fantastic Man》作为一本在全球时尚领域颇具影响力的杂志,一直以其对男性时尚文化的深度挖掘和独到视角而闻名。此次由上海 ...[详细]
-
近日,香港老牌奢侈品零售商迪生创建Dickson Concepts)公布了截至2025年3月31日止的财年业绩报告.报告显示,该财年迪生创建营收同比下降19.9%至19.21亿港元,归属于公司拥有人应 ...[详细]
-
川普關稅警告信一波波,輝達市值破4兆!為什麼華爾街這麼樂觀?|天下雜誌
川普繼續寄信,輝達繼續創高。您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]
-
根据《中华人民共和国食品安全法》《上海市食品安全条例》等规定,现将我局开展本市食品安全抽检相关信息公布如下:本次抽检信息涉及5大类食品,包括:调味品,蔬菜制品,食用油、油脂及其制品,食糖,酒类等。抽检 ...[详细]
-
提升服务效能│“跨省通云政务合作联盟”成立暨海曙—喜德签约仪式举行
9月24日下午,四川省凉山彝族自治州喜德县政务服务管理局与浙江省宁波市海曙区政务服务中心举行“跨省通办”签约仪式,同时,宁波海曙政务服务“跨省通办”战略合作地区共同成立“跨省通云政务合作联盟”。此次签 ...[详细]