VicroCode
让代码创造价值
VicroCode是一个轻量级代码在线发布、交易平台,开箱即用,免部署、免服务器、免备案,支持接入智能体、通用管理系统、游戏等多种项目
稍候片刻,您可先学习AI编程手册
正在加载中...

市场信息

华为:基于昇腾超节点训练的星辰轻量级代码智能体大模型 Xing4.0-29B 发布

IT之家 9 月 20 日消息, 中电信人工智能科技有限公司于 9 月 17 日正式发布新一代星辰大模型 Xing4.0-29B-A4B 。该模型聚焦复杂任务理解、任务规划、工具调用和自主执行等能力,支持长上下文处理,可应用于代码开发、数据分析、办公自动化及生活服务等场景。 华为中国官方昨晚宣布,Xing4.

www.ithome.com · 2026-09-20T02:24:08+00:00

IT之家 9 月 20 日消息, 中电信人工智能科技有限公司于 9 月 17 日正式发布新一代星辰大模型 Xing4.0-29B-A4B 。该模型聚焦复杂任务理解、任务规划、工具调用和自主执行等能力,支持长上下文处理,可应用于代码开发、数据分析、办公自动化及生活服务等场景。

华为中国官方昨晚宣布,Xing4.0-29B-A4B 总参数 29B,激活参数仅 4B, 是国内首个基于昇腾 Atlas 900 A3 SuperPoD 液冷超节点与昇思 MindSpore 框架完成训练的百亿参数大模型 ,面向复杂工程任务进行了深度优化。该模型采用新一代架构设计,进一步提升长程任务处理和多步骤执行能力,能够根据用户提出的目标自主规划任务路径、调用工具并完成复杂任务。

华为官方表示,模型的中高阶代码生成与智能体执行,是对长程上下文理解、复杂推理规划、工具调用协同的综合考验。华为团队与中电信团队紧密协同,从数据体系、模型架构、训练工程到强化学习,进行了系统性攻坚。

数据基座: 围绕预训练与后训练全生命周期,建设涵盖数十万亿词元的数据体系。预训练阶段完成 PB 级多源异构数据清洗,引入海量智能体行为轨迹与结构化知识图谱。

后训练阶段搭建高并发沙箱容器,构建端到端长程任务合成数据,并建立自动化校验机制保障数据正确性。架构设计: 专为长程 Agent 任务设计,MLA 多头潜变量注意力压缩 KV 缓存;MT 多 Token 预测增强生成连贯性;mHC 流形约束超连接解决训练数值不稳定的问题;Muon 与 QK-Clip 优化器保障训练稳定。

训练采用分阶段递进策略,从 4K 逐步扩展至 32K/128K/256K 序列长度,系统性构建长程能力。工程优化: Xing4.0-29B-A4B 在昇腾超节点集群上通过多层次软硬件协同优化实现训练性能提升 96%,近翻倍突破:基于 MindSpore 全栈适配 mHC 多残差连接与 DSA 长序列机制,针对细粒度 MoE(64 路由 / Top4 激活),通过专家负载均衡、Grouped GEMM、通信计算重叠及 DVM 图算融合,吞吐提升 32%;层级与算子级选择性重计算再提升 19%;自研 Ascend C mHC 融合算子解决 Sinkhorn 碎片化,计算效率提升 30%,整网吞吐再提升 25%。

多专家强化学习: 基于昇腾生态完成 Slime 强化学习框架适配,面向 Agent、Coding、Reasoning 开展多专家强化学习训练,通过 MOPD 技术实现多专家能力高效融合,进一步提升复杂推理与智能体任务表现。目前,昇腾已支持 40+ 个业界头部模型完成原生训练,也是国内唯一支持商用大规模预训练,并训练落地 SOTA 大模型的厂商。

IT之家付开源地址如下: GitHub: /ai-market-guide/ HuggingFace: /ai-market-guide/ 魔搭: /ai-market-guide/ Gitee: /ai-market-guide/ 魔乐: /ai-market-guide/

返回 AI 市场导读

来源:ithome.com