会员注册 会员登陆
用户名
密 码
记注密码   忘记密码?
欢迎您访问激光与红外网! Welcome to LASER & INFRARED!
  明星企业
 
  支持单位
  展会专题
·赋能高效热管理!稀导技术...
·不用去北极圈,长春也能“...
·抢占超宽禁带先机!CSPSD ...
·哈工大代兵教授:极端环境...
·CSPSD2026报告前瞻|中南大...
·完整大纲出炉!2026首届分...
·CSPSD2026报告前瞻|山东大...
·第三届分布式光纤传感技术...
·敢为人先,追求卓越:首届...
  业界访谈
·“奖状”遥感飞机首飞四十...
·多次深入沙漠戈壁,他带头...
·王东光:以光为引,深耕太...
·一束激光贯地月 深耕致远...
·AI时代,统一智能平台将是...
·立陶宛认怂!暴涨的激光器...
·《2026出版技术趋势报告》...
·锐科激光子公司拟启动特种...
·思创激光李琦:深耕高功率...
·“激光笔”等消费类激光指...
·“80后”董事长接手锐科激...
  展会专题    
华为计算:芯模技术紧密协同,昇腾超节点全系支持DeepSeek V4
作者:cmh        来源:观察者网 
日期:2026-05-04    阅读次数:374
副标题:

   据观察者网,于2026年04月24日报道,04月24日,DeepSeek V4-Pro和DeepSeek V4-Flash正式发布并开源,模型上下文处理长度由原有的128K显著扩展至1M,实现近10倍的容量提升,首次增加了KV Cache滑窗和压缩算法,大幅减少Attention计算和访存开销,并通过模型架构创新更好地支持了Agent和Coding场景。

华为计算发文表示,昇腾一直同步支持DeepSeek系列模型,本次通过双方芯模技术紧密协同,实现昇腾超节点全系列产品支持DeepSeek V4系列模型。

昇腾950通过融合kernel和多流并行技术降低Attention计算和访存开销,大幅提升推理性能,结合多种量化算法,实现了高吞吐、低时延的DeepSeek V4模型推理部署。昇腾A3超节点系列产品也全面适配,同时为便于用户快速微调,提供了基于昇腾A3超节点的训练参考实现。

就在数天前,英伟达CEO黄仁勋在接受外媒采访时表示,假设DeepSeek V4是针对华为优化的,那将使美国处于劣势。他直言,如果建立两个生态系统——一个是只能运行在外国技术栈上的开源生态系统,另一个是运行在美国技术栈上的封闭生态系统——那将是极其愚蠢的。

DeepSeek V4发布后,华为云也发文表示,华为云MaaS模型即服务平台已为开发者提供免部署、一键调用DeepSeek-V4-Flash API的Tokens服务。在此次新模型适配过程中,华为云在系统层、算子层和集群层的关键能力上协同,分别从调度效率、计算效率和数据流转效率三个维度保障新模型快速适配与高性能落地。

昇腾950超节点重新定义长文本推理的性能天花板,实现DeepSeek V4-Pro 20ms 和DeepSeek V4-Flash 10ms低时延推理

根据华为计算介绍,基于DeepSeek V4-Pro模型,在8K输入场景,昇腾950超节点可实现TPOT约20ms时单卡Decode 吞吐4700TPS。DeepSeek V4-Flash模型,8K长序列输入场景下可实现TPOT约10ms时单卡Decode 吞吐1600TPS(注:上述Benchmark数据均基于Offine推理模式采集,不包含Serving调度和框架负载均衡影响)。

 

华为Atlas 950 SuperPoD

极低时延的实现源于昇腾950代际底层架构的三大升级:

原生精度加速:全面支持FP8、MXFP8、MXFP4等数据格式,在保证模型精度的同时,可实现内存占用降低50%+,计算能力翻倍。

稀疏访存优化:针对MoE模型的离散访存特征,通过大幅提升硬件级稀疏访存能力,有效解决了专家路由过程中的带宽瓶颈。

Vector与Cube共享Memory:创新的存储架构设计,实现了向量单元(Vector)与矩阵单元(Cube)的Memory共享,消除了大量片上数据搬运开销,极大地降低了端到端推理时延。

同时,华为计算提到,他们和DeepSeek联合定义昇腾超节点,进一步大幅提升延迟和吞吐,同时实现低成本,且兼顾万卡级别的Scale out集群规模。解决了长序列4K到1M 序列长度范围内都有低延迟和高吞吐。此架构支持基于NAND SSU的超低成本、超大容量、高性能KV Cache有效支撑支持长序列应用。

 

昇腾A3超节点系列产品,DeepSeek V4-Flash模型单卡Decode吞吐2000+TPS

Atlas 900 A3 SuperPoD液冷超节点及Atlas 800 A3风冷超节点采用平等架构、全局内存统一编址、点对点互联带宽达784GB/s。提供32到384多种规格满足不同业务需求,昇腾超节点是国内唯一成熟规模商用的超节点产品,满足互联网、运营商、金融等行业对大模型推理超高吞吐、超大并发的极致性能需求。

基于昇腾A3 64卡超节点结合大EP模式部署,DeepSeek V4-Flash模型,8K/1K输入输出场景,基于vLLM推理引擎可实现2000+TPS的单卡Decode吞吐,单卡吞吐持续提升。针对DeepSeek V4-Pro模型,昇腾A3同步支持推理部署,性能持续优化中。

 

PyPTO编程新范式与TileLang方案同步开源

为了解决自定义算子开发门槛高、周期长的痛点,昇腾CANN推出了PyPTO编程范式。PyPTO提供完善的Python API,使开发者能够以符合Python习惯的语法进行算子开发。

高效的算子开发:PyPTO依托内置高级编译优化,可自动完成流水编排与内存管理,使开发者无需关注硬件细节而专注于计算流表达,实现DeepSeek V4新一代模型算子开发周期可缩短至天级。

高性能Kernel自动生成:针对Attention、Compressor、mHC等复杂逻辑算子,PyPTO可自动生成高度优化的Kernel,避免开发者手动处理繁琐的同步与数据搬运,显著缩短从算法验证到部署落地的开发周期。

PTO ISA虚拟指令集跨代兼容:PyPTO基于PTO虚拟指令集(PTO ISA),实现了对硬件新特性的“零感适配”,针对不同代际芯片统一指令接口,实现了同一套算子代码,在不同代际芯片上的兼容实现。借助毕昇编译器的VF(Vector Fusion)自动融合能力,可在micro kernel级别实现更优融合。

TileLang社区生态:TileLang-Ascend是TileLang针对华为昇腾平台深度优化的实现,分别对应Tilelang-Ascend的Expert和Developer开发模式,提供AscendC基础指令和PTO AS两种对接层次,为各种编程前端语言和编译器提供多层开放接口。DeepSeek V4模型相关实现已在TileAI开源社区正式发布,后续将持续推进性能优化与功能迭代。


    
发表评论  
姓名: 匿名
主题:
请点击查看全部评论!  注册新用户
  产经透视
 
·空芯光纤赛道持续升温,“果链”巨头加速布局...
·一笔授权费近9000万,这家光学企业开启“收租...
·原材料涨价550%!对激光器厂商影响多大?
·光智科技:红外国产替代领头羊,股价飙涨151%...
 
  产业资讯
 
·一束光成了原子级“尺子” 可对材料内部微小变...
·《2026中国激光产业发展报告》在光谷发布
·一文看激光赋能医疗与美容产业,实现精准治疗...
·这一次,领先!兴弘光电全球破局,重新定义激...
 
   
  技术动态
 
·新型有机分子实现超窄带发光
·由激光写入的磁存储材料切换数据提速千倍
·新型三维光纤微镊面世
·南京大学团队实现高维光子量子门突破 补齐实用...
 
  技术专题
 
·OEA丨宽波段窄线宽可调谐片上混合集成激光器
·200年前“存争议”的光斑,撬动未来光存储技术...
·新型量子传感装置能有效抵消激光噪声 验证了长...
·华东师范大学曾和平、黄坤团队:宽带中红外双...
 
 
首页 激光与红外杂志 产业报道 光电技术 企业展台 产品展示 供求市场 展会专题 最新公告 关于我们
您是 位访问者
版权所有:激光与红外杂志 京ICP备05019986号 Copyright©2004 www.laser-infrared.com All Rights Reserved