(2025-2-28热点)-DeepEP开源库发布

 2025-07-01  阅读 22  评论 0

摘要:2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于MoE模型训练和推理的开源EP通信库。特点有:高效的全员沟通;节点内和节点间均支持NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;原生FP8调度支持;灵活的GPU资源控制,实现计算-通信重叠。

2月25日,DeepSeek官宣,今日开源代码库为DeepEP,它是首个用于 MoE 模型训练和推理的开源EP通信库。

特点有:高效的全员沟通;节点内和节点间均支持 NVLink和RDMA;用于训练和推理预填充的高吞吐量内核;用于推理解码的低延迟内核;

原生 FP8 调度支持;灵活的GPU资源控制,实现计算-通信重叠。

版权声明:本站内容为网页知识大全所有,严禁复制,转载,其他部份为用户投稿,如有侵权请速告知,我们将会在24小时内删除;

原文链接:http://clewo.net/xuexizhishi/286428.html

发表评论:

管理员

  • 内容2389
  • 积分0
  • 金币0
关于我们
网页设计类专业知识都可以到这里发布,网页知识大全(clewo.net)
联系方式
电话:
地址:广东东莞
Email:admin@qq.com

Copyright © 2025 网页知识大全(clewo.net) Inc. 保留所有权利。

页面耗时0.0316秒, 内存占用1.78 MB, 访问数据库16次

粤ICP备13075863号