当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

6个月前 (02-25)Deepseek最新资讯353

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

Ai赋能,义乌老板已用DeepSeek卖货……

Ai赋能,义乌老板已用DeepSeek卖货……

如今,人工智能以极快的速度走进我们的生活,浙江义乌小商品市场的商户们也紧跟浪潮,玩出了新花样——利用DeepSeek大模型,他们不仅成功将商品推向国际市场,还“秒学”36种外语,成为了“国际交流小能手...

八旬院士陈润生:科研征程上的“预言家”与开拓者

八旬院士陈润生:科研征程上的“预言家”与开拓者

在当今科技飞速发展的时代,一位八旬院士的“神预言”引发了广泛关注,他就是DeepSeek诞生背后那位令人敬仰的“预言家”——陈润生。当被问及这一预言时,陈润生院士谦逊地表示:“真没料到会成预言家。”这...

重庆首个“DeepSeek+市场监管”成果投入一线应用

重庆首个“DeepSeek+市场监管”成果投入一线应用

本报讯 (何艾彬 记者谢 旺)日前,市民张女士前去重庆市江津区市场监管局办事,恰逢局长办公日,张女士发现,通过“津市通”,即可了解药店办理地址变更的所有流程。这也是重庆首个“DeepSeek+市场监管...

基调听云全面接入 DeepSeek,开启可观测性智能新时代

基调听云全面接入 DeepSeek,开启可观测性智能新时代

在数字化转型的浪潮中,企业对信息技术的依赖程度不断加深,从日常办公到核心业务,信息技术贯穿企业运营的各个环节。随着企业 IT 架构日益复杂,微服务架构与多元云服务被广泛应用,IT 环境变得错综复杂,可...

AI应用激活算力需求 昇腾大EP推理方案助力DeepSeek部署

AI应用激活算力需求 昇腾大EP推理方案助力DeepSeek部署

随着各行各业加速接入国产开源大模型DeepSeek,如何应对人工智能大范围落地应用带来的庞大算力需求,成为当下国内算力产业必须面对的机遇与挑战。在这样的大背景下,昇腾大EP(专家并行)推理方案凭借其独...

DeepSeek在业务流程优化中的应用案例有哪些?

DeepSeek在业务流程优化中的应用案例有哪些?

DeepSeek在业务流程优化中的应用案例有哪些?思考和行动过程用户希望了解DeepSeek在业务流程优化中的应用案例。DeepSeek作为一款开源的人工智能模型,具备强大的数据处理和分析能力,可能在...