当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

6个月前 (02-26)Deepseek最新资讯362

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


标签: DeepSeek

“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

怎么评估 Deepseek 模型的性能?

怎么评估 Deepseek 模型的性能?

怎么评估 Deepseek 模型的性能?要全面评估DeepSeek模型的性能,可以从以下几个关键维度进行分析:模型性能:准确性:评估模型在特定任务上的表现,如问答、翻译、文本生成等。准确性是衡量模型能...

著名作家邱华栋评价DeepSeek:“写作还处在中等偏下水平”

著名作家邱华栋评价DeepSeek:“写作还处在中等偏下水平”

(来源:大江网-江南都市报 )“我认为DeepSeek的写作还处在中等偏下水平……”3月15日,中国作协副主席、著名作家邱华栋登上南昌市图书馆“豫章讲坛”,为南昌读者带来了“写作的长路没有尽头”的主题...

法律服务平台+DeepSeek!AI引领法律服务全面升级——大安市司法局打造智慧司法新标杆

法律服务平台+DeepSeek!AI引领法律服务全面升级——大安市司法局打造智慧司法新标杆

为满足群众日益增长的法治服务需求,大安市司法局率先引入DeepSeek人工智能技术,全面革新公共法律服务、普法宣传、人民调解等核心业务,推出公共法律服务掌上平台覆盖线上、公共法律服务智能终端覆盖线下,...

DeepSeek在政务服务智能审批中有哪些应用场景

DeepSeek在政务服务智能审批中有哪些应用场景

DeepSeek在政务服务智能审批中有多个应用场景,这些场景充分展示了其在提升政务服务效率和质量方面的潜力。以下是DeepSeek在政务服务智能审批中的主要应用场景:1. 智能咨询服务全方位智能咨询:...

上海交通大学鲲鹏昇腾科教创新卓越中心特训营DeepSeek专场圆满举办

上海交通大学鲲鹏昇腾科教创新卓越中心特训营DeepSeek专场圆满举办

央广网北京3月28日消息 3月26日下午,上海交通大学鲲鹏昇腾科教创新卓越中心特训营-DeepSeek专场在上海交通大学闵行校区图书信息楼成功举办。活动旨在基于昇腾技术的DeepSeek本地化部署实践...

科技赋能 智享办公——电脑办公与Deepseek应用技能培训

科技赋能 智享办公——电脑办公与Deepseek应用技能培训

潮新闻客户端 通讯员 黄晓霞近日,舞阳街道塔山社区联合舞阳成校组织开展了“科技赋能 智享办公--电脑办公与Deepseek应用技能培训”活动,以Deepseek为核心,讲授AI热门实用工具的操作技能,...