当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek开源周第三日 发布高性能通用矩阵乘法库

2周前 (02-26)Deepseek最新资讯58

新京报贝壳财经讯(记者罗亦丹)北京时间2月26日,DeepSeek进行了其开源周第三日的发布——DeepGEMM,一个支持密集和MoE(专家混合模型)GEMM(通用矩阵乘法)的FP8 (8位浮点数)GEMM库,为V3/R1训练和推理提供支持。

据了解,通用矩阵乘法是许多高性能计算任务的核心,所以其性能优化也是大模型降本增效的重点。

DeepSeek表示,DeepGEMM在Hopper GPU(一种英伟达GPU架构)上最高可达到1350+FP8TFLOPS(每秒万亿次浮点运算),并且像教程一样简洁,可完全即时编译,其核心逻辑只有约300行代码,且在大多数矩阵尺寸上均优于专家调优的内核,并支持密集布局和两种MoE布局。


“DeepSeek开源周第三日 发布高性能通用矩阵乘法库” 的相关文章

中国石化完成全尺寸DeepSeek国产化部署

中国石化完成全尺寸DeepSeek国产化部署

2月14日,界面新闻从中国石化新闻办获悉,自国产深度推理大模型DeepSeek发布以来,中国石化组建了专门的模型部署和测评团队,2月5日完成DeepSeek在国产化算力环境上的部署,并接入长城大模型应...

青云科技:未与DeepSeek签署服务合作协议

青云科技:未与DeepSeek签署服务合作协议

每经快讯,青云科技(688316)2月12日晚间发布股票交易异常波动暨严重异常波动公告,公司旗下部分产品进行了DeepSeek的接入,但公司未与DeepSeek签署服务合作协议,与其没有业务合作,该事...

读懂DeepSeek+|DeepSeek提供的购车指南靠谱吗?

读懂DeepSeek+|DeepSeek提供的购车指南靠谱吗?

蛇年春节期间,DeepSeek横空出世。大量用户向DeepSeek抛出各种各样的问题,形成了“别管啥事儿问AI”的热潮。有人用它来制定健身减肥计划,有人用它来做投资规划,甚至还有人上传了自己股票持仓情...

科蓝软件:已成功将DeepSeek-R1模型整合至公司魔聚平台

科蓝软件:已成功将DeepSeek-R1模型整合至公司魔聚平台

人民财讯3月5日电,科蓝软件(300663)3月5日在互动平台表示,公司已成功将DeepSeek-R1模型整合至公司的人工智能应用平台——魔聚平台。具体来说,魔聚平台成功部署并全面投入使用了DeepS...

贷款有望“无人”审批 DeepSeek料重塑银行信贷体系

贷款有望“无人”审批 DeepSeek料重塑银行信贷体系

本报记者 张佳琳凭借高性能、低成本和开源属性,DeepSeek大模型引发金融科技圈的高度关注,多家银行启动了深度研究测试,还有不少银行已完成本地化部署。某城商行董事长向记者直言:“以前由于成本太高,中...

湖南召开deepseek专题研讨会,释放出了什么信号?

湖南召开deepseek专题研讨会,释放出了什么信号?

为深入分析deepseek对湖南省产业发展带来的影响和挑战,加速推动人工智能赋能新型工业化,2月17日上午,湖南省工业和信息化厅组织基础通信运营商和数字化服务商、高校和科研院所、行业协会等五大类人工智...