当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“点燃”国产芯片 FP8能否引领行业新标准?

6小时前Deepseek最新资讯19

  近日,DeepSeek宣布其新一代模型DeepSeek-V3.1采用了UE8M0 FP8 Scale参数精度,并明确指出该精度标准是针对即将发布的下一代国产芯片设计。这一消息迅速在资本市场引发强烈反应,

  不过,在近两日举办的2025算力大会上,据《科创板日报》记者的现场采访和观察来看,大家在聚焦国产算力时,DeepSeek的FP8精度标准虽被讨论,但业内人士的情绪显然没有资本市场那么高亢。技术派更关注FP8在模型训练、推理及生态标准化上的实际价值与挑战。

  摩尔线程AI Infra总监陈志向《科创板日报》记者称,过去,大模型训练推理普遍使用FP32(32位浮点数),随后逐步过渡到FP16(16位浮点数)混合精度,以减少存储和通信开销,FP8则进一步将数据宽度压缩至8位。

  “FP8最直接的优势是算力效率翻倍,另一个好处是降低降低训练和推理过程中网络带宽的通信量。”陈志称,比如原本传输一个FP32数值需4字节,现在仅需FP8仅需要1字节,虽然网络物理带宽本身未必扩大,但单位时间内可传输信息是增加的,同时也让存储要求降低。这意味着在相同功耗下,AI芯片可训练更大的模型或缩短训练时间。

  在2025算力大会现场,另一名不愿具名的国产芯片厂商从业人员告诉《科创板日报》记者,用类似FP8低精度训练推理虽然快,但也容易因数值范围太小导致计算出错。而且,不同计算对精度要求不同,像矩阵乘法这类操作对精度不敏感,可以用较低的精度(如FP8)计算;而像累加或某些函数则需要较高精度。因此,业内通常采用“混合精度训练”,根据计算类型动态选择不同的精度,兼顾效率与准确。

  DeepSeek-V3.1使用UE8M0 FP8 Scale 的参数精度,被视为国产AI芯片即将迈入新阶段的信号。受此刺激,寒武纪等芯片类上市公司股价大幅上涨,但产业界人士态度更为审慎。

  在业内看来,DeepSeek此举无疑给了国内算力厂商的机会,FP8代表了算力优化的正确方向,大模型训练推理不只是堆砌硬件,但它也并非“灵丹妙药”,更需要关注的是实际落地效果。此外DeepSeek的这一动作,后续是否会成为大模型训练与推理的新标准。

  在陈志看来,大模型对精度的容忍度越来越高,从FP32到FP16,再到FP8,是整个行业逐步验证过的路径。DeepSeek这次验证了FP8在大规模模型上的可行性,未来在FP8这一标准乃至更高精度上去做研究或者做训练也是一个很重要的方向deepseek

  当然,这一趋势也意味着,国产算力生态需要同步升级,包括芯片、框架、算力平台到应用层的闭环适配。

  陈志表示,精度标准一旦变化,上下游厂商也需要联动优化。摩尔线程已提前布局FP8研究,既是技术储备,也是为了在生态调整中占据主动。

  他进一步说到,大模型训练推理的核心瓶颈不仅是算力规模,还包括能耗、稳定性和集群利用,“国内万卡规模集群已有部署,但还要向大智算集群演进,解决效率与容错问题,确保集群可靠性。简单‘堆卡’并不能完全满足需求,提高单卡效率与集群调度优化同样关键”。原文出处:DeepSeek“点燃”国产芯片 FP8能否引领行业新标准?,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek“点燃”国产芯片 FP8能否引领行业新标准?” 的相关文章

亨利当年是怎么突然开窍的?

亨利当年是怎么突然开窍的?

  当时的意甲真的好看也是那时喜欢看足球的,亨利在尤文是没战术地位踢边锋,但他身体条件和技术是相当不错的,当年在边锋位置上他踢的很一般,皮耶罗打的位置更适合亨利,但有一说一巅峰的皮耶罗很厉...

【行业资讯】RPA到AI:商业银行报表实践的全面智能化升级——从三井住友银行到D

【行业资讯】RPA到AI:商业银行报表实践的全面智能化升级——从三井住友银行到D

  在商业银行的运营版图中,报表管理一直是极为关键但也极为繁琐的板块。从手工记录到数字化探索,这一领域经历了漫长的发展历程。近年来,随着金融科技的飞速发展,商业银行报表实践正迎来一场由机器...

腾讯元宝接入DeepSeek V3.1,Kimi模型速度达每秒100 Token

腾讯元宝接入DeepSeek V3.1,Kimi模型速度达每秒100 Token

  8月23日AI智榜日报: 腾讯元宝接入新版DeepSeek V3.1,AI响应速度再升级; Kimi平台推出性能更强的kimi-k2-turbo-preview模型,输出速度飙升至每秒...

DeepSeek 缺席 WAIC 却成焦点?梁文锋的深度求索该何去何从

DeepSeek 缺席 WAIC 却成焦点?梁文锋的深度求索该何去何从

来源:大模型之家今年的世界人工智能大会(WAIC)现场有个挺有意思的现象:DeepSeek明明从未到场,却成了绕不开的“隐形主角”。这种“存在感”首先体现在技术对标上——阶跃星辰在大会前一天发布的 S...

在大巴黎时,你们叫人家姆甜甜;在皇马时,你们叫人家龟夫人

在大巴黎时,你们叫人家姆甜甜;在皇马时,你们叫人家龟夫人

  姆子在皇马态度其实已经端正很多了,至少没有干出进攻端跑了一半就撂挑子不干了这种惊世骇俗的名场面,还要什么自行车。   姆子在皇马态度其实已经端正很...

Deepseek推荐全国旅游百强区第23名:江苏苏州市吴中区

Deepseek推荐全国旅游百强区第23名:江苏苏州市吴中区

  日前,全国县镇发展研究课题组、天和经济研究所县镇发展研究院联合发布了2024《全国县镇发展报告》,报告评价篇对全国县市以及包含乡村人口的市辖区旅游发展水平进行了综合评价,并发布了天和2...