加速大模型落地,浪潮信息这场沙龙探讨了DeepSeek部署
近日,浪潮信息在深圳举办“智算无界 探索未来”沙龙活动,10多家互联网行业头部企业的IT技术专家参与。本次沙龙活动还为互联网用户的多样化业务场景提供定制化部署建议,加速大模型技术向产业端规模化应用。
浪潮信息AI产品部解决方案总监杨振宇在《DeepSeek大模型:技术突破与行业赋能》的主题演讲中指出,浪潮信息围绕大模型应用落地推出元脑企智一体机,搭载企业大模型开发平台“元脑企智”EPAIdeepseek,为大模型落地应用提供高效、易用端到端开发平台,帮助高效开发部署生成式AI应用,支持DeepSeek模型的快速服务部署,目前已经在制造、教育、医疗等多个行业落地应用。
DeepSeek R1是长思维链模型,具有短输入、长输出的应用特点,推理解码阶段依赖更高的显存带宽和更低的通信延迟,单机部署是当前快速使用DeepSeek-R1满血版的性价比选择,多机分布式部署组网复杂度和成本大幅提升,PD分离部署方案软件栈成熟度低、技术门槛较高。
在DeepSeek加速行业AI应用的过程中,浪潮信息推出了DeepSeek+高端制造、智慧教育、智能医疗等方案,同时面向多元算力的需求,多款元脑R1推理服务器可支持DeepSeek全系列模型的单机本地部署。
会上,浪潮信息工程师展示了如何基于元脑企智企业大模型应用开发平台EPAI玩转DeepSeek。元脑企智企业大模型开发平台EPAI,具备“上手快”“精度高”“易部署”“安全可靠”四大特点,能够将企业的大模型应用开发时间周期缩短至一周,帮助企业高效开发部署生成式AI应用、打造智能生产力。
在AI大模型快速发展的浪潮下,大模型的行业落地应用仍面临重重挑战。会上,与会专家也探讨了 DeepSeek 在算力系统与核心技术上的突破。原文出处:加速大模型落地,浪潮信息这场沙龙探讨了DeepSeek部署,感谢原作者,侵权必删!