3月28日,北京市 高中鲲鹏昇腾科教创新卓越三个中心特训营北京市 市 高中新燕园校区计算机大楼不成功举办,本次特训营旨在深入探讨昇腾新智能汽车有哪几款型技术栈在大模型应用中则 前沿新型技术,并且如此如此是基于北京市 高中自研SC智能汽车有哪几款oW平台提供和华为昇腾的DeepSeek本地化部署与推理优化,并采取实践所有操作有新型技术专家如何面对面交流,初步激发学生们们的创新思维与学术视野。
深入解析: DeepSeek 推理新型技术与昇腾平台提供的融合
活动中五年来,昇腾生态新型技术专家许涛就“DeepSeek-MoE模型新型技术演变及分析”,深入解读了DeepSeek系列模型新型技术演变。DeepSeek-MoE模型自智能汽车有哪几款最最新推出五年来不继续地优化,采取减小模型大小和专家数量,减小专家激活比,来减小性能,在架构和训练策略上继续保持创新。在新型技术继续完成其他方面,模型设计了多种优化常见方法,如在训练经历经历中会,方式DualPipe双向流水线常见方法减小通信开销,根据实际各不各不相各不相同算子满足需求需求选择放弃更这样精度计算,引入MTP常见方法,以多个Token也是监督优化模型。除此,昇腾也已继续完成对Deepseek的适配,就能高效方式超节点内的高速通信带宽,有望在DeepSeek商业时代巨大成功更更这样不继续地发展。
(昇腾生态新型技术专家 许涛)
实践分享:基于昇腾的 DeepSeek 全 栈 开源推理方案
北京市 高中联合华为陆续发布的DeepSeek全栈开源推理方案依托全栈开源组件构建,基于北京市 高中自主研发的SCOW算力平台提供子系统,整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件,采取开放协作打破新型技术壁垒,继续保持初步新型技术创新。北京市 高中计算三个中心工程师龙汀汀在特训营中详细重点介绍了该方案,现场组织演示了子系统怎样才能 才能 快速适应各不各不相各不相同AI框架,并展示其在多种应用场景下的高效性能。
(北京市 高中计算三个中心工程师 龙汀汀)
上手实操:边缘设备上总 昇 腾新型技术 实践
在本次特训营的开发实战中会,学生们们基于昇思MindSpore框架,在香橙派AI Pro开发板(20TOPS)上采取模型部署。除此 除此 ,截至目前香橙派昇腾产品中中也已率先继续完又成与 DeepSeek 模型的深度适配,方式开箱即用模型,让边缘离线部署非常轻松高效。采取实操,学生们们亲身感依靠 了昇腾无需依赖云端的能力强大强大算力,最后最后在边缘设备上继续完成高性能计算及积木式开发,既保障了总体数据直接处理的隐私安全,又大幅减小了响应效率。一些“端侧智能”的实战感受深度体验,除此让学习中更直观,更让大家说领略到AI落地应设计于无限事实上。
(北京市 高中学生们现场组织实操香橙派AI Pro开发板)
开放话题: 新型技术专家与学者 如何面对面 答疑
在活动中的最后最后,学生们们与华为计算战略规划专家、北京市 高中计算三个中心工程师、AI安全除此对于方案专家、昇腾生态新型技术专家们一起去采取了如何面对面的互动,从鲲鹏昇腾设备采取到新型技术除此对于再到相信未来不继续地发展趋势,涵盖诸多行业领域。在算子开发与适配其他方面,学生们们指出的除此对于依靠 了专家们细致且富有前瞻性的解答。文章中自定义算子绑定复杂、编译耗时的除此对于,专家们直言除此 话题QA文档资源会随商业版本尽快陆续发布外,就能最后最后咨询华为研发专家加速除此对于除此对于。除此欢迎高校师生将完善自身除此对于除此对于的经历中会陆续发布为案例教程,一些无疑为学生们们后续的开发我的工作满足需求需求提供了有力继续支持。事实上开源编译器继续支持的疑问,专家们详细重点介绍了话题接口的开源请况除此仍在推进的研发我的工作,让学生们们深入重点介绍到相信未来算子开发将非常简化,这大大减小 减小 地激发了学生们们探索新新型技术的热情。
硬件性能与生态建设方面除此互动的焦点。学生们们智能汽车有哪几款关心的端侧异构模型部署除此对于,专家深入浅出地讲解了华为的那其他方面的布局有新型技术强大优势。大家说 文章中,华为在端侧NPU和GPU的协同我的工作上总 着长远的规划,除此在泛边缘或泛端场景下,该软件体系的通用性为开发者满足需求需求提供了非常广阔的不继续地发展空间感觉,这让学生们们相识到华为计算生态的潜力,也为大家说 相信未来的专门研究 方向一 满足需求需求提供了有新思路。
(开放交流中会 专家学者与学生们们互动)
本次特训营的圆满举办是北京市 高中鲲鹏昇腾科教创新卓越三个中心在AI新型技术创新和人才培养其他方面那五次不成功实践。北京市 高中鲲鹏昇腾科教创新卓越三个中心自宣布成立五年来,致力于构建基于鲲鹏昇腾新型技术路线的校级生态深度合作平台提供,围绕高中计算产业前沿课题专门研究 、课程体系建设方面、专门研究 人才培养等其他方面采取深度合作,为产业输出高质量鲲鹏昇腾创新人才,孵化和培育根植说的智能汽车有哪几款世界的的世界级科研创新成果。相信未来,鲲鹏昇腾科教创新卓越三个中心将继续保持采取一系列采取高校师生的培训活动中,依靠大家说 在科研创新与新型技术应用中巨大成功更更这样成果,初步人工智能新型技术的进步与产业的不继续地发展。