華為ModelEngine支持DeepSeek全系列本地部署
加入技術(shù)交流群
2月7日消息，日前，華為技術(shù)有限公司宣布，華為DCS AI全棧解決方案中的重要產(chǎn)品ModelEngine AI平臺(tái)，全面支持DeepSeek大模型R1&V3和蒸餾系列模型的本地部署與優(yōu)化，加速客戶(hù)AI應(yīng)用快速落地。
本文引用地址：http://m.ptau.cn/article/202502/466682.htm此次 ModelEngine 基于昇騰AI芯片，通過(guò)推理框架優(yōu)化和MoE存算協(xié)同，提供動(dòng)態(tài)換入換出和全局統(tǒng)一緩存，實(shí)現(xiàn)推理高并發(fā)和低時(shí)延，用戶(hù)通過(guò)ModelEngine體驗(yàn)DeepSeek的推理能力。
另外，華為官方表示，DCS AI全棧解決方案近期將上線DeepSeek體驗(yàn)環(huán)境。
評(píng)論