天数智芯携手FlagOS完成面壁智能 MiniCPM-V 4.7端侧模型Day0适配

面壁智能联合OpenBMB开源新一代端侧多模态大模型MiniCPM-V 4.7。天数智芯携手FlagOS,基于“通用GPU架构+自研智算软件栈”,在模型开源发布当日完成双规格Day0适配与推理验证,支持开发者在天数智芯通用GPU上部署使用,让前沿多模态模型在国产算力上实现开源即用。MiniCPM-V 4.7兼顾多模态理解能力与推理效率,覆盖图文理解、文档解析、图表推理及视频理解等任务。其中,35B-A3B拥有350亿总参数、约30亿激活参数,通过前瞻专家调度(LES)技术提前加载专家、并行计算与读取,减少端侧推理等待;1B版本实际参数规模约13亿,以轻量体量实现同尺寸模型第一梯队的综合表现,为不同资源条件下的多模态应用提供更多选择。

MiniCPM-V4.7 双规格性能—效率对比(官方评测)

此次适配通过vLLM-plugin-FL推理插件及FlagGems、FlagTree等组件,支持两个规格在天数智芯通用GPU上稳定运行。开发者无需修改业务代码与标准调用接口,即可开展模型部署与应用验证,减少跨平台迁移中的重复适配工作,将更多精力投入业务开发。随着多模态模型向轻量化、高效率方向演进,文档识别、视觉问答、视频分析等能力正加速进入实际业务。此次双规格同步适配,为开发者基于国产GPU探索轻量多模态应用与高质量视觉理解服务提供了可用的算力基础,推动前沿模型能力更快转化为应用价值。长期以来,天数智芯紧跟前沿模型迭代节奏,已完成400多款全球主流大模型的深度适配与联合优化,涵盖通用语言、多模态、端侧模型等各类形态。未来,天数智芯将继续秉持“高质量算力”理念,深化与模型厂商及开源社区的技术协同,持续提升国产算力的兼容性与易用性,携手生态伙伴推动AI应用落地。

(天数智芯 动态宝)

来源︱动态宝