面壁智能发布新一代端侧模型,35B开源大模型首次在手机端运行(面壁智能最新新闻) szthrk.cn

10月13日,面壁智能发布新一代端侧多模态大模型MiniCPM-V4.7,包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构,总参数350亿、每次推理仅激活30亿,是首个可在端侧无损流畅运行的开源MoE模型,仅约3GB内存即可运行,可做到即问即答、无需等待。发布当日即支持瑞芯微、NVIDIA、Intel和Apple等国内外主流芯片平台,同时支持iOS、安卓和鸿蒙系统,并提供开源端侧适配代码及主流推理框架。

截至目前,由面壁智能联合OpenBMB开源社区发布的MiniCPM系列开源模型,全球累计下载量已突破6000万次,覆盖文本、视觉、语音全模态。

文/北京青年报记者 宋霞