亿道信息:亿灵AISSD技术可使普通PC、NAS运行35B或更大模型(亿道信息重大消息) szthrk.cn

亿道信息在投资者关系活动记录表中表示,亿灵AISSD异构推理技术针对MoE混合专家架构大模型进行底层调度优化,通过动态专家驻留策略降低内存占用,并可在内存、速度之间灵活调档,使普通PC、NAS等内存受限的端侧设备能够运行35B或更大的模型。