MNN-Pocket-0.3B

淘宝MNN团队开源0.3B手机模型，支持离线运行

据IT之家11月6日报道，淘宝旗下MNN团队发布并开源MNN-Pocket-0.3B。这款约3亿参数的轻量语言模型重点支持中文与英文，面向手机应用的任务需求与资源预算，尝试在有限算力、内存和能耗下兼顾任务能力与响应速度。 报道给出的真机表现是：在苹果iPhone 18 Pro上，模型通过MNN推理引擎完全离线运行，平均解码速度约为350token/s。