据IT之家11月6日报道，淘宝旗下MNN团队发布并开源MNN-Pocket-0.3B。这款约3亿参数的轻量语言模型重点支持中文与英文，面向手机应用的任务需求与资源预算，尝试在有限算力、内存和能耗下兼顾任务能力与响应速度。

报道给出的真机表现是：在苹果iPhone 18 Pro上，模型通过MNN推理引擎完全离线运行，平均解码速度约为350token/s。这里的指标是解码阶段的生成吞吐，适用对象是报道所述设备与运行方式。

部署体积方面，MNN-Pocket-0.3B的INT4 MNN部署文件为173MB，包含模型权重、分词器、计算图和推理配置。团队将模型结构、词表、训练数据、预训练与后训练方法，以及量化和推理引擎纳入协同优化，面向淘宝业务与开源社区开发者提供模型底座。

内存测试使用的是另一组设备与配置：在iPad Pro M5、Metal后端、512token测试配置下，模型加载与推理期间的峰值Metal驻留内存，相对加载前基线增加228MB。同一测试中，Qwen3-0.6B的部署文件为340MB，峰值内存增量为427MB。报道称，前者部署体积减少约49%，峰值内存增量减少约47%。

这些实测数字之外，团队还提出了“手机应用原生大模型”的设计目标：在指定设备与上下文配置下，解码吞吐超过200token/s；在指定测试条件下，峰值内存低于300MB。功耗目标则针对输入512～1024token、输出128token的典型负载，单次推理增量能耗不超过参考手机电池能量的万分之一。

能力方面，团队以在指定业务场景达到8B级模型效果为目标，兼顾中英文理解、世界知识、数学与代码推理，重点强化指令遵循，并为长上下文和多步骤任务保留扩展空间。这是团队设定的能力目标，不能等同于该模型已在各类任务中达到8B级模型水平。

原始来源：淘宝 MNN 团队开源 0.3B 手机模型，苹果 iPhone 18 Pro 离线跑出 350 token/s