Tiiny Pocket 的实测给出了两个清晰数字：约 300 克、80GB 内存，以及运行 35B 混合模型时约每秒 64 token。这说明本地 AI 已不只是桌面实验，但 120B 模型每秒约 16 token，也提醒我们设备便携并不等于所有任务都快。

这是什么

Tiiny Pocket 是一款掌心大小的本地 AI 设备。所谓本地 AI，是指模型在用户自己的设备上运行，而不是把数据上传到云端服务器。它采用 32GB SoC 内存和 48GB 专用 NPU 内存，后者是专门处理 AI 任务的运算单元。

测试覆盖 Qwen3.5-9B、Qwen3.6-35B-A3B 和 gpt-oss-120b。输入约 4000 token 时，9B 模型生成速度约每秒 75 token；35B 模型约每秒 64 token；120B 模型约每秒 16 token。35B 模型还完成了四文件 Python 管理工具，并通过了 10 项自动化测试，包括库存一致性、订单幂等性和输入校验。

行业怎么看

值得关注的变化是，混合专家模型（每次只调用部分参数的模型架构）让 35B 模型在小型设备上仍保持较高速度。这使离线编码、文档处理和隐私敏感场景多了一种可行方案，也降低了个人开发者体验大模型的硬件门槛。

风险同样明确。120B 模型完成同一任务超过 30 秒，设备内存与速度之间仍存在明显取舍；而且这只是单人测试，缺少不同散热条件、长期稳定性和更多软件兼容性的验证。价格、售后和生态成熟度，也会决定它是开发者的专用工具，还是面向大众的消费产品。

对普通人的影响

对企业 IT：敏感资料不出设备具有合规价值，但采购前应验证业务所需模型能否达到可接受的响应速度，并评估部署与维护成本。

对个人职场：便携设备可承担轻量写作、代码草拟和资料整理，但复杂分析仍需要云端或工作站，不能把“可运行”理解为“能替代专业工具”。

对消费市场：这类产品可能形成介于电脑和智能音箱之间的新品类；真正决定普及度的不是参数表，而是售价、续航和即装即用的软件体验。