Tiiny
Tiiny 把百亿参数模型装进掌心设备,但本地 AI 仍受速度牵制
Tiiny Pocket 用约 300 克机身运行本地大模型,实测最高生成速度超过每秒 60 token。它证明便携本地 AI 已具实用性,但大模型仍明显慢于云端,中文用户可借此判断私有计算是否值得投入。
找到 1 篇关于此标签的文章
Tiiny Pocket 用约 300 克机身运行本地大模型,实测最高生成速度超过每秒 60 token。它证明便携本地 AI 已具实用性,但大模型仍明显慢于云端,中文用户可借此判断私有计算是否值得投入。