Laya

找到 2 篇关于此标签的文章

Laya 源码暴露部署省钱思路：421M 模型不碰 torch 就能跑

开发者这周拆解开源决策模型 Laya 的源码，发现一个反常识细节：import laya 这一刻不加载 torch 也不加载 numpy。意味着 AI 推理服务的入口层可以零 GPU 启动。

开发者 rupeshs 把开源本地大模型工具 Laya 移植到 Intel OpenVINO 上，CPU 上每条问答只要 40 毫秒。意味着不依赖云端、不买显卡，企业在自己机器上跑 AI 的可行性又进了一步。