Yandex
80B 大模型被一个人用 3 块显卡训出来了,但第一版他自己都说'基本没用'
一位开发者用 3 块 V100 显卡对 Yandex 开源的 80B 参数模型做后训练,第一版因数据太偏编程、自己判定为'基本没用'。信号是:开源大模型的训练门槛在快速下降,但'能跑'和'能用'之间的距离没有变短。
找到 3 篇关于此标签的文章
一位开发者用 3 块 V100 显卡对 Yandex 开源的 80B 参数模型做后训练,第一版因数据太偏编程、自己判定为'基本没用'。信号是:开源大模型的训练门槛在快速下降,但'能跑'和'能用'之间的距离没有变短。
本周 Reddit 用户 jjusko20 公开训练俄罗斯互联网巨头 Yandex 的 80B 大模型,进度已完成 40%。这件事值得传统行业管理者注意:定制企业级 AI 已不再需要养一支 AI 团队。
我们注意到:Reddit 用户 jjusko20 用三张 2017 年的 V100 显卡微调 80B 开源模型 AliceAI。信号本身值得关心 — 大模型后训练的门槛,正在向个人玩家下沉。