AI 圈流行晒'末日概率' — 严肃的 AI 安全讨论正在变成开源社群梗

这是什么

Hugging Face 上本周出现一个 Space, 让用户给自己"AI 末日概率"(P(doom), 即"AI 在多大比例下会毁灭人类")打分并晒出来。P(doom) 本是 AI 安全研究圈的严肃概念 — 80000 hours、FLI 这类组织常用它来量化不同人对 AGI 风险的判断。这次把它"打卡化"的是 r/LocalLLaMA 社区, 也就是玩开源大模型的那群人。

行业怎么看

主流 AI 安全机构倾向给出较高数字 — Yann LeCun、Geoffrey Hinton 等公开 P(doom) 估计从 5% 到 50% 不等。本地化开源社区的态度明显不同: 他们用"打卡"消解末日叙事, 是一种对"AI 即将毁灭人类"的温和反讽。

但有反对声音值得注意: 把严肃的概率讨论做成游戏, 可能让普通读者更难分辨 AI 安全的真实风险等级。也有观点反过来 — 这种社群行为暴露了一个尴尬事实, P(doom) 框架本身缺乏可证伪性, "严肃讨论"和"玩笑"之间的距离没那么远。

对普通人的影响

• 对企业 IT: 内部讨论 AI 风险时, 员工对"AI 危险"的认知差异可能远大于想象, 别预设统一态度。
• 对个人职场: 媒体上的"AI 末日"与 AI 圈实际判断差距很大, 不必被耸动标题绑架焦虑。
• 对消费市场: AI 焦虑营销之所以有效, 是因为公众对真实风险没有量化锚点 — 这是个值得利用的市场信号。