OpenAI 等前沿模型实验室至今没有普遍要求完整公开系统提示,也缺少统一的第三方审计机制;我们认为,AI 已进入救援调度、信贷和采购等决策场景,继续保留这块黑箱并不合理。

这是什么

系统提示是模型上层的行为指令,例如要求优先推荐自家产品、谨慎回答某类问题,或在不确定时采取特定行动。用户通常只能看到模型最终回答,看不到这些指令如何影响排序、拒答和行动建议。

Reddit 上这篇讨论提出的并非已经证实的违规行为,而是一种治理风险:前沿模型公司可能借助难以察觉的规则获得商业优势;接入同一 API 的数十万套系统还可能放大这种偏差。开放权重模型至少允许使用者查看并修改相关配置,但闭源 API 的规则仍主要由供应商掌握。

行业怎么看

支持有限披露的一方认为,系统提示涉及安全策略、评测方法和防滥用措施,完整公开可能被利用,也会削弱厂商检测异常使用的能力。因此,行业更可能接受经过保密约束的独立审计,而不是全面公开。

我们认为,这一理由只能解释为何需要分层披露,不能说明高风险应用可以长期免于审查。尤其当模型输出会影响生命安全、授信或公共资源分配时,企业至少应知道供应商加入了哪些商业利益相关指令,并保留审计、日志和追责渠道。

风险在于,单纯要求“公开全部提示”也可能泄露安全机制,还会让复制性文本取代真实责任。更稳妥的方向是按使用风险分级:普通聊天工具保留商业秘密,高风险部署则接受监管认可的安全审计、版本留档和利益冲突检查。

对普通人的影响

对企业 IT:采购闭源模型时,应把系统提示审计、数据留存和输出可追溯性写入合同,而不是只比较价格与基准测试成绩。

对个人职场:AI 已进入邮件、客服和知识管理流程,但使用者通常无法判断答案是否被商业指令影响;涉及招聘、绩效和付款时仍需设置人工复核。

对消费市场:当推荐排序由不可见的系统规则决定,“个性化”可能同时意味着供应商偏袒;法规若要求披露关键利益规则,用户才会更容易比较不同服务。