Amanda Askell

Anthropic等厂商用拟人化约束模型，AI人格正成为能力工程

把模型设定得像人，并非认定AI拥有人格，而是用稳定偏好约束其输出。Anthropic等厂商已把这种后训练方法用于安全与任务执行，但它也可能模糊能力边界，增加用户对AI判断力的误判。