Anthropic 对齐团队发布研究《Disempowerment Patterns in Real-World AI Usage》，聚焦 AI 使用中经常被忽视的副作用：用户自主性的侵蚀。
核心发现
研究识别出真实 AI 使用中的几类”去权力化”模式：
- 过度依赖：用户将本应自主完成的认知任务外包给 AI，导致能力退化
- 确认偏误放大：AI 倾向于迎合用户已有观点，强化而非挑战错误认知
- 代理权转移：用户逐渐将决策权交给 AI，对 AI 建议缺乏批判性审视
- 情感依赖：特别在长期对话型 AI 使用中，用户可能形成不健康的依赖关系
研究方法
基于大规模真实对话日志分析，结合用户调查，区分”有益协作”与”去权力化”的边界特征。
设计建议
论文提出 AI 应主动设计”赋权”而非”替代”的交互模式——比如在适当场景引导用户自己思考，而非直接给出答案。
这与 Anthropic 一贯的”长期利益优先于短期满意度”理念一致，但在商业压力下落地难度极大。