评分 7.5 · 来源：arXiv · 发布于 2026-04-24
评分依据：实验证明简短 AI 对话可持久改变人类道德判断。53 人实验设计严谨，对社会理解 AI 影响有重要启示。
道德判断构成了人类社会行为和社会系统的基石。随着 AI 聊天机器人越来越多地充当个人顾问的角色，其对道德判断的影响却几乎未被探索。
实验设计
研究者采用被试内自然实验范式：
- 53 名参与者首先对道德场景进行评分
- 然后与聊天机器人讨论其中 4 个场景（机器人被提示引导向特定方向）
- 再次评分以检测变化
核心发现
简短的指令性 AI 对话确实能够转移人类的道德评价——而且这种变化具有持久性。
影响与隐忧
这一发现引发了重要的问题：
- 当 AI 聊天机器人被大规模用作个人顾问时，其潜在的道德引导能力是否被充分认识？
- 不同开发者设定的 system prompt 是否等同于一种大规模道德干预？
- 用户是否意识到自己正在被 AI 影响？
这项研究为理解 AI 的社会影响提供了实证基础，对 AI 伦理治理和政策制定有参考价值。