Propensity Inference: Environmental Contributors to LLM Behaviour

评分 7 · 来源：arXiv · 发布于 2026-04-24

评分依据：测量 LLM 非预期行为倾向的方法论改进：环境因素效应分析 + 贝叶斯广义线性模型 + 循环分析防护。对齐研究有用方法。

受未对齐 AI 系统的失控风险驱动，本研究开发并应用了测量语言模型非预期行为倾向的方法。

三项方法学贡献

1. 环境因素效应分析：分析环境变化对行为的影响，而非仅测量单一行为指标
2. 贝叶斯广义线性模型量化效应大小：提供概率化的不确定性估计
3. 循环分析显式防护措施：防止常见的统计推断陷阱

应用场景

研究者将这套方法应用于测量 11 种环境因素对 LLM 行为的影响，为理解什么条件容易触发模型的非预期行为提供了实证基础。

方法论价值

这套方法的价值在于其通用性——不限于特定类型的非预期行为，可用于多种 alignment 相关的行为测量场景，为 AI 安全研究提供了更可靠的测量工具链。