Improving LLM Predictions via Inter-Layer Structural Encoders

评分 5 · 来源：arXiv cs.LG · 发布于 2026-04-29

评分依据：ILSE 聚合中间层表示提升预测，参数高效后训练框架

标准做法基于最终层表示做预测，但中间层编码互补信号且最优层依赖于任务。ILSE 学习聚合中间层表示的结构编码器，参数高效且任务无关。