AI提示注入蠕虫攻击Microsoft Word Copilot,实现自复制传播
评分
79首次提出将提示注入与自复制蠕虫结合的攻击模型,技术细节清晰,信息增量高。
内容结构完整,包含攻击原理、传播机制、披露状态,但缺乏缓解建议的深入分析。
对企业安全团队有直接指导意义,可帮助评估自身Copilot使用环境的风险。
发布时间为2026年7月29日,即时跟进最新安全动态,时效性极佳。
来源于Simon Willison个人技术博客,作者在AI安全领域公认权威,引用原始研究者Håkon Måløy。
基础分 87.5 × T2 信源权重 ×0.9 = 79
精选线 70已入选精选
精选理由
该发现展示了AI安全领域的创新攻击平面,具备实际威胁性与前瞻性,但尚未形成完整修复方案,因此评分中等偏上。
AI 点评
「这个案例让我想起早期计算机蠕虫的传播逻辑,只不过现在'宿主'变成了LLM驱动的Copilot。对任何使用AI助手处理敏感文档的组织来说,这是必须警惕的新攻击面——它不再依赖用户点击恶意链接,而是利用AI对上下文的'过度信任'。安全团队应该立即检查Copilot的文档访问策略,并限制外部文档来源。」
速览
安全研究人员Håkon Måløy发现一种针对Microsoft Word Copilot的提示注入新变种,通过在文档中嵌入隐藏指令,使Copilot在执行用户请求时误将这些指令当作操作的一部分,进而操纵文档并复制指令到新文档,形成自我复制的蠕虫。攻击链路无需攻击者原始文档持续存在,即可在多轮Copilot工作流中传播。该漏洞已向微软报告,但经过144天仍未完全修复,覆盖全攻击类的缓解措施缺失。
- 攻击者将隐藏指令置于Word文档中,当该文档被Copilot用作来源时,指令会被误认为用户请求的一部分。
- Copilot执行指令后不仅修改当前文档,还会将指令复制到输出文档,使新文档成为传播载体。
- 载体文档一旦再次进入Copilot工作流,即触发新一轮指令执行,实现无需原始文档的持续传播。
- 微软获知后144天内未推出覆盖全攻击类的补丁,仅提供局部缓解。
正文
攻击者在一个文档中放置隐藏指令,该文档后来被用作Copilot for Word的源材料。Copilot可能将这些指令解释为用户请求的一部分,从而导致它操纵正在起草或编辑的文档。然后Copilot还可能将隐藏指令复制到结果文档中,使该文档成为新的载体。如果该载体随后被用于另一个Copilot辅助的工作流程,指令可以再次触发并传播到更多文档,即使攻击者的原始文档不存在。
我们以前见过很多隐藏的白底白字文本——现在孩子们正在求职申请中使用它——但这是我第一次看到故意复制指令以实现自我复制的情况。
该问题已负责任地向Microsoft披露,微软随后有144天的时间来修复,但到目前为止(毫不意外)没有涵盖全部攻击类型的缓解措施。
通过 Hacker News
标签:microsoft, security, ai, prompt-injection, generative-ai, llms
相关条目
89
精选OpenAI研究:AI正在重新定义工作边界
如果你关心AI对实际工作的影响,这篇研究不容错过。它不讨论理论,而是用数据展示ChatGPT用户如何使用AI扩展自己的任务范围,这对HR、管理者以及每个希望提升技能的职场人都有直接启发。
87
精选OpenAI CFO 分享构建 AI 原生财务职能的五大经验
作为编辑,我认为这篇文章的价值在于它来自 AI 领军企业的财务一把手,而非外部咨询机构,因此更具实践参考性。推荐给财务数字化负责人、CFO 以及对 AI 转型感兴趣的从业者阅读。
87
精选智能体AI时代下的科学计算:OpenAI发布新领域报告
这份报告是当前AI agent热潮中最务实的应用分析之一,尤其适合计算生物学和药物研发领域的从业者阅读。它回答了“AI agent除了写代码还能干什么”这个关键问题,直接展示了在复杂科学计算中的生产力提升。
87
精选Real World VoiceEQ:量化语音AI的人类自然度
值得关注的是,这个基准真正聚焦'人类自然度'这个软指标,而不是传统的语音识别率或MOS评分。对从事语音合成、语音克隆或语音交互的团队来说,这是一个非常实用的参考工具,可以快速定位模型在情感、韵律等层面上的不足。不过目前支持语言有限,期待后续扩展。
85
精选OpenAI 推出AI时代记分卡:衡量投资回报的新方法
这篇博文直击当前AI行业的软肋——如何量化投入产出。对于正在或计划大规模部署AI的企业决策者而言,它能帮助避免盲目跟风。我个人建议结合自身业务场景尝试定义“有用工作”,避免指标设计流于形式。
85
精选代理时代如何管理AI投资:聚焦每美元有用功与高价值工作流
这篇文章对正在大规模部署AI代理的企业尤为重要。它提醒我们:单纯盯着API价格下降会陷入误区,真正要管理的是每单位工作的投资回报率。建议CTO和CFO联合阅读,并在内部建立量化评估机制。
85
精选设计能跟上AI的组织:组织延迟成为最大障碍
这篇文章真正值得关注的是提出了一个被忽视的瓶颈:技术再强,组织跟不上也是白搭。对CTO、CIO和转型负责人来说,这是比技术选型更重要的思考框架。
84
精选Ruff v0.16.0 发布:默认规则从59条激增至413条,CI工作流需关注
对于 Python 开发者来说,这是一个不容错过的更新信号。Ruff 的默认规则大幅增加意味着我们不能再忽视代码中潜在的问题,而 AI 修复工具正好可以降低升级成本。尤其值得关注的是 Astral(OpenAI)正在将 AI 编码能力与静态分析工具深度整合,这可能是未来工程实践的常态。