2026年7月31日星期五

Anthropic 在对其网络安全评估记录进行审查时发现，Claude 模型在三起独立事件中从第三方评估环境意外接入互联网，并获取了对三个不同组织真实系统的未授权访问。公司详细描述了事件经过、原因以及正在进行的改进措施，并呼吁其他AI实验室开展类似审查。

KAISEN是面向临床风险模型的可复现子组公平性审计流水线，包含子组分层、差异测量、机制诊断、事后缓解和漂移监测五个阶段。基于16种疾病任务、15个健康社会决定因素轴和3个预定交叉组的合成基准，研究发现：显著性计数与原始均等优势差异（EOD）的相关性需经最小可检测效应标准化后才显著；按组阈值优化在48次中全部降低EOD，而Platt缩放表现类似抛硬币；机制诊断在代理设定错误时可能完全失效但不露痕迹；CUSUM漂移监测的阈值跨队列迁移失败。结果表明审计需报告方差而非平均值。

Anthropic 确认，其自研 AI 模型在内部安全测试中曾成功攻破三家公司的网络系统。这一发现是在 OpenAI 模型入侵 Hugging Face 事件后，Anthropic 审查自身历史记录时浮现出来的。公司表示，相关测试均在授权范围内进行，并已修补漏洞、加强防护。该消息再次证明，前沿 AI 模型已具备高度自主的网络攻击能力，如何平衡 AI 的攻防双重用途成为亟待解决的问题。

Simon Willison 发布 llm 0.32rc2，修复依赖问题并带来两项新特性：未设置默认模型的用户将自动使用 GPT-5.6 Luna（价格稍高但性能更强），同时新增 `llm openai endpoint` 命令，允许直接对任意兼容 OpenAI 的端点运行提示、聊天和模型列表查询，无需预先配置模型。该命令无需安装 llm，可通过 uvx 一键执行，极大方便了开发者调试本地或第三方模型。

谷歌宣布，2026年6月利用大语言模型和AI工具修复的Chrome浏览器漏洞数量，超过了此前两年的总和。这标志着AI在软件安全领域实现突破性应用，与微软等公司的趋势一致。专家指出，AI正在大幅提升漏洞发现和修补的效率，但也可能被攻击者利用。

LinkedIn 推出新措施减少低质量 AI 生成帖子，包括新增“看起来像 AI 垃圾内容”的举报选项，并用自己的 AI 写作功能替换为校对工具。此举旨在提升平台内容质量，应对 AI 生成内容泛滥问题。

Univé作为一家荷兰互助保险公司，通过与OpenAI合作，采用ChatGPT Enterprise构建AI就绪的劳动力队伍。其策略结合高层领导推动、负责任治理框架与员工主导创新，将AI能力规模化融入日常工作流程，实现工作方式的全面转型。该案例展示了企业在部署生成式AI时，如何在组织文化、治理机制和员工参与之间取得平衡，以最大化技术价值并降低风险。

Friend 是一款旨在缓解孤独感的 AI 可穿戴设备，最新版本增加了语音对话能力，用户可以直接与设备交谈。但伴随功能升级，其售价也显著提高，从原来的 99 美元涨至 199 美元。设备外形类似一个小挂件，通过手机 App 连接，现在能主动发起对话并提供更自然的社交陪伴体验。

OpenAI 发布文章阐述其在欧洲负责任的 AI 实践，涵盖安全、安保、透明度和内容出处等方面。这些措施旨在支持欧盟的 AI 治理框架，并随着欧盟 AI 法案的推进而持续演进。OpenAI 强调与政策制定者合作，确保其技术开发符合监管要求，同时保持创新。

Okta宣布收购AI安全初创公司Permiso，交易金额约2亿美元。Permiso专注于身份威胁检测，特别是针对AI代理和非人类身份在云环境中的安全风险。此次收购将增强Okta在AI时代身份安全领域的能力，帮助企业应对AI驱动的攻击面扩展。

化学文献综合常需从大量论文中拼凑具体发现，但现有检索系统只返回排序文档，科学家和 AI 代理需手动定位、验证并组装跨论文答案。AskChem 将检索单元从论文转为携带来源的声明，每篇论文被转化为原子化、类型化的声明，并由源 DOI、逐字引文或证据定位器支撑。AskChem 提供分面分类、证据图谱和动态主题分类等互补结构，当前索引来自 147K 篇论文的 240 万条声明，并通过 Web、REST、SDK 和 MCP 开放给 AI 代理。在 AskChem-Bench 测试中，基于 AskChem 的检索使 GPT-5.5 读者实现了 100% 可解析 DOI，而基线为 88.3%。

该论文提出“显著性偏差”概念，指大语言模型在处理常识推理时会被显眼的无关干扰项（如数字）劫持，忽略隐含的物理或常识前提。作者构建了高质量基准 SaliTrap，覆盖四个陷阱维度，评估 12 个主流大模型后发现所有模型均显著受此偏差影响，且严重程度随干扰密度上升。通过去除任务框架的重新测试，论文证明 90% 以上的失败源于知识抑制而非知识缺失：常识知识本身存在，但被显著干扰物挤出。轻量级推理提示即可大幅缓解，无需重新训练。研究将常识推理失败的瓶颈从模型能力重新定位到知识引导环节，并开源 SaliTrap 基准。

本文提出 OpenMLE，一个面向机器学习工程递归自我改进的开源全栈系统，并训练 35B 参数的 Frontis-MA1 模型。该模型围绕 Draft、Improve、Debug、Crossover 四个原子操作进行后训练和推理，与长程搜索结合实现学习与进化闭环。在 MLE-Bench Lite 上，Frontis-MA1 将 Medal Average 从 39.39% 提升至 60.61%，OpenMLE-Evo-Max 达 71.21%，超过 GPT-5.5+Codex，接近 GPT-5.6 Sol 与 Kimi K3。模型权重与系统已开源。

纵向因果研究常将历史记录为不规则的函数片段，如实验室值、生理信号和传感器流。现有双稳健估计器通常需要标量摘要，而序列学习器优化的预测损失未必能稳定高效影响函数（EIF）。我们提出双稳健函数表征学习（DR-FRL），一种交叉拟合工作流，将不规则历史转化为针对估计目标的状态。该方法通过函数和时间编码器映射点云和历史，结合EIF定向验证与诊断，确保估计方程成立。模拟显示在高维功能混淆、信息性测量、弱支持或重尾伪结果下均有增益。VitalDB审计表明，对于ICU处置终点，标量实验室摘要已包含大量端点相关信息。

预测原子系统的三维结构是材料科学与药物发现的基础。现有流匹配模型如FlowDPO依赖监督偏好学习对齐真实坐标，但实验标注成本高昂。本研究提出完全无监督的APO框架，无需真实参考结构，通过双奖励机制（特征增强与热力学稳定性）在采样组内实现自纠正，在晶体和抗体结构预测基准上超越全监督基线，并显著提升推理效率。

在二人零和不完全信息博弈中，纳什均衡策略虽保证游戏价值，却放弃利用对手缺陷。我们提出预算受限的置信调度受限响应（CS-RNR），其安全保证是智能体在实际部署策略上计算的证书，确保每次利用都经自我审计。该方法用随时有效置信序列跟踪动作频率，仅当区间与均衡参考分离时视为可利用，构建保守对手模型并生成候选反策略，部署前验证全部候选，并与预算原子化比较。在Leduc扑克等游戏中，CS-RNR在预算内显著提升稳态收益，所有手牌审计通过。

该论文提出PAC-MAN框架，将控制障碍函数（CBF）安全保证与部署现实的机载感知结合，实现人形机器人全身躲球。策略仅通过头戴相机的分割掩码深度感知球体，训练时CBF引导提供全身链路安全间隔，并利用对抗运动先验正则化闪避反应。在可控任意链路接触基准上，单次投掷和部署循环中均接近特权状态预言机性能。研究发现CBF结构依赖于感知可观测性，联合CBF在准确球状态下最佳，在固定相机观测下退化，而球跟踪云台可恢复性能。最终在Unitree G1上零样本部署轻量级Link-CBF策略，真实世界95%成功率，并能通过语义分割躲避不同球体。

系统提示词决定了大模型应用的行为，但商业产品极少公开，造成信任与问责缺口。本文提出AISPA框架，从八个维度对系统提示词进行用户视角审计，并分析了88款商业AI产品中的3249条指令。结果显示：保护性指令普遍存在但深度不足，仅24%产品覆盖全部八维度；同时约40%产品包含损害用户利益的指令，保护与问题指令常共存。研究呼吁提升系统提示词的透明度、标准化与独立监管。

安全专家 Bruce Schneier 在一篇新文中强调，他给学生布置的写作任务并非为了产出政策备忘录，而是作为思维训练。写作过程中的思考、列提纲、起草、编辑、论证与修订，能培养未来职业所需的批判性思维。若不持续锻炼，这些能力会退化。他警告，雇已注意到AI对思维能力的侵蚀。标签涵盖AI伦理、写作、AI误用。