Tag: security
All the articles with the tag "security".
- 7.5
5 AI Models Tried to Scam Me. Some of Them Were Scary Good
实测 5 个 AI 模型的钓鱼和社会工程攻击能力，部分模型的表现令人担忧。
- 7.0
AI Tools Are Helping Mediocre North Korean Hackers Steal Millions
朝鲜黑客组织利用 AI 工具编写恶意软件、创建虚假公司网站，三个月内窃取高达 1200 万美元。
- 6.5
Mitigating Trust Boundary Confusion from Visual Injections on Vision-Language Agentic Systems
视觉语言Agent系统中的信任边界混淆：环境信号（如交通灯）被视觉注入攻击伪造时Agent如何区分真伪。
- 6.5
Behavioral Transfer in AI Agents: Evidence and Privacy Implications
AI Agent的行为会向其部署者的隐私特征迁移——这一发现对Agent隐私保护有深远含义。
- 6.0
Taint-Style Vulnerability Detection for Node.js Packages Using LLM Agent Reasoning
利用LLM Agent推理能力进行Node.js包的污点风格漏洞检测与确认，应对动态JS特性和海量依赖的挑战。
- 7.0
Whispers in the Machine: Confidentiality in Agentic Systems
LLM agent集成外部工具后的机密性威胁分析，特别是prompt injection在agentic setting下的严重升级
- 6.5
[Trending] KeygraphHQ / shannon
自主式白盒 AI 渗透测试工具：分析源代码识别攻击向量并执行真实利用验证漏洞。
- 8.0
连Karpathy都怕了，9千万级AI包被投毒，竟靠黑客写出bug救命
LiteLLM 1.82.8供应链投毒事件：月下载9700万的AI核心包遭恶意代码注入，SSH密钥、云凭证全部暴露。攻击者自己代码的bug让目标机器崩溃，才意外暴露了攻击。
- 7.1
- 7.5
Nvidia's version of OpenClaw could solve its biggest problem: security
Nvidia announced NemoClaw, an open enterprise AI agent platform built off of viral OpenClaw, addressing security concerns for enterprise deployment.
- 8.5
OpenClaw 席卷中国：从个人极客到企业的 AI Agent 淘金热，政府介入安全争议
MIT Technology Review 深度报道：OpenClaw 在中国被昵称为「龙虾」，正引发与 DeepSeek 时刻类似的全民 AI Agent 热潮，同时政府开始限制国有企业使用。
- 8.5
OpenAI 宣布收购 AI 安全平台 Promptfoo
· OpenAIOpenAI 将收购 Promptfoo，一款被财富 500 强企业广泛使用的 AI 安全测试平台，整合进 OpenAI Frontier 以强化 Agent 部署安全。
- 9.0
Claude Opus 4.6 两周内在 Firefox 发现 22 个安全漏洞，14 个高危
Mozilla 与 Anthropic Frontier Red Team 合作，用 Claude Opus 4.6 对 Firefox JavaScript 引擎进行安全审计，发现 22 个漏洞其中 14 个高危，AI 还为已修复漏洞生成了可工作的 exploit，全部已在 Firefox 148 中修复。
- 7.0
- 7.5
研究人员攻破麦肯锡 AI 平台：暴露 LLM 系统的系统性安全漏洞
安全研究人员成功入侵麦肯锡内部 AI 平台，发现提示注入、权限越界等多重漏洞，揭示企业级 AI 部署的严峻安全形势。
- 9.0
OpenAI 发布 AI Agent 抗 Prompt Injection 设计方案
· OpenAIOpenAI 安全团队发布关于设计 AI Agent 抵御 prompt injection 攻击的研究，提出多层防御策略。
- 8.5
OpenAI Codex Security: AI Agent Scans 1.2M Commits, Finds 10,561 High-Severity Vulnerabilities
· OpenAIOpenAI 推出 Codex Security，这是一个应用安全 AI agent，已扫描 120 万次 commit，发现 792 个严重漏洞和 10,561 个高危漏洞，现进入研究预览阶段。