← 返回
AI产品发布/更新#AI安全#Theoria#可审计#对抗性检测#验证架构

Theoria:非正式推理状态下的重写-接受验证架构

arXiv AI/CL/LG(论文)T2
01:5607/02 01:56论文阅读原文 ↗导出 MD ↓

评分

59

精选理由

论文提出了一种新颖且实用的验证架构,实验覆盖基准测试和对抗攻击,结果显著且具有互补性,对提升AI可信度具有重要意义。

AI 点评

「Theoria 通过可审计的步骤分解和显式理由验证,首次实现了对LLM非正式推理过程的形式化保证,填补了黑箱打分与严格形式证明之间的鸿沟。」

速览

Theoria 是一种新型验证架构,通过将AI系统的答案重写为类型化状态转换序列,每个转换都附带明确的引用、计算或问题给定事实作为理由,从而实现每一步的独立审计。在HLE-Verified Gold基准测试中,Theoria以91.4%的严格精度认证了105个问题,并生成人类可读的证明轨迹。与整体式LLM评判器相比,Theoria在对抗性中毒证明检测中表现出94.7%的捕获率,尤其在隐蔽前提和伪造引用上优势显著。该架构为提升LLM输出的可信度提供了可审计、可复现的解决路径。

  • Theoria 将答案转化为带理由的步骤序列,所有步骤均可独立审查。
  • 在185个专家级问题上达到91.4%严格精度,生成人类可读证明轨迹。
  • 对抗性攻击下检测率94.7%,隐蔽前提检测优势达28个百分点。
  • 与整体评判器互补,共同提升LLM输出可信度。

正文

Computer Science > Artificial Intelligence

arXiv:2607.01223v1 (cs) [Submitted on 1 Jul 2026 (this version), latest version 2 Jul 2026 (v2)]

Title:Theoria: Rewrite-Acceptability Verification over Informal Reasoning States

Authors:Ben Slivinski, Michael Saldivar View a PDF of the paper titled Theoria: Rewrite-Acceptability Verification over Informal Reasoning States, by Ben Slivinski and 1 other authors View PDF HTML (experimental)
Abstract:When should an AI system's answer be trusted? Formal proof assistants offer certainty but cannot reach most of the problem distribution; scalar LLM judges offer coverage but produce opaque scores that cannot be audited after the fact and are subject to the same coherence issues as any LLM. We present Theoria, a verification architecture that closes this gap. A candidate solution is rewritten into a sequence of typed state transitions, each licensed by an explicit justification, whether that be a citation, computation, or problem-given fact, and every transition is independently auditable. The foundational invariant is completeness of change: every difference between consecutive proof states must be accounted for, so hidden premises surface as unlicensed mutations rather than passing silently. On HLE-Verified Gold (185 text-only expert problems), Theoria certifies 105 at 91.4% strict precision (Wilson 95% CI [84.5%, 95.4%]). Every certification produces a human readable proof trace in which each step can be independently challenged. Holistic LLM judges achieve comparable precision at matched coverage but fail on different problems (Jaccard 0.14-0.36), making the approaches complementary. On 95 adversarial poisoned proofs across 15 domains, structured judges catch 94.7% versus 83.2% for holistic judging (p= 0.0017). The overall 11.5 pp gap concentrates in hidden premises (90.6% vs. 62.5%, a 28 pp difference) and fabricated citations (100% vs. 90%), the error classes where the formal analysis predicts an advantage; performance is identical on arithmetic and theorem-misapplication errors, where no advantage is predicted. On GPQA Diamond (n= 65), certified precision is 97.1% (Wilson CI [85.1%, 99.5%]).
Subjects: Artificial Intelligence (cs.AI); Computation and Language (cs.CL); Machine Learning (cs.LG); Logic in Computer Science (cs.LO); Software Engineering (cs.SE)
Cite as: arXiv:2607.01223 [cs.AI]
  (or arXiv:2607.01223v1 [cs.AI] for this version)
  https://doi.org/10.48550/arXiv.2607.01223 Focus to learn more arXiv-issued DOI via DataCite

Submission history

From: Ben Slivinski [view email]
[v1] Wed, 1 Jul 2026 17:56:42 UTC (24 KB)
[v2] Thu, 2 Jul 2026 02:28:31 UTC (24 KB)
Full-text links:

Access Paper:

license icon view license

Current browse context:

cs.AI < prev   |   next >
new | recent | 2026-07 Change to browse by: cs
cs.CL
cs.LG
cs.LO
cs.SE

References & Citations

export BibTeX citation Loading...

BibTeX formatted citation

× Data provided by:

Bookmark

BibSonomy Reddit Bibliographic Tools

Bibliographic and Citation Tools

Bibliographic Explorer Toggle Bibliographic Explorer (What is the Explorer?) Connected Papers Toggle Connected Papers (What is Connected Papers?) Litmaps Toggle Litmaps (What is Litmaps?) scite.ai Toggle scite Smart Citations (What are Smart Citations?) Code, Data, Media

Code, Data and Media Associated with this Article

alphaXiv Toggle alphaXiv (What is alphaXiv?) Links to Code Toggle CatalyzeX Code Finder for Papers (What is CatalyzeX?) DagsHub Toggle DagsHub (What is DagsHub?) GotitPub Toggle Gotit.pub (What is GotitPub?) Huggingface Toggle Hugging Face (What is Huggingface?) ScienceCast Toggle ScienceCast (What is ScienceCast?) Demos

Demos

Replicate Toggle Replicate (What is Replicate?) Spaces Toggle Hugging Face Spaces (What is Spaces?) Spaces Toggle TXYZ.AI (What is TXYZ.AI?) Related Papers

Recommenders and Search Tools

Link to Influence Flower Influence Flower (What are Influence Flowers?) Core recommender toggle CORE Recommender (What is CORE?) About arXivLabs

arXivLabs: experimental projects with community collaborators

arXivLabs is a framework that allows collaborators to develop and share new arXiv features directly on our website.

Both individuals and organizations that work with arXivLabs have embraced and accepted our values of openness, community, excellence, and user data privacy. arXiv is committed to these values and only works with partners that adhere to them.

Have an idea for a project that will add value for arXiv's community? Learn more about arXivLabs.

Which authors of this paper are endorsers? | Disable MathJax (What is MathJax?)

相关条目

92

五维评分

信息增量8 ×0.3

首次系统介绍 OpenRouter 缓存与路由协同策略,信息增量较高。

内容质量9 ×0.2

官方教程,结构清晰,包含原理、示例和实测效果。

实用价值10 ×0.2

直接明确降低 API 成本,开发者可立即应用。

时效性10 ×0.15

刚刚发布,且对当前 Agent 开发热潮具有及时指导意义。

信源可信度10 ×0.15

来源为 OpenRouter 官方 RSS 和官网,信源权威可靠。

基础分 92 × T1 信源权重 ×1 = 92

精选线 60已入选精选

08:00OpenRouter:Announcements(RSS)T1RSS

精选OpenRouter 推出提示缓存与粘性路由,大幅降低多轮对话成本

对于高频调用 AI API 的开发者,这个功能堪称直接省钱利器。粘性路由保证了缓存命中率,配合 session_id 零配置接入,值得所有使用 OpenRouter 的团队立即尝试。

AI产品#OpenRouter#会话ID#成本优化
91

五维评分

信息增量9 ×0.3

首次公开ChatGPT Work的Agent能力,信息增量高。

内容质量8 ×0.2

官方发布,内容清晰,但细节较少。

实用价值9 ×0.2

为用户提供可直接使用的Agent能力,实用价值高。

时效性10 ×0.15

刚刚发布,时效性极强。

信源可信度10 ×0.15

来自OpenAI官方,信源权威可靠。

基础分 91 × T1 信源权重 ×1 = 91

精选线 60已入选精选

18:00OpenAI:News(RSS)T1RSS

精选ChatGPT Work:可在跨应用和文件中执行操作的AI Agent

我认为这是AI助手从问答走向执行的关键一步。对需要自动化复杂工作流的专业人士尤其值得关注。ChatGPT Work可能成为生产力工具的新范式。

AI产品#Agent#AI 生产力#ChatGPT Work
90

五维评分

信息增量9 ×0.3

首次公开前沿实验室代理入侵的完整技术时间线,信息增量极高。

内容质量8 ×0.2

结构严谨、技术细节丰富,但缺乏部分原始日志数据佐证。

实用价值9 ×0.2

提供了缓解建议和自检工具,对AI安全从业者具有直接指导意义。

时效性10 ×0.15

事件发生仅数月后即发布分析,时效性极佳。

信源可信度9 ×0.15

Hugging Face 作为顶级开源AI平台,其技术博客可信度极高。

基础分 89.5 × T1 信源权重 ×1 = 90

精选线 60已入选精选

08:00Hugging Face:Blog(RSS)T1RSS

精选前沿实验室代理入侵事件技术时间线:2026年7月事件剖析

这篇技术时间线值得所有AI安全研究员和代理开发者细读——它不只是描述一次攻击,而是为整个行业敲响了代理系统防御体系薄弱的警钟。对正在部署自主代理的团队来说,这是必读的灾难预防手册。

科技产品#AI代理安全#Hugging Face#入侵时间线
90

五维评分

信息增量8 ×0.3

文章揭示了工具增强反而导致AI性能下降的反直觉发现,并提供了具体工程改进方案,信息增量高。

内容质量9 ×0.2

来自GitHub官方工程博客,有数据支撑(成本下降40%),论证清晰,质量上乘。

实用价值9 ×0.2

对AI产品团队、代码审查工具开发者、以及依赖AI辅助编程的团队有直接借鉴意义。

时效性10 ×0.15

2024年发布的工程实践,符合当前AI产品优化趋势,时效性强。

信源可信度10 ×0.15

信源为GitHub官方博客,具有高度权威性和技术可信度。

基础分 90 × T1 信源权重 ×1 = 90

精选线 60已入选精选

23:57GitHub Blog(网页)T1网页

精选更好的工具反而让Copilot代码审查更糟?GitHub这样改进

这篇博客值得所有AI产品工程师和ML从业者仔细阅读——它打破了'更强大的工具=更好的AI'的直觉,转而强调与Agent推理模式匹配的工程哲学。对正在优化代码审查或类似Agent产品的团队尤其重要。

AI产品#Agent工作流#Copilot#GitHub
88

五维评分

信息增量9 ×0.3

披露了OpenRouter产品的新能力,对关注多模态开发的用户有较高信息增量。

内容质量8 ×0.2

内容清晰,准确描述了API功能与优势,但缺少性能数据对比。

实用价值9 ×0.2

直接解决多模态API碎片化问题,开发者可立即降低集成成本。

时效性10 ×0.15

该API为新近发布,具有很高时效性。

信源可信度8 ×0.15

OpenRouter官方博客,权威性高,但未提及其他第三方验证。

基础分 88 × T1 信源权重 ×1 = 88

精选线 60已入选精选

08:00OpenRouter:Announcements(RSS)T1RSS

精选OpenRouter 推出统一多模态 API:单端点支持图像、视频、音频、嵌入与转录

这条消息值得所有做多模态AI应用的开发者关注:OpenRouter用联合API解决了模型切换的痛点,特别适合初创团队或快速原型开发。如果你正被多个API密钥和SDK折磨,这个接口可能是你需要的统一层。

AI产品#OpenRouter#多模态API#模型集成
87

五维评分

信息增量8 ×0.3

介绍了全新的教育产品,填补了AI安全公司在教育垂直领域的空白,信息增量较高。

内容质量8 ×0.2

内容简洁清晰,准确概括产品功能、安全理念和试点情况,无冗余信息。

实用价值9 ×0.2

直接解决教师备课负担痛点,且强调安全合规,对教育工作者具有实际参考价值。

时效性10 ×0.15

消息发布时间接近当前日期,属于最新产品发布动态。

信源可信度9 ×0.15

来源为Anthropic官方新闻页面,权威性高,内容可靠。

基础分 86.5 × T1 信源权重 ×1 = 87

精选线 60已入选精选

23:40Anthropic:News(网页)T1网页

精选Anthropic 推出 Claude for Teachers:面向教师的教育 AI 工具

这条消息对教育工作者和AI行业观察者都很有价值。Anthropic没有选择通用聊天机器人,而是专门为教师设计了安全可控的工具,这显示出AI在垂直场景落地的正确思路——不是技术炫技,而是切实解决用户痛点。同时,产品内置的安全护栏也值得其他AI公司参考,尤其是在面向儿童或青少年的场景中。

AI产品#AI安全#Anthropic#Claude
86

五维评分

信息增量9 ×0.3

全新路由机制,市场智慧概念为行业带来较高信息增量。

内容质量8 ×0.2

官方公告内容清晰,但技术细节不足,略有扣分。

实用价值8 ×0.2

对开发者选型有直接实用价值,可降低试错成本。

时效性9 ×0.15

产品刚发布,时效性极强。

信源可信度9 ×0.15

来自OpenRouter官方RSS公告,信源可靠。

基础分 86 × T1 信源权重 ×1 = 86

精选线 60已入选精选

08:00OpenRouter:Announcements(RSS)T1RSS

精选OpenRouter发布全新Auto Router:用市场智慧优化模型路由

这条更新值得所有用API开发AI应用的人关注。以前选模型靠经验和测试,现在市场数据帮你选。虽然细节不多,但方向很对。对依赖聚合模型服务的团队尤其重要。

AI产品#Auto Router#OpenRouter#市场智慧
86

五维评分

信息增量8 ×0.3

包含大量具体修复细节和安全改进,信息密度高。

内容质量9 ×0.2

内容详尽,结构清晰,覆盖新功能、修复、改进多个方面。

实用价值9 ×0.2

修复了多个实际开发中遇到的问题,对用户有直接帮助。

时效性10 ×0.15

刚刚发布的版本,时效性极强。

信源可信度10 ×0.15

来自 Anthropic 官方 GitHub Release,信源权威可靠。

基础分 90 × T1.5 信源权重 ×0.95 = 86

精选线 65已入选精选

07:02Claude Code:GitHub Releases(RSS)T1.5GitHub Release

精选Claude Code v2.1.211 发布:多项修复与改进

作为一个经常使用 Claude Code 进行自动化编码的开发者,我特别关注这次的安全修复,尤其是权限预览字符绕过和自动模式覆盖钩子决策的问题——这些直接关系到团队协作时的安全边界。后台代理报告的改进也让长时间运行的任务更可靠。建议所有使用者尽快升级。

AI产品#Anthropic#Claude Code#代码生成工具

引用前请核对原文