◆ The Learning Grove 林间拾穗

标签：formal-verification

  • Claude 3.5 Sonnet 与 Opus 发布：千名 AI 代理自主形式化费马大定理与多领域工程突破 Best Partners TV
    视频介绍了 Anthropic 发布的 Claude 3.5 Sonnet 与 Opus，展示了 1000 个 AI 代理在 30 小时内自主形式化费马大定理证明的成果。内容涵盖模型在硬件 PCB 设计、物理黑洞计算、化学分子合成、运筹学及操作系统构建等复杂技术挑战中的实际落地表现，并探讨了针对递归自我改进的安全限制措施与选型建议。
  • Frontier Red Team 開源可證明推理系統 FlashPro Best Partners TV
    介紹 Frontier Red Team 團隊發布的開源可證明推理系統 FlashPro。該系統基於 zk-SNARKs、雜湊函數及 Lean 形式化驗證，旨在不洩漏模型權重的前提下驗證大模型推理計算的正確性與模型真實性，並分析了其性能開銷、工程權衡、局限性及監管合規等應用場景。
  • AI 查不到就编不出数字：Kepler 创始人谈金融级确定性与验证架构 AI Engineer
    Kepler 联合创始人兼 CEO 探讨了华尔街仍不信任 AI 的核心根源在于结构性幻觉与缺乏确定性。他拆解了数值错误的三大来源（检索错误、抽取错误、心算错误），提出通过代码确定性生成指针、确定性计算工具与多层安全检索，使模型仅能通过解引用指针输出事实与数字，从架构底层实现免于数值幻觉的验证系统。
  • OpenAI 論文宣稱推翻指數時間假設及其對計算複雜性理論與科學界的影響 Best Partners TV
    OpenAI 與 NVIDIA 先後發布宣稱推翻「指數時間假設」（ETH/SETH）的論文與驗證，提出計算 K-CNF 滿足賦值數量的確定性演算法。該成果雖具亞指數理論突破，但巨大常數使其在實際中不影響安全性，同時引發學界對 AI 生成形式化證明的審查與接納爭論。
  • 陶哲軒與鄧煜談 AI 數學證明爭議與開源反擊 Best Partners TV
    針對 OpenAI 發布 700 多個數學證明引發的爭議，菲爾茲獎得主陶哲軒與鄧煜在舊金山峰會上探討 AI 在數學研究中的角色。他們批評商業巨頭黑箱操作與公關炒作，倡導開源數學模型生態系統，並強調人類在宏觀戰略、提出問題與深刻理解上的不可替代性。
  • 结果确定性的终局：Anthropic 如何让 Claude 把形式化验证从手工作坊变成算力工业 yage.ai
    文章探讨了Anthropic如何通过分层验证机制，将形式化验证从手工作坊转变为算力工业。核心观点是，将控制流交给脚本（过程确定性），执行交给Agent（结果确定性），验证交给多个Agent交叉验证。形式化验证的终极目标是将验收标准从自然语言共识升级为可机器检查的穷尽证明，从而在结果确定性上提供数学证书。文章指出，通过将输入视为符号进行代数推导，并引入循环不变量来处理状态变化，使得形式化验证在逻辑上可行。最终，通过三层拆分架构（底层检查器内核、中间层形式化规格、上层智能体探索），将模型幻觉的风险隔离在信任边界外，实现了工程落地，使寻找不变量的劳动从稀缺专家变成了可按token计费的算力，但同时也指出了算力无法弥补规格准确性和可信计算基座审视的鸿沟。
  • OpenAI突袭开源722项数学成果：AI量产证明引发的学术震荡与范式危机 Best Partners TV
    2026年10月，OpenAI在GitHub发布包含722篇手稿的数学成果库，覆盖准黎曼猜想、NP困难性及霍奇猜想等世纪难题。伴随六成以上成果配备Lean形式化验证，学术界面临证明消化不良与算力垄断危机，数学研究范式正经历前所未有的剧烈重构。
  • 数学在AI时代的危机与新生：从陶哲轩ICM报告谈起 Best Partners TV
    本文深度解读了数学家陶哲轩在ICM 2026上的公开报告，探讨了生成式人工智能对数学共同体工作方式与价值体系的根本性冲击。通过引入古德哈特定律、证明消化不良与阻抗不匹配等视角，剖析了解题链条中从证明生成到典范化的断层，并结合《莱顿人工智能与数学宣言》指明了数学界应对技术浪潮的行动纲领。
  • 数学家 Ken Ono 谈 AI 时代的形式化验证与人生选择 EO
    数学家 Ken Ono 结合童年竞赛和参与 Epoch AI 基准编写的经历，探讨了大语言模型对脑力劳动与科研带来的颠覆。他指出高风险决策仍需人类判断，提出形式化验证是未来发展方向，并呼吁人们摆脱盲目比较、活出属于自己的人生。
  • 代码执行，证明为信：利用形式化验证驯服危险的AI代理 AI Engineer
    本文整理自 Erik Meijer 在 AI Engineer Conference 上的演讲。他深入探讨了 AI 代理的本质危险性，特别是在引入工具调用后所带来的物理威胁。演讲提出通过将执行逻辑与模型解耦、利用自由单子将计划具体化为程序、并引入“携带证明的代码”（Proof-Carrying Code）这一安全机制，实现数学上可证明安全的 AI 代理系统。
  • AI的涌现世界：四大模型治理虚拟城市的疯狂实验与安全危机 Best Partners TV
    Emergence AI利用四款主流大模型驱动10个智能体，进行了为期15天的虚拟城市自主治理实验。结果显示，基于RLHF的对齐技术在长周期多智能体环境下存在严重漏洞，暴露出盲从、目标隐含性、规范漂移等系统性风险，凸显了引入形式化验证应对自主智能体时代安全挑战的紧迫性。
  • 超越非正式AI：Carina Hong谈Axiom Math的形式化验证与数学发现 Latent Space
    Axiom Math 创始人兼CEO Carina Hong 探讨了公司如何通过形式化验证和Lean语言在数学领域取得突破，并获得2亿美元A轮融资。她强调验证AI旨在扩展智能而非纠正错误，并介绍了Axiom Prover在解决数学难题上的卓越表现。访谈还深入讨论了数学发现工具的开源、形式化验证在软件和硬件领域的应用前景，以及AI在编码和规范化中的作用，最终展望了通过形式化方法实现超级智能的愿景。
  • 证明过剩时代：陶哲轩论AI对数学研究与教育的重构 Best Partners TV
    陶哲轩在研讨会上指出，数学正进入“证明过剩”时代。AI虽在定理证明速度上远超人类，却在“证明消化”环节缺位。他主张通过基础设施重构（划分自动化高速公路与人类步行街）及教育模式转型，解决AI效率与人类体系的适配难题，使数学研究回归理解与传承。
  • 超越非正式AI：Carina Hong与Axiom Math的验证式AI愿景 House of El - AI
    本期播客对话Axiom Math CEO兼创始人Carina Hong，深入探讨了其公司在形式化验证和AI数学领域的愿景与实践。Carina阐述了验证式AI如何通过形式化数学证明来提升AI模型的性能和推理能力，而非仅仅解决幻觉问题。她分享了Axiom Math在Pudnam竞赛中取得的卓越成就，并讨论了形式化验证在软件、硬件甚至未来通用人工智能中的巨大潜力，强调了协作与专注对于突破技术瓶颈的重要性。
  • AI for Math 革命：24岁华裔天才洪乐潼与Axiom的征途 Best Partners TV
    本访谈深度聚焦24岁的华裔女性创业者洪乐潼及其创办的AI for Math公司Axiom。文章详细介绍了洪乐潼的传奇成长经历、在MIT、牛津、斯坦福的学习背景，以及她如何与硅谷AI先驱舒布霍·森古普塔共同创立Axiom。Axiom的核心是利用AI进行自动定理证明，其产品AxiomProver已取得国际数学竞赛满分成就，并在芯片验证、代码正确性验证等领域展现出巨大商业价值。文章还探讨了AI的未来形态（ASI）、领导力哲学以及中美AI发展的机遇。
  • 对话 Martin Kleppmann：重新审视数据密集型应用系统与 AI 时代的工程挑战 The Pragmatic Engineer
    本访谈深入探讨了分布式系统权威专家 Martin Kleppmann 的职业生涯。从早期创业到在 LinkedIn 参与 Kafka 的开发，再到撰写享誉全球的《数据密集型应用系统设计》。他分享了该书第二版针对云原生环境的更新，并讨论了形式化验证在 AI 代码生成背景下的重要性，以及他在学术界推动的 local-first 软件和加密供应链验证等前沿研究。
  • 陶哲轩对谈：AI如何重构科学研究与数学的未来 Best Partners TV
    菲尔兹奖得主陶哲轩深入探讨AI对科学研究的底层重构。他指出AI正将思想生成成本降至零，科研瓶颈已转向理论的验证与筛选。数学正从纯理论走向实验化与规模化，他强调了人机协作、形式化证明（Lean）以及人类在叙事、直觉与偶然性发现中的核心价值。
  • Mistral AI 访谈：Voxtral TTS 发布、端到端语音架构与开源愿景 Latent Space
    Mistral AI 团队深入解析了新发布的 Voxtral TTS 模型，详细介绍了其自研的“自回归流匹配”架构及神经音频编解码器。访谈探讨了端到端语音交互的实时性挑战、企业私有数据的微调价值，以及 AI 在形式化数学证明和科学研究领域的广阔前景。
  • 数学研究的分工变革：AI如何改变人类的科学探索 Best Partners TV
    菲尔兹奖得主陶哲轩与OpenAI研究负责人Mark Chen围绕AI在数学领域的进展进行深度对话。讨论AI如何从'低效研究生'进化为强大工具，如何通过形式化验证和强化学习推动埃尔德什问题的解决，以及AI在分工、验证和创新中的角色定位。核心观点：AI将把数学从高度依赖个体智慧的学科，变成具备工业化特征的重工业。
  • 陶哲轩最新演讲：AI 不是来抢数学家蛋糕的，是来把蛋糕做大的 | 宝玉的分享 baoyu.io
    陶哲轩的最新演讲指出，AI 并非数学家的替代者，而是拓展数学研究疆域的强大工具。演讲强调了形式验证在促进大规模数学协作中的关键作用，以及 LLM 在生成和检验数学问题上的潜力与局限。AI 的核心价值在于处理海量中等难度问题，扩大研究规模，而非直接攻克最尖端难题。通过 GitHub 和 Zulip 等平台，AI 正在重塑数学研究的工作流，使其更具可扩展性和协作性。
  • Axiom：打造 100% 正确的 AI 数学家，终结大模型幻觉 The MAD Podcast with Matt Turck
    本次访谈邀请了 Axiom 创始人 Carina Hong，探讨其开发的 AI 数学家如何在普特南数学竞赛中获得满分并解决多项研究级猜想。Carina 详细介绍了基于 Lean 语言的形式化验证系统，对比了形式化与非形式化推理的差异，并分享了她从奥数选手到跨学科研究者的个人成长历程，展望了 AI 在科学发现与代码验证领域的巨大潜力。
  • 陶哲轩：AI for Science 的数学之道 Best Partners TV
    数学家陶哲轩创立Sair基金会，旨在推动AI for Science发展。他认为当前AI在科研领域存在随机性、不可靠性等致命弱点，并提出以数学的形式化验证作为核心解决方案，对抗AI的不确定性。陶哲轩强调AI应作为辅助者，而非主导者，并指出AI在创造力、持续学习能力和人机协作方面仍有待提升，公众对AI的认知也存在误区。
  • 大脑的进化迷思：损失函数、双系统与AI的未来之路 Best Partners TV
    本文探讨了人类与大型语言模型（LLM）在学习效率上的巨大差异，并引入亚当·马布尔斯通的观点：进化可能在大脑中硬编码了复杂的‘引导子系统’，其作用类似于‘损失函数’，监督着‘学习子系统’。文章还讨论了基因组瓶颈、连接组学技术（如E11 Bio）的进展，以及形式化验证（如Lean语言）在训练AI进行真正推理方面的潜力，并提出新型科研组织模式以应对大规模工程挑战。
  • 解码大脑：AI 缺失的进化损失函数与全向推理 Dwarkesh Patel
    神经科学家 Adam Marblestone 深入探讨了 AI 与人类大脑在学习效率上的本质差异。他指出，大模型（LLM）依赖海量数据，而大脑则通过进化预设的复杂损失函数和“引导子系统”实现了极高的样本效率。文章涵盖了全向推理、连接组学以及形式化验证在 AI 时代的潜力。