◆ The Learning Grove 林间拾穗

标签：on-device-ai

  • 深入端侧 AGI 初创公司：48小时探秘 AGI Inc 的设备端个人 AI 愿景 EO
    本期专访深入初创公司 AGI Inc，创始人 Div Garg 及核心团队阐述了其构建端侧个人 AI 智能体的愿景与工程挑战。团队分享了从 Stanford 创办首门 Transformer 课程到退学创业的过程，展示了通过手机屏幕截图与动作模型实现无缝跨 App 操作的 Demo，并探讨了端侧部署对隐私保护、复合错误率优化以及摆脱屏幕束缚的核心价值。
  • 智能体手机加速爆发：换机困境、端侧AI与下一代入口之争 硅谷101
    随着全球换机周期拉长，传统硬件升级刺激减弱，智能体手机（AI Agent Phone）成为产业新变量。从端侧算力、异构芯片协同到端云架构成熟，手机正从'等人操作的工具'转向'替人办事的智能助理'，并引发整机Agent与超级入口的路线之争。
  • 信数据不信感觉：CPI与财报季前瞻，兼论高通眼中的端侧AI落地路径 投资TALK君
    本期内容从宏观资产价格走势出发，剖析软件与半导体板块滚动相关性及市场参与度背离现象；随后深入前瞻本周核心CPI、PPI通胀数据及医疗、银行、芯片龙头的三季度财报；最后结合高通CEO专访，深度解析端侧AI与云端分工、C端智能体爆发对硬件换代潮的根本驱动。
  • 智能体手机加速爆发？换机困境、端侧AI与下一代移动入口之争 硅谷101
    随着全球换机周期拉长，传统硬件升级放缓，手机行业迎来以智能体（AI Agent）为核心的新拐点。端侧芯片算力提升与轻量化模型共同催化了“整机Agent”与“SuperApp”两条技术路线，驱动手机从被动操作工具转向主动式个人智能助手。
  • 模型进了设备，治理留在云端：端侧 AI 的控制面现状 yage.ai
    文章深入分析了端侧AI模型在实际应用中，其计算（数据面）与治理控制（控制面）的架构现状。核心观点是，尽管模型权重可部署在本地设备上以降低延迟，但关键的审核、签名、水印注入等控制面机制仍需依赖云端服务器进行处理和管理，这体现了端侧AI与云端治理之间的分工界限。文章对比了微软、OpenAI、Google等主流厂商在端侧AI架构上的同构逻辑，强调了控制面治理的必要性，以及法律法规如何将合规责任置于服务提供商而非终端用户身上。
  • 端侧智能与SAGE模型挑选框架：如何用本地小模型抹平与云端大模型的性能差距 AI Engineer
    本文基于 Rachel Lee Neighbors 在 Arize 的演讲，深入探讨了以本地小语言模型（SLM）替代云端大模型的策略。作者分析了云端推理在安全、延迟和成本上的痛点，提出了由 Google 联合制定的“大处原型，小处部署（Prototype Big, Deploy Small）”与 SAGE 模型挑选框架，并详述了如何通过少样本提示和后处理技术使 Llama 3.2 3B 达到并超越 Claude 的业务效果，每日节省 1 美元推理费用。
  • 你的 Android 手机里藏着一个通知总控台 yage.ai
    文章探讨了Android系统中的NotificationListenerService (NLS) 机制，它允许应用在每条通知发出时进行内容级别的决策和干预。通过结合端侧AI模型（如Qwen3-1.7B），可以将通知过滤从简单的来源开关升级到基于语义的内容理解，从而实现更精细的通知管理，例如逐条判断是否是剧透或根据紧急程度动态调整优先级。
  • Google DeepMind 的开源 AI 战略与 Gemma 模型解析 Latent Space
    本访谈由 Omar Sanseviero 深入解析了 Google DeepMind 的开源模型 Gemma 4 系列，重点介绍了其在高效参数利用、端侧部署能力、多模态性能以及研发背后的工程协作与开源社区生态，并探讨了文本扩散模型的前景及模型微调趋势。
  • 语音 AI 的 “Her” 时刻：从级联架构到全双工本地化的路径演进 AI Engineer
    Gradium AI 创始人 Neil Zeghidour 深入探讨了语音 AI 实现电影《她》中自然交互的核心障碍。文章分析了级联系统的延迟瓶颈、全双工交互（Full-Duplex）在社交反馈中的重要性，以及副语言理解（Paralinguistics）的缺失。最后，他提出了通过本地 CPU 运行的轻量级模型来解决成本与隐私问题，助力语音应用走向规模化。
  • Gemma 4 技术全解：Google DeepMind 如何重塑高效模型与原生多模态架构 AI Engineer
    Google DeepMind 研究员 Cassidy Hardin 深度解析了最新发布的 Gemma 4 系列模型。本文涵盖了 2B/4B 端侧模型、26B MoE 以及 31B 稠密模型的架构创新，重点探讨了局部与全局注意力交替机制、层级嵌入（PLE）存储优化，以及支持可变分辨率的原生多模态处理逻辑。
  • AI工程迈阿密大会第二天：智能体、模型优化与开发者体验 AI Engineer
    本次AI工程迈阿密大会第二天汇集了多位专家，探讨了AI领域的最新进展和挑战。演讲涵盖了智能体编程的成功实践与心理障碍、大语言模型推理的延迟优化、移动设备上的扩散模型部署、专业化模型与子智能体的应用、知识图谱在上下文工程中的作用、智能体记忆系统的新范式、以及IDE和CLI在AI时代的角色转变。与会者深入了解了如何构建更高效、可靠且可解释的AI系统，并强调了开发者在AI发展中的核心价值。
  • 语音AI的未来：实时语音克隆、端侧部署与即时翻译的革新 The MAD Podcast with Matt Turck
    Gradium公司（源自QI实验室）展示了其在实时语音AI领域的突破性进展，包括PocketTTS端侧模型、Radbot语音代理框架及Hibiki实时翻译系统。这些技术实现了高质量语音克隆、低延迟互动和跨语言沟通，预示着游戏、直播、无障碍通信等领域的全新可能性。