标签：hardware-acceleration
-
用 iPhone 给 Mac
加速大模型，看起来很疯，但又没那么疯
yage.ai
文章解析开源项目Backburner如何利用iPhone作为外部内存池加速Mac本地大模型推理。核心策略包括利用注意力机制的数学可切分性进行状态划分，将静态历史键值编译为Apple神经引擎权重以规避带宽瓶颈，并通过架构减法优化窄链路通信，展示了在物理资源受限下的分布式推理创新。 -
哪些 GPU 云值得租用？SemiAnalysis 发布 ClusterMAX 3.0 解读 AI 算力与新云格局
Latent Space
SemiAnalysis 团队深度剖析 ClusterMAX 3.0 评测体系与 AI 新云（Neocloud）最新格局。对话围绕十项评估标准、网络与集群安全隐患、最新 GB300 NVL72 部署挑战展开，并深入探讨了算力紧缺现状、前沿实验室的算力分配博弈、英伟达并购策略以及异构与国产芯片的发展前景。 -
对话Jeff Dean：AI的下一个拐点、物理约束与智能系统的第一性原理
Best Partners TV
本文深度整理了谷歌首席科学家 Jeff Dean 在 YC 创业学校的最新对话。他从第一性原理和物理约束出发，详细剖析了 AI 智能体（Agent）的演进、机器学习系统自动化的未来、TPU 的硬件起源与性能演进，并揭示了“数据搬运能耗是计算千倍”这一核心物理法则对系统架构的深远影响。此外，针对创业者如何在巨头阴影下选择高价值方向、如何培养工程品味、以及通过思想实验挑战默认假设，Jeff 提供了宝贵的洞察与方法论。 -
巨型芯片的豪赌：Cerebras CEO 揭秘为何要制造“餐盘大小”的晶圆级处理器
Bloomberg Podcasts
本期访谈对话 Cerebras 创始人 Andrew Feldman，深入探讨了其独特的“晶圆级引擎”（WSE）架构如何通过物理规模解决 AI 推理中的存储瓶颈。Andrew 详细解释了巨型芯片在速度、能效及成本上的代际优势，并分析了推理市场的爆发、CUDA 护城河的消解、以及 AI 硬件行业在供应链和政治环境下的长期挑战。 -
构建实时AI销售代理：Cerebras 硬件与软件创新解析
AI Engineer
本次研讨会聚焦于如何构建一个能够进行自然对话的AI销售代理。演讲者详细介绍了Cerebras的创新硬件（如WSE-3）如何通过解决内存带宽瓶颈来加速AI推理，并阐述了如投机解码（speculative decoding）等软件技术。同时，他们演示了如何利用LiveKit SDK整合语音识别（STT）、文本转语音（TTS）和大型语言模型（LLM），以及如何为代理提供业务上下文，最终实现一个可部署的、响应迅速的AI销售助手。