边缘智能与AGI的未来愿景
田鸿飞: 今后我们互联网就不叫做互联网了,应该叫做 Intelligent 智能 WEB,是这样的一个网络存在。我们的初心,那时候我们想做,其实我们就想做 Android 时代。Android 的 Google 的第一个手机是 G1 (HTC) 对吧?我们现在做的 Olares One 就是一个类似于 Android G1 的我们第一代的 Agent OS 的一个软硬件结合的产品,相当于你在自己家里有一个算力中心。苹果的隐私是所有公司里边做得最好的,但是它又是一个特别最赚钱的公司,所以说你的设备越安全,你就越信赖它。
其实我不想做那么聪明的一个大模型,我只想最接近于每个人的模型。我不想这个模型比我聪明,但是它更像最接近于我,对吧?我说话可能喜欢说“对啊对啊”,它就应该说“对啊对啊”。我就希望一个大模型更像我。我觉得其实社会不一定非得像那样,就是一个斗争性的社会,就是 A 和 B 斗争的社会。我觉得更多的时候,社会可能更像是一个以所有的 Agent 一起合作产生超级智能。这时候就有坏的 Agent 和好的 Agent,好的智能体和坏的智能体互相制衡。这时候我们就再也不用担心出来一个超级智能,结果把我们人类都给统治了。它可能会在好的行业里面涌现出更高级的智能出来,这是我想的这个 AGI 的一个形态。
嘉宾介绍与Olares的缘起
芦义(Indigo): 欢迎回到 Indigo Talk。这一期,我也邀请了一个老朋友,应该是对我,我最近的所有的节目基本上都老朋友为主了。因为我们是一块,我记得是我做微博的时候,我们就认识了,我们认识了十五六年了,这样的一个经历,非常老了。我们一块穿越了好多时代。然后这位朋友叫田鸿飞,他现在就是联合创始了一家边缘智能的硬件和系统公司。
那我们今天的话题,我觉得我们也想给大家分享一下 AI 和边缘智能。边缘智能什么意思?就是 Edge,就是 Edge AI、Edge Intelligence,就是在终端执行的这些智能。后面我们会具体讲到今天的这个应用场景以及他们的产品,以及我们两个人各自怎么看边缘智能的未来以及下面的一些有可能存在的机会。那我们就先请田鸿飞先自我介绍一下。
田鸿飞: 很高兴,谢谢芦义的邀请。确实我们从 2009 年 9 月份、10 月份微博上线我们就认识。那时候我在做我的第一个创业公司,在微博上帮企业做营销数据服务的一个企业。后来微博越做越好,我自己后来就在做那个公司之后呢,我去在新疆做一个比特币的服务公司。后来 2015、2016 年我去做投资。
芦义(Indigo): 等一下,你是哪一年做比特币?
田鸿飞: 2012 年。
芦义(Indigo): 巨早。
田鸿飞: 对,这个就和我的背景有关。其实一会儿就会说到为什么我们做 Olares 的初心以及 Olares 团队的背景。Olares 现在的我们主要核心技术人员 Peng Peng,他是我们在创新工场的同事,我们那时候就认识,一起并肩战斗过。
我自己在 2009 年北京创业之前,我其实在 Oracle 做一个安全工程师。所以当我读到比特币论文的时候,就对比特币很熟悉的感觉,因为我在 Oracle 就负责加密公密钥的包管理。所以当时我做比特币的时候,也是做了比特币钱包的加密管理。2015、2016 年我开始做投资,我们投了很多机器人的公司。
至于回到 Olares,Olares 当时是由我们 CTO Peng Peng 的一个 idea。
芦义(Indigo): 你们 CTO Peng Peng 是在当时在创新工场吗?
田鸿飞: 对对,他在创新工场。
芦义(Indigo): 那很早了。
田鸿飞: 对对,创新工场。最早的项目是做点心操作系统,后来他们推出来做涂鸦移动。所以我们 Olares 现在是一个面向智能代理,就是 Agent 的一个操作系统。所以就返回到我们的初心,就是我们想做一个边缘智能的 Agent,面向 Agent 的一个操作系统。这是 Olares 现在,就是我们可以往回溯到十多年前的初心。那时候我们想做,其实我们就想做 Android 时代。对于年纪比较大的人都知道,Android 的 Google 的第一个手机是 G1 (HTC) 对吧?所以我们现在做的 Olares One 呢,就是一个类似于 Android G1 的我们第一代的 Agent OS 的一个软硬件结合的产品。
Olares One 产品特性与市场表现
芦义(Indigo): 了解,了解。我记得我看到 Olares 介绍,你们最开始做的是 OS 的吧?操作系统。
田鸿飞: 对,它现在也是一个操作系统。它就是面向 Agent 的 OS 边缘,或者边缘大模型计算的一个操作系统。我们可能叫它 AI OS 对吧?
芦义(Indigo): AI OS,嗯对。
田鸿飞: 它的技术,你要说咱们,因为咱们都做过技术,做技术的核心,它是基于 Kubernetes 的一个云原生技术堆栈的一个操作系统。所以它的所有技术都是基于 Kubernetes 的,就 Docker 的。
芦义(Indigo): Docker 我知道。
田鸿飞: 对对。
芦义(Indigo): 然后 Kubernetes 应该是一个 Docker 的一个大量的一个管理器嘛,是吧?这个我还懂一点。
田鸿飞: 对,这也是我们这个系统非常高效的一个原因。我们现在做,就是我们这个项目成立于三年多之前,疫情期间。我们这个项目其实做的时候,市场上对标产品也不是特别多。但后来有了 Mac Studio M3 Ultra,然后有了 NVIDIA DGX-1 Spark,大家都在想把大模型带向边缘。所以我们现在也有了一些跟我们类似的产品去对比。
所以呢,我们曾经跟 Mac Studio Ultra M3 对比过的话,我们的性能在运行 ComfyUI 这个生图的环节上,我们大概是 Mac Studio Ultra M3 的 7 倍的速度。
芦义(Indigo): 比他们快 7 倍。
田鸿飞: 对。
芦义(Indigo): 我反正看过你们介绍。因为边缘 NVIDIA Spark 去年年中宣布的,去年初对吧?然后它去年年中就发布了。黄老板也到处把这个机器送给很多著名的。Spark 很小,当时就说它的浮点算力可能是 Mac mini 的多少倍,100 倍还是多少,忘了浮点算力。但它内存没那么大,内存比较小。
田鸿飞: 对对,但是内存贵吧,哈哈。内存比较贵。我们 Olares One 用的是 NVIDIA 的 5090 移动版。我们整体的现在这个售价大概在 3000 美金左右是吧?
芦义(Indigo): 美金。
田鸿飞: 美金。我们最近刚刚完成 Kickstarter 的众筹,前天才结束的。我们 Kickstarter 大概卖了不到 250 万美金。这个其实我们远超过我们自己的计划,因为我们计划当时觉得能卖个 400 多台就很不错。现在卖了大概 800 台。
芦义(Indigo): 对,挺出乎意料的。
田鸿飞: 对对,我们还是挺出乎意料的。
芦义(Indigo): 因为这个东西挺火的,因为边缘计算,我们叫高性能家用 PC 嘛。这是高性能的,或者曾经因为很多人,Mac Studio 就是因为它一体化的显存和都是在一个芯片里面嘛,所以它的性能确实很高。后来大家很多人在本地拿它来串接起来去跑大模型,大语言模型可能在几百个 Billion 参数的,是吧?100 个就是。
田鸿飞: 对对。
芦义(Indigo): 这样子的会长期很多。我记得我关注的时候,这个关注度主要来自于 AI 模型的开源社区,对吧?
田鸿飞: 对对。
芦义(Indigo): 而且 2025 年,中国开源模型很牛逼嘛,就是从 DeepSeek 开始,大家都想再搞一个满血版的 DeepSeek 在家里运行,哈哈。看上去性能很不错,而且挺聪明的。
田鸿飞: 对对。
隐私保护与数据主权
田鸿飞: 我觉得有几个趋势。第一个,就是开源刚刚提到的,大家都愿意在家里装一个开源版的。另外还有一个很重要的趋势,就是其实以前我也写过很多一样的文章,就是隐私在其中。大概 6 年前我写过这样的文章,就是隐私的保护。那过去 6 年,你会看到大家的隐私意识越来越强。欧洲 GDPR 已经通过很多年,现在所有企业都花很大的成本在做 GDPR 的合规。美国我觉得现在隐私也很强。
最近我们刚刚完成 CES 的展览,CES 展览上,来问的人其实都聚焦于两个话题:一个就是隐私,还有一个就是你的数据主权。这个其实已经超乎我意料之外,本来我以为这是个蛮小众的群体。当然还有最近一个点,大家可能更关注的话题,就是 AI NAS。有很多创业公司在做 AI NAS。其实在我们做这个项目的早期,很多人把我们当成一个 NAS 企业。这个 NAS 呢,其实我们也考虑过,也研究过这个市场。我们发现 NAS 当然是一个至今我认为还都是一个蛮小众的市场,对吧?
芦义(Indigo): Yes。
田鸿飞: 可能在中国有个 100 亿人民币最多了,全球不会特别大。NAS 最早其实很早很早,我在 2006 年在硅谷的时候,硅谷有一家企业当时是最早做 NAS 的。当时我还觉得这个企业做了有什么用?但是这个 NAS 这么 20 年过来,其实还是一个蛮小众的。我觉得我们不是一个 NAS 公司,Olares 不是一个 NAS 设备,因为我们硬盘只有 2TB,我们也不支持 RAID 可插拔。虽然我们有很好的安全备份功能,我们有加密的安全备份功能、灾备功能,但是我们没有像 NAS 那样可以支持几百 TB 的硬盘插槽,这不是我们的设计。但是我们支持外接 NAS,当用户的数据超过 2TB,它需要更多存储空间的时候,它可以把我们的设备连接其他 NAS。我们设备当然支持我们设备之间的 Cluster 连接,就集群连接。如果你觉得我们一个设备不够的话,你可以连接几个设备在一起,然后可以扩展性的。所以说我们不是一个 NAS。
Olares One 实际操作演示
芦义(Indigo): 了解。反正我觉得大家脑子里应该有印象了,因为我们刚才给 Olares 做了一些对比。Olares 这个产品,硬件叫 Olares One,然后有个 Olares 操作系统。
田鸿飞: 对对。
芦义(Indigo): 这个操作系统,它实际上是为了 Edge AI,就是 Agent 来设计的,然后再基于容器化的方式来组装的。
田鸿飞: 对对,OK。
芦义(Indigo): 那这个我简单重复介绍一下你刚才描述的东西。大家很好奇这到底是个什么样的东西,因为我们都看过 Mac Studio,还有 NVIDIA Spark。其实我个人我很期待今年那个,但是性能可能不怎么样,就是那个 Steam 做的那个 Steam 盒子是吧?
田鸿飞: 对。
芦义(Indigo): 那个他还设计的挺漂亮的,一个方盒,一个 Cube 是吧?
田鸿飞: 对对。
芦义(Indigo): 其实我就顺着你这个对比往下说。稍等一下,我桌上我这边正好有一台,给大家看一下。
田鸿飞: OK,对对。
芦义(Indigo): 我特意支持鸿飞这边的创业项目。
田鸿飞: 谢谢。
芦义(Indigo): 我们第一批用户都是这个爱好者。
田鸿飞: 对,支持我们的。
芦义(Indigo): 我把这个拿远一点,因为现在没法切换摄像头,切换就断了。这边有一台,看看有多大,是不是和 Mac Studio 很像?后面接口很少。
田鸿飞: 我觉得是因为我们其实是一个叫做,我们是一个云访问,用户通过浏览器来访问它,不是一个用户插上键盘、屏幕的。它是通过主要是通过浏览器远程访问的,所以接口非常的少。
芦义(Indigo): 我看看,后面是有一个 USB C,就是一个 Thunderbolt 3 是吧?火线接口。
田鸿飞: 对,然后 HDMI,一个 USB A type 的接口,然后一个网线接口就没有了。
芦义(Indigo): 对对,极简的。机器还蛮漂亮也不重。那里面是一个 5090?
田鸿飞: 对,5090 移动版。
芦义(Indigo): 那就是等于 5070 实际的。
田鸿飞: 对对,你很懂很懂,哈哈。
芦义(Indigo): 我很懂,因为周围好的朋友买,找我们带 5090 的卡在家里做那个跑生图嘛。
田鸿飞: OK,那你可以用一下我们的生图,绝对不会让你失望,我们就是为生图做了很多优化。
芦义(Indigo): 一般来说,我还没有安装生图的。大概就这么大,大家可以看得到,这个其实挺方便,一体机挺方便的。
田鸿飞: 对,这基本上就是很好,就是不用接任何外接设备。
芦义(Indigo): 对对,直接自己跑了。而且就是你刚刚说的你还没安装嘛,但其实你安装的话,你可能一会儿有时间给大家 Demo 一下怎么安装。其实我们有一个 Marketplace。
田鸿飞: 有点提供了。
芦义(Indigo): 我现在就有,我现在就可以给你看,我已经装好了。我已经试过了,我已经接上网络了,在我家里。我现在可以我桌面上开着,我现在可以打开给大家看一下。
田鸿飞: 对对,我们有个 APP。鸿飞也可以介绍一下我这边。
芦义(Indigo): 对,这个就是这样子的。你在因为所有的 Olares 系统装完之后呢,你可以分配一个自己的域名。
田鸿飞: 对对,子域名。
芦义(Indigo): 然后呢它就是一个很好的方式,把你家里的内网变成一个可以公开访问的。它的机器就是你自己用,你就不用配置什么反向代理干什么的。
田鸿飞: 对对。
芦义(Indigo): 就把你家里的这个资源变成你自己的服务器的,干什么都行,只要你家里上行带宽足够。
田鸿飞: 对,那就很好。
芦义(Indigo): 因为我家里很快,我家里 1.5G,我上行还可以到七八百兆,所以说是干什么都可以。就这样一个访问,这个 Desktop 是吧?这是我的名字,我叫 REWIRED,我这个房子叫 REWIRED,哈哈。我想把它变成我的这个家里的终端,就是我们叫边缘 AI 的控制中心。然后我家里都全屋智能嘛,我慢慢我把它都接上去,哈哈。
田鸿飞: 对对。
芦义(Indigo): 然后这样访问之后就是我看,敲一下回车,你就能看得到,我这有一个桌面,对吧?这里会有一个,这是我自己的 Profile。他有个手机 APP 可以同步。然后呢,你可以看到,就有点像 Mac OS 一样,但是它这个 Web 打出来,你知道远程可以访问。
田鸿飞: 对对。
芦义(Indigo): 这里有一个外挂的 External 文件夹是吧?
田鸿飞: 对对。
芦义(Indigo): 你就可以把你的 NAS Touch 到这上面。然后呢,这是我已经安装过的,装了一些应用在上面。比如说 Steam,我还没开始测试,我看看有没有人跟我玩 Steam Streaming 哈哈。
田鸿飞: 对对。
芦义(Indigo): 我们最重要就是玩 Steam。
田鸿飞: 我们可以玩那个黑悟空的。
芦义(Indigo): 好好。然后呢,我自己装了一个 Excalidraw,这我经常用的一个,就是画草稿的一个。还有 Obsidian 这个云盘。如果这个打开之后呢,它可以变成,你可以直接在你浏览器打开。然后你这里会有一个专门的域名分配给你,你在任何地方都可以,你在外面也可以,你在公司也可以,然后访问你家里的。那这个就是装完了就可以直接使用了,就是这就是一个 Home Web Server 是吧?
田鸿飞: 是是。
芦义(Indigo): 对,然后这里还有看,我看了还有一些是,还有很多是一些,这个聊天的语言模型在里面。
田鸿飞: 对,Gemma。
芦义(Indigo): 哈哈,这是比较重要的。我还我还没有配适配模型嘛,上面。
田鸿飞: 对。
芦义(Indigo): 当然你可以再用你本地的,你可以配置那个阿里的那个什么千问是吧?或者 DeepSeek。
田鸿飞: 可以配千问。
芦义(Indigo): 对,我还没有装,我还没有时间弄。
田鸿飞: 对对。
芦义(Indigo): 我刚刚开始玩,我觉得还挺有趣的。而且相当于你在自己家里有一个算力中心。
田鸿飞: 是。
芦义(Indigo): 是吧?这个我应该我应该理解的很清楚了吧?
田鸿飞: 对对,你可以看,打开第四个就是蓝色图标,那个就是 App Store。
芦义(Indigo): 还有 App Store。好,这上面你们现在主要的是,这个应用是什么类型的上面?
田鸿飞: 主要就是 AI 软件有关的。首先我们,比如说你去 AI Channel,你会看到所有我们支持的,现在已经过很好的优化适配的,支持的开源大模型。
芦义(Indigo): 都有会员也有。
田鸿飞: 对,会员。IndexTTS2,我们 DeepSeek,GPT OSS OpenAI 的开源的,然后 Claude。
芦义(Indigo): DeepSeek。
田鸿飞: 对,DeepSeek R1 有。
芦义(Indigo): 这 DeepSeek 是多少 Size 的?
田鸿飞: 这边是 14B 的没问题,那你这个机器跑完全没问题。
芦义(Indigo): 对对。然后 Gemma。
田鸿飞: 对,Gemma 27B 的,最大的就是 Gemma。
芦义(Indigo): 最大的一个。我猜他在运行着,我装了这个 Google 的叫 Gemini 的 Gemma。
田鸿飞: 对。
芦义(Indigo): OK,OK。这是 AI 的。所以说本地能跑的模型上面都能跑,对吧?
田鸿飞: 对对。然后你去,比如说 Productivity 或 Creativity,就会看到很多的 AI 应用。
芦义(Indigo): 跑大数据就是。这个是画图的。
田鸿飞: 对。
芦义(Indigo): 我知道。
田鸿飞: 哈哈,对。你比如说有 Second Me,就是数字孪生项目对吧?要做数字孪生的。
芦义(Indigo): Second Me 在这里看到了,注意鼠标下面。OK,可以可以,数字孪生。那我知道你们内部有个很重要的机制,就是要做数字孪生,回头你可以详细介绍一下。
田鸿飞: 对对。
芦义(Indigo): 然后我看看 Fun 里面就是 Steam。
田鸿飞: 对,就是游戏。
芦义(Indigo): 回头我做一下 Steam 评测,哈哈。我现在还没有时间搞。还要搞一个手柄上来。OK,这个 Steam Streaming 出来,我就用任何一个终端都可以吧?比如说手机和 iPad。
田鸿飞: 是的,是的。因为它主要的工作都是在我们这个机器上完成的。
芦义(Indigo): Creativity。哦,可以。我刚才打开演示的就是这个,你可以在本地跑这种 WordPress 模型,对吧?可以在本地做 Blog。OK,挺好的。或者说本地,我记得你们这个里面我看到一个很好,有一个关于社区的功能,就是刚才看到了一个在 Discovery 里面有,可以跑一个。
田鸿飞: 对对。
芦义(Indigo): Mastodon。
田鸿飞: 对,Mastodon,就是有点像 Twitter 的一个开源的,是吧?
芦义(Indigo): 对,国内我们叫长毛象嘛。OK,Mastodon。这是可以装在虚拟机里面跑 Windows 对不对?
田鸿飞: 虚拟机是可以的。
芦义(Indigo): 对,OK。好,行。那就是一台 PC。
田鸿飞: 懂了,yes,yes,yes。
芦义(Indigo): 这个我,我都还没开发这些功能。好吧,我给大家了解一下,就是鸿飞他们做的 Olares 系统的覆盖范围,他们能做什么事情,然后用起来是什么样子。因为它不需要显示器,它在家里,就像你可以把它放在任何角落里面,它就是一台 Server。然后呢你可以用它来做计算、做算力,然后做一些自己的 Home Web Server 是吧?来用。OK。而且关键是它有一个 5090 等效的,等效 5070 的一个 GPU。关键是你显存是有 96G 对吧?
田鸿飞: 对,这个 Hardwell。这里有一个两个模式,Silent mode、Performance。我先选择 Silent mode,我怕它耗电,哈哈。英特尔的 CPU。好吧,可以,挺好玩,挺好玩的。我比较喜欢折腾硬件的 Geek,我就喜欢玩这种东西。OK。我先把这个共享给停下来。
苹果隐私架构与Olares的相似性
田鸿飞: 我回来,就是因为我顺着你刚刚的对比往下说。我们这个机器其实就是性能上我们有对比 Mac Studio Ultra M3。从大模型的架构设计上,其实和苹果的路径有很多相似之处。所以说呢,苹果是闭源,我们是开源,我们这个 Olares 整个操作系统是开源的。所以说呢,苹果在它上一次发布 Apple Intelligence 的时候,他们其实用了很多功夫去解释他们如何保护用户的隐私。它的本地的手机上的 Siri,能力不够的时候,他们会到服务器上,会调 OpenAI 的接口,对吧?他们会专门给个人生成一个个人的服务器,然后他个人服务器支持完全的容器化,然后完全支持审计,就是除了用户个人,其他没有任何人可以去查看个人的访问或聊天记录,对吧?
其实这个苹果它当时提出来的所谓的个人服务器的概念,对于我们 Olares 其实就很简单。首先呢,我们就是你个人在家的一个盒子,这个 by nature 它就是你自己的隐私,对吧?把你所有自己的访问都在自己家。我们就是个开源的。所以说我们其实是这么一个,你如果在手机上所有需要 AI 功能的,都可以在这个盒子上完成。所以我们跟苹果的这个架构设计上有很多相像的地方。
芦义(Indigo): 核心就是家里的网络要快一点,别停电,哈哈。
田鸿飞: 对对,是这样的。可能如果这东西越来越重要的时候,你就会有一个 UPS 设备。
芦义(Indigo): 对对,我给我整个房子要装 Powerwall,是吧?
田鸿飞: 对对,哈哈。你像,其实我们 Olares 因为是开源的嘛,所以说用户,有的比较极客的用户,他可能会去 AWS 上搞一个 VPS 给装上去,其实也是 OK 的。我们也支持调用 GPU 的显卡集群调用。但对这样的用户呢,就是他自己的隐私要求就没有那么高了,对吧?毕竟你的数据都在 AWS 上,对吧?所以说那个就是一种极客的玩家,他就是为了玩。我觉得还好。
边缘计算与隐私的权衡
芦义(Indigo): 其实这个地方正好衍生到了一个问题,一个意义,一个就是我觉得我的一个问题,就是说或者说我们一个方向性的问题。就是我们刚才讲的,刚才应该讲苹果的隐私计算嘛,实际上它是一套非常好的边缘计算。也不是说,苹果实际上有一部分是有 Cloud 的,那很多人存在 Cloud 的,它确保这个 Cloud 只有你能访问。
田鸿飞: 对。
芦义(Indigo): 然后通过你本地的设备,通过生物匹配之后,才能访问到云端的这个东西。它是一个循环。
田鸿飞: 对,它是一个循环。
芦义(Indigo): 那就是它的安全都是由本地的硬件上的生物安全机制控制的。
田鸿飞: 对对。
芦义(Indigo): 不然就打不开云上的东西。其实我觉得这样听上去也挺安全的,因为如果都在本地,就是你自己的保管的硬件掉了是吧?停电了,物理损坏了,你都保管不了。这是一个很我觉得是很矛盾的问题,就是说边缘计算呢,对于很多个人来说,它到底的意义有多大?或者说是某一些特定行业的?我也想听你分析一下。
田鸿飞: 其实我觉得这就是我们,我们能之所以能够做 Olares 和 Olares One,也是因为这个真的就是历史的,所有的技术发展到这么一个阶段,和过去 20 年的开源发展到这个阶段,我们站在可能很多历史的积累上面,我们才能做这个事情。你比如说我们,其实我们自己回忆一下,上次装操作系统都是多少年前的事了,对吧?
芦义(Indigo): 对。
田鸿飞: 就是那个,我们上次见 Windows 蓝屏,或者上次重装操作系统,都是很多很多年前的事了,都已经记不得了,对吧?其实现在,就是说以前我们 90 年代末刚学计算机的时候,整天就装操作系统,折腾 Windows,还 Ms-DOS,哈哈。动不动就是装系统。现在都已经不用装了,因为现在操作系统已经其实蛮完善的。包括你刚刚说 UPS,估计你还懂 UPS,很多人其实不懂 UPS,不间断电源,对吧?所以说这个事情我觉得就是 Infra,整个 Infra,其实包括我们 Olares,其实用了大量的云原生的开源技术堆栈。其实这都是我觉得技术发展成熟,就是可能包括我们 Olares One 也支持很多样的灾备方案,就是在比较简单的低成本情况下,我们可以实现非常可靠性很高的一个方案。
芦义(Indigo): 我刚才的问题是这个,就是说有多少人愿意选择完全依赖于自己的物理环境来做这个隐私计算?还有一些人愿意选择本地的物理环境。苹果这样的,苹果虽然是一个我觉得是一个很好的解法,就是它通过它的智能终端,比如手机来实现你的物理安全,生物的这个确定是你。然后呢很多计算还是在云端做的,但是这个云端呢,你只有通过本地芯片里面的这种指纹,或者说以后虹膜是吧,解开,然后才能访问。我觉得苹果就是一个很好的案例,就是苹果的隐私是所有公司里边做得最好的,最好的。但是它又是一个特别最赚钱的公司。它已经说明了,就是它不一定非得靠出卖用户的隐私,或者是说因为要保护隐私,就要 Compromise 用户的使用体验。就是这个隐私和使用体验之间是矛盾的,或者隐私和经济效益之间是矛盾的。苹果已经证明了这两个之间它不是矛盾的。
田鸿飞: 对对,你刚刚说的很对。就是苹果的商业目的不是建立在出卖用户隐私上面的,而且它还是一个最赚钱的公司,它靠卖硬件 Device 就能赚钱。我觉得这个其实所有人都选什么公司最安全,那一定是苹果最安全,因为它的商业模式就证明了它是保护你的隐私,因为它是卖设备给你赚钱的。
芦义(Indigo): 对对,所以说你的设备越安全,你就越信赖它。
田鸿飞: 你不像 Facebook 是吧?
芦义(Indigo): 对,或者说中国叫字节,或者头条,或者说是腾讯是吧?因为他都是在这云端的东西来赚钱。特别是头条,你所有的隐私行为数据都是他的商业筹码,对不对?如果你不用它,它就毫无意义了。
田鸿飞: 对对。
芦义(Indigo): 所以说我觉得社交网络,社交网络确实是个,我们叫,它不只是隐私问题。我觉得社交网络带来的问题就是自己,我前天我都说我做直播还讲了脑腐的问题,因为他不光是侵犯你的隐私,他还侵犯你的思维,哈哈。
田鸿飞: 对。
芦义(Indigo): 这是一个比较糟糕的。但是在这个里面,在中间的来看呢,Google 也是侵犯,因为你所有的数据 Google 都要拿去确定它的广告系统。
田鸿飞: 对对。
芦义(Indigo): 只是说 Google 不做这个社交消息流,很耗时间的事情。
田鸿编译: 对,但是它有 Gmail,还有很多这种云端的系统,它要做更好的广告定位嘛,所以你的文档对他来说都是很重要的。这个里面呢,如果排行来看呢,肯定是苹果最安全,然后其次是 Google,然后才是 Meta。肯定是,他所有的产品我都是全部不放心的,我尽量不用他的设备,哈哈。如果用我就纯娱乐一下就好了。
田鸿飞: 所以说,所以说你看到最近 Google 他在推他自己的 Personal Agent 的时候呢,第一它没有推的力度很大,即使它推了,说实话我自己是不太敢用的。当然隐私是一个我觉得是一个非常主观的 Topic。其实过去十几二十天大家都讨论,有人在乎有人不在乎。但是我觉得整体上就是大家从不在乎到讨论越来越多,对吧?在乎的人越来越多。但是这个最终会走向哪,我们也没必要去预测,因为它本身就是一个有点哲学的一个人生态度的事。
但是我觉得就是苹果很重要,说明了一点,就是说隐私,好的隐私保护并不会损害用户的使用体验。不是说你要为了隐身就要做很多事情,对吧?不是说你要做比特币,要安全你要一定要记住 12 个英文单词,搞得很不好用,对吧?就是我觉得不一定是矛盾的。而且真的就像你说的,真的 Google,它这个就是我觉得就像你刚刚说的很本质的事情。这个公司,一个商业化公司,它最后赚钱从哪来?要不从广告来,那苹果就选择从硬件来,对吧?大家消费者提前为了硬件付了钱,那苹果赚了钱,他又不没必要通过广告来赚钱。
芦义(Indigo): 对。而且苹果他也有 Service,但他卖的 Service,他卖的是 Content 内容,卖的他的 Cloud 存储的服务,对吧?还并没有说我去卖广告给你,或者我让你消费广告,我来赚钱。他是完全,他是完全就是卖产品的逻辑。
田鸿飞: 对对,就是很经典的商业模式,可能是人类几千年,我卖个产品给你用,然后你给我钱。
芦义(Indigo): 对,是这个意思。
田鸿飞: 是这个意思。
芦义(Indigo): 对对。所以那这个里面呢,就是我们刚刚说到的这几种选择,有的人很在乎,有人不在乎。这是个个人,这是个隐私态度问题。但这个里面呢,其实就对于你们来讲,你当时做这个 Olares,你刚才说 Olares OS,我觉得挺有趣的。我回头我去亚马逊云,我的 Google 上面,我把你们 OS 装一个也行对吧?
田鸿飞: 对,试一下。可以的可以的。
芦义(Indigo): 这个东西叫做,我叫做我有一个自己的在云端的一个计算单元,也是比较好玩的,因为我比较喜欢折腾这个。其实对于很多企业来说,它其实他并不想在公司里面去买很多服务器放着,我去租服务器,其实就租服务器而已。
田鸿飞: 对,就是这个数据中心给你一个很安全的一个网络段,我也不拉你的数据。
芦义(Indigo): 对,所有都是封闭的,你加密都可以,我不管你,但只是我租服务器。那么想想你们的这样的,当时你们设计这个 Olares OS 和这个刚才我给他举那个盒子,你们觉得你们主要的用途场景,那给大家可能在这个方面,在这些产品类型里面做选择的人,可以给他一些建议,或者说有些公司,你们的主要产品场景是什么?
Olares One 的主要用户场景
田鸿飞: 我们现在其实因为我们已经刚刚说了,我们 Kickstarter 已经卖出去 250 万美金。其实我们有一定的用户的,就是购买用户的信息筛选。我就告诉你事实好了,从我们原来我们说的是我们自己的猜测对吧?那我们现在是已经变成了事实,我可以分享一下这个已经发生的事情。
其实我们现在发现有三类用户。第一类用户就是设计师。比如说刚刚我说到了,我们跑的 ComfyUI 这个生图的 AI 应用,我们是 Mac Studio 的 7 倍的速度之快,我们成本是它的 2/3 的成本,对吧?Mac Studio 卖 5288 美金,我们卖大概 3000 美金,对吧?3/5 的成本对不对?但我们速度是它的 7 倍快。
那如果大家你可以选择用 ComfyUI 的云版本,云版本呢,那就取决于你的工作量多大,对吧?你要买多少 Credit,你愿不愿意在那排队等,你一个 G 的图片上去,再等几个 G 的图片下来,这个速度,愿不愿意去等,这你的工作效率的问题。这个第一类用户就是设计师,他用我们产品去提高他。
还有一类的用户呢,就是硅谷大量存在的 AI 工程师。他们每个人都要买一个 AI 的 High Performance 高性能的机器,回家玩大模型的,这也是一类人。
那还有就是一类人,大家可能我们一般没想到,就是一般的小企业主。我就是小企业主,可能比如说现在他做订阅对吧?他一个订阅花 10 块,一个月花 10 块、20 块钱,看不不多。但是每个小企业主大概平均每个月要给 20 个 SaaS 公司付费。那一个 10 块,那就是 200 块一个月,一个 20,一个月就是 400 块。他可能一年就是他的花费就能买我们一台机器。而且最重要的是说,他买了,他用了 20 个 SaaS 公司的产品,它的数据分布在 20 个公司。他用我们的这一个产品,它可以装 20 个对应的开源软件在我们这个设备上,然后它所有企业的数据在一个地方。这样的话,就会谈到我们最近这两天比较大家才流行的,就是说现在用 AI 来解决 SaaS 的问题。一个是 SaaS 的应用性问题,还有一个 SaaS 的数据共享,大家一起来通过大模型来调,来产生一些商业智能的问题。其实这就是你小企业可以买我们一台设备,节约大量 SaaS 数据的 SaaS 成本问题,以及可以把 SaaS 数据集中在一起。这也是我们的一类客户。
by the way,刚刚你说到有些企业用,其实我们也要在云端用。我们 Olares 还有一个企业版本,我们支持大规模的 Hyper 更高 Performance 更高档的 NVIDIA GPU 部署的一个版本。这个我们在企业方面也有一定的应用。
数字孪生与个性化AI模型
田鸿飞: 当然对于我自己,其实我认为最感兴趣的,我自己最感性的其实就是数字孪生方面的应用。就是我们个人,现在这个社会上,其实所有的公司,我们所有人的集中精力都在 AGI 和超级智能。但我们所有精力都集中在是 OpenAI 在做,还是 Anthropic 在做,还是 Google Gemini 在做。大家都依赖,是说一个公司把一个大模型做好,就能实现超级智能了,对不对?这个其实,但是没有人去做一个事,是说,就是说我其实我不想做那么聪明的一个大模型,我只想最接近于每个人的模型,对吧?就是叫数字孪生。就是说,我其实只想说,我不想这个模型比我聪明,但是他更像,最接近于我,对吧?我说话可能喜欢说“对啊对啊”,他就应该说“对啊对啊”。
我可能举个例子对比你就知道了,对吧?当我工作中,我去给客户写邮件的时候呢,我希望写一个非常正式的、非常漂亮的邮件,这时候我就用 OpenAI 来帮我写。但是我可能要跟比如说芦义你写邮件的时候呢,我可能就会,我希望这个大模型模拟我的语气,模拟一个朋友的话来给你写邮件。我就不希望他,我就希望一个大模型更像我。
所以说呢,你看我现在带这个设备 Limitless,24 小时采集我声音。如果我有一个这个,我再把 Gmail,再把所有我个人的数据都收集在一起,包括其实我 20 多年前的 Hotmail,还有读书的学校邮箱邮件,我都其实都有保留,都有存储。所以我要把所有的数据以及未来产生数据全部集中在一起,通过大模型学习我,然后呢可以做出来一个更像我的这么一个大模型,然后就这个 Agent,然后可以来代替我在数字社会中做一些事情。
当然这个话题,其实也是不一定很多人 Buy-in,但是也有些人是很 Buy-in。因为包括我,我前两个星期从 CES 回家的时候,路上旁边坐了一个波士顿 Dynamic 的一个 engineer。我在说起来的想法的时候,他就说你这想法太好了,他说我的老母亲现在整天对着 Siri 聊天。他会觉得,他说如果当我你有这个硬件,我这个能够让他把他的聊天都记在那个盒子里面,然后那个会对他一生记忆的一个回忆,对吧?就像我其实也是,我其实觉得这个数据,比如说我的老父亲,他一生有很多故事。我小的时候呢,他在忙,他没时间跟我讲。等他老了退休了想跟别人讲的时候呢,我其实在家里待的时间很少,他也没时间给我讲。那现在其实我想再有很多故事想问他以前故事的时候,现在已经不可能了,对吧?其实这都是一个我觉得对人生,与人生产生一辈子数据的一个收集。这是我觉得一个数字孪生。
另外一方面其实 DeepMind 刚刚最近发布了一篇论文,就是 2025 年 12 月 19 号发布的一篇论文,就是说一个分布式,所有人都集中在做超级智能,就单一超级智能体。他做叫 Monolithic 的,叫单一智能体的时候,其实还有一种可能性,就是超级智能来自于多个没那么智能的智能体的协作来涌现出来。这个话题我们后面再聊好吧。
本地数据处理与云端协同
芦义(Indigo): OK,这个我们一步步的。我正好前面能有一些问题,就是你刚才在讲场,我刚才的问题是场景。等我以后能把它讲到数字孪生,我说一下我自己的个人感受。因为我觉得不管对个人来说,可能我们针对 Pro User 来说,现在 Pro User 一方面是他想用本地算力,因为他东西本地算力能做,特别是图形生成的,或者说某一些视频生成的,它比在网上排队要好。就是它相当于我就用本地的,我一次性的把这些算力买断了,然后我就是我就省钱吧。接下来我如果说用的多了,我用的越多我就越省钱。不然你买断一个硬件,肯定比天天租 GPU 要便宜,对不对?
田鸿飞: 对对。
芦义(Indigo): 除非你经常在用,那肯定是这个投入比是划算的。
田鸿飞: 对。
芦义(Indigo): 这是一种需求。然后第二种呢,我觉得,因为最近我在密集得使用 Claude Code,Claude Code 对,然后还有 Skill 这种功能。实际上我很喜欢 Claude Code 在本地执行,他在我本地创建了一个虚拟环境,然后把我本地的数据来跟我进行加工、处理,甚至然后再写回本地。所以说,那么这个东西我觉得是一个趋势,就是说其实有很多工作,不管是我们叫 Pro User 或者说小型企业的工作,或大企业也是一样的,它有好多好的数据都是在 in house 的。
田鸿飞: 对对。
芦义(Indigo): 因为哪怕有的企业会把一些数据存在 Google Drive 上面,但是那也能访问嘛。但是大量的其实还是 in house 的。
田鸿飞: 对。
芦义(Indigo): 我在本地我访问更快,我觉得更安全。而且我本地混乱,很混乱,但是我也觉得很安全。所以这种东西呢,我觉得有一个 Agent 能够在本地,就哪怕这个 Agent 呢,它就是说,哪怕跑到你们这个盒子上的这些智能体,因为它是都在本地运行嘛,它没那么没那么聪明,它没有云端那么聪明。
田鸿飞: 对。
芦义(Indigo): 但是呢,我觉得数据的安全,数据在本地是很重要的。哪怕我去租用一个,我租用 Claude 是吧?这个 4.5 云端,它在我本地处理,处理完了之后还是写到本地,那我觉得也可以。我不用把所有的数据全部 Upload 到你的云端去,然后你的云端数据库去帮我做处理,我不需要这样子。因为这样也慢,第二个呢,我太多数据了,我也不清楚我怎么 Upload,对吧?
田鸿飞: 对。
芦义(Indigo): 我还不如就让你我,我应该告诉你,我授权给你,你在我本地就执行。相当于我雇了一个智商很高的 Agent 在我本地干活,干完就走,然后呢都是我,都是安全的。就是我可以两种形式,一种形式是说,我直接用我跑在 Olares 里面的这种本地模型,哪怕我因为我觉得模型发展迟早,他们也会变得这端侧模型,迟早他智商也会慢慢提高的。因为随着训练往前走,还有本地算力提高。就是我觉得他能够做一些,怎么说呢,他能够做一些日常中整票据,什么都能做。如果说他发现这个东西需要特别推理能力,然后他远端请求就好了。这里面我觉得里面也能实现这种东西,如果说在里面的盒子里面,做一个这样子的,就像 Open Code 是吧?之前很火的,或者说你们做一个 Engine Container 在里面,你自己识别哪些需要在本地做,哪些需要在云端做,然后你把它处理好,然后处理数据在本地。我觉得这是很非常好的一个应用场景。大家一个盒子,或者说对于企业来说,你们说你们刚还有个解决方案,你可以把盒子给串起来吗?或者有一个更高端,更高端版本,那么企业可以买一批放在公司里面,都不用租机房是吧?
田鸿飞: 对对,我们的 Olares 操作系统是支持 GPU 集群调用的。你可以把一些,就是说可能需要很复杂的推理性任务,甩给 GPU 集群更强大的显卡去计算,这个是没有问题的。
其实你刚刚说现在的大模型,就是一方面呢,就是说大模型就是特别特别大,都是参数越来越多。但是其实你问他问题的时候,激活的参数的比例其实是很低的,有的时候低于 5%。其实还有很多大多数任务是不需要大模型的。所以说这时候其实你可以在本地做,就非常更有效率。这个其实这个而且现在的大模型说实话也是各有侧重点。Claude 比较擅长于做 Coding,这个现在已经因为江湖地位已经定了,对吧?那 OpenAI 貌似比较擅长于做视频生成和文本生成,这个江湖地位好像也比较定了。
芦义(Indigo): 没有还没定下来,我觉得 VEO 也挺好的,呵呵。OpenAI 现在有点乱,呵呵。
田鸿飞: 是是。随着我觉得这个就是这个以后的模型,其实这个就像,就像刚就是各有特点,它不一定会是一个单一的智能体,它有很可能是由多个智能体合作生成一个超级智能。
芦义(Indigo): 对,这个是我比较认可的。我觉得数据,大量的数据,特别是企业,小企业或者说个人的专业用户来说,我有大量的生成的数据,在本地的效率最高的。这模型只进来,就是你现在我自己有一个私域的 Data 领地,我邀请你模型进来,弄完了你走。然后呢你可以,就是以后可以,还有这种服务,你进来这些数据你都不会采集对不对?模型公司肯定这点信用得有,对吧?我不采集你的数据,我用完我就走,我只提供智能给你。相当于我在买这个买算力,然后买算力回来在我这做智能执行,然后呢把数据给我梳理完,然后你就离开它。然后这种算力分成一个是在本地执行的,一个是云端。
田鸿飞: 而且你这个其实就真的说到了我当时 20 多年前,25 年前在 MIT 写毕业论文的时候,写网络计算。当时就有一个讨论就是说是,是让算力程序下嫁到你本地,干完活就走了,还是你把数据给他,让他在那干活,然后把结果给你更有效率?那大家争论下来,更简单的当然是把程序下载下来更有效。因为你的数据是这样,可能会很大的,对吧?然后你数据传过去,你可能还要进行加密的,然后进行什么同态加密的,什么合成数据的,这个各种的隐私保护,这成本很高,对吧?所以说,这个我觉得是蛮难的一件事情。所以说我觉得,我觉得这个,这个就是你刚刚说的那个,其实是一个我觉得未来很有可能的一个事情。
而且你看最近特斯拉对吧?特斯拉在做 100 万个人的 Human Simulator 来计算,对吧?他们一个观点其实就很有意思,就是说他们相对于大家都在做大模型的时候,参数越多越好的时候呢,他们在做一个小模型。他们一个关键,我小模型可以 Iteration 的更快。然后呢,我也可以通过小模型之间这个之间的协作,产生更多的智能,对吧?
芦义(Indigo): 这我觉得也是一个,这个咱第一次听说到,还有一个这么大的特斯拉在做这个方向,我觉得都是一个很有意义的探索。
田鸿飞: 对对。还有一个刚刚你提到那个,就是数据问题。就是大家现在已经有共识了,就是说现在大模型训练的数据已经把世界上可能用到的数据都已经用完了。他们就说碰到了数据的墙,然后 98% 的数据都是在私有的,是没有,是没有办法被大模型采用的,对吧?那这里面那个 98% 里面,其实有相当大一部分数据是在企业的数据库里边。这就是 Larry Ellison 他的观念,他说他会都在 Oracle 数据库里边。然后呢,是需要得到授权使用,这是 Oracle 他们的一个战略,是如何帮企业更好运用数据来训练超级智能。
那我觉得还有一部分是个人的,虽然个人的数据,其实很多时候就是一个非结构化的,然后就结构化,又是异构的,就是聊天数据、邮件各种各样的到处,而且都不在一个地方,可能在 Facebook、在 LinkedIn,是很难去被利用的。但是如果我们大家就用 Olares 的话,对吧?我们可以用 Olares 作为一个个人数据的一个集中点。包括我的 Limitless。Limitless 其实现在有一些 Limitless 的用户。
芦义(Indigo): Limitless 是 Rewind 做的吗?
田鸿飞: 对对,Rewind 做的。现在有很多 Limitless 用户自己把数据导出来,因为他卖给 Meta 了嘛。很多用户 Limitless 用户,对吧?然后就把原始的录音数据导出来,然后自己在家里用大模型来把这些录音数据整理,这些都是我们的潜在用户。
芦义(Indigo): 被 Meta 买完了之后就会有隐私问题吗?
田鸿飞: 很多。
芦义(Indigo): 对对,我很喜欢这个,你知道吗?我前两天把它丢了,我还蛮着急的,因为它现在不卖了,我也买不到新的了。但是它其实现在对我这个还帮助挺大的。
田鸿飞: 对,是的。
数字孪生与未来科技展望
芦义(Indigo): 那我这个里面我就有一个,有一个电视剧黑镜有一集就讲这个了,是吧?是你先挂个东西,把你去世的人的所有东西都收集下来,然后存在里面,有个公司,然后把它给复原回来对吧?哈哈。
田鸿飞: 对对。
芦义(Indigo): 我感觉你刚才讲的那个数字人生就有点像 Black Mirror 里面这一集。首先你可以让大家我每天把我各种东西都采集下来。
田鸿飞: 对。
芦义(Indigo): 然后呢,等那天你去世之后我把它还原回来。
田鸿飞: 对对。我觉得我觉得就是那个黑镜,他描述的。还有一个叫 Mickey 17,我不知道,好像是叫 Mickey 17。有一个电影就是前年有个电影,他把人的灵魂上传,然后呢他可以如果人的肉体被损坏了之后,他要再 Print 一个,然后从 3D 打印再 Print 出来一个。结果那个人有一次他掉坑里,就没有人去救他了,因为说反正我回去再给你 Print 出来一个,想没必要救你。结果这人就自己爬上来了。
芦义(Indigo): 所以有十六号自己。
田鸿飞: 对,有十六号和十七号,因为他的名字也不能说叫,怎么叫一个名字,这就有两个号码,有十六号和十七号,要成两个人。我觉得这都是一个挺有意思的一个哲学上的,反正一个讨论。但是我觉得对,这个就是刚刚说的,你们想的终极理想之一,就是在本地实现他的这个数字孪生,对吧?这个我觉得对,这个东西挺,怎么说呢,我觉得现在的技术还是有一点差距。对,这个东西。但是呢我觉得是好事。
我们刚才其实聊的是数据到底应该是在云端处理,还是在本地处理。所以我的建议是在本地处理。刚刚说个人专业用户数据、企业数据,然后你强调数字原生,就是很多很多录下来的个人数据。个人数据其实更应该在本地,更应该在本地。因为不然你全部传上去之后,就真的成广告了肥料了。
田鸿飞: 是是。
芦义(Indigo): 这个所以说,而且现在你想想看,OpenAI 在做这个像 PIN 这样一个笔,还是一个挂在身上的胸针。然后呢,苹果马上说我要应对这个竞争,他马上他也要做一个这个胸针。
田鸿飞: 对对。
芦义(Indigo): 就是一样的。我觉得这个今年下半年,或者今年的某个时候,这些公司都会宣布的。就是你现在挂在身上的这个胸针,或者挂在领口上这种设备,就是说以后就是眼镜,眼镜和胸针是手机之外,在这个 Edge 智能上面,边缘上面最重要的两个信息采集。
田鸿飞: 是是。所以我觉得,我觉得就是,就说到另外一个话题,就是包括豆包手机,豆包手机以及手机厂商,对吧?豆包手机之后,很多手机厂商就怕了。然后很多,当然不是手机厂商吧,手机厂商可能更多的是开心,但是那些超级 APP 都怕了。就是就说到这个话题了,对吧?就是其实,其实干掉手机的一定是,就是这些。因为当就是 OpenAI,当就是说所有这些 AI 公司把你从眼看、手接触解放出来,用语音就可以交互的时候,你就不需要有这个屏幕了,对吧?你不需要有这屏幕了,你可能就是,比如说我对戒指或对这玩意说话,它就可以完成很多任务,就不需要屏幕了。或者说,至少大量的减少屏幕使用时间了,对吧?
芦义(Indigo): 那我打断一下,那我没法刷小视频了,对吧?哈哈。
田鸿飞: 其实,其实小视频本身其实我觉得对吧?就是一个,我觉得可能这另外一个就是我就,我还从来没想过这个问题。但反正就是刷小视频本身是一个,反正现在这个负面一直被大家都越来越,而且这是好事,哈哈。
芦义(Indigo): 对对。
田鸿飞: 而且,而且可能也就变成一帮人就刷小视频,一帮人。就像现在很多人从来不刷小视频,对吧?就像我,其实我从来没下载过抖音、TikTok。但是微信把我给抓住,就是你逃不掉,对吧?我这样我可以不下载抖音和 TikTok 和这个那个啥,但是微信,微信天天那个朋友圈那个群里推的话,就还是把我给抓住了。
芦鸿飞: 对,这个很难。
田鸿飞: 对。但是我觉得就是就是,就是豆包就是,就是它其实在豆包在某种程度上和我们 Olares 其实,就是我觉得豆包不应该在,或者是说那种产品,不是豆包本身,就那种产品,其实更应该在我们 Olares 机器上实现。然后前端的交互变成了这些,这些大量的隐藏的设备,不管是这个还是耳机还是眼镜。然后呢,你可能很多任务就是你现在不需要掏出手机来,然后直接就给他。而且你现在看,就是如果说我的这种胸针 24 小时帮我采集,不管是语音还是文本,它这个处理,把这些文本做转换的智能不用很高,开源模型足够了。就给你整理成资料,然后存在下面。如果除非你想分析什么洞见出来,拿这个去做什么研究,可能还需要高级智能。
芦义(Indigo): 对对。
田鸿飞: 但是就是把你每天的话记下来,总结成要点,然后提醒一下你自己,完全不需要太高级智能。你就把你这个 DeepSeek 开在本地,是吧?就能跑了。
芦义(Indigo): 对。
田鸿飞: 但是就不需要,但是大概率我觉得至少对于我来说,我是不敢交给这些云公司去做的,对吧?可能有人比如说,比如说刚刚有人打电话让我问我的 Credit Card Number,让我订飞机票,那我重复 Credit Card 什么,他都能听见了,对不对?哈哈。
芦义(Indigo): 对,是的是的。这都是问题。我们刚才实际在聊这个话题,就是说场景是什么,是吧?在本地的。我们聊了好多这个场景,我举了些例子。所以我们的结论,我自己的个人的结论就是说,鸿飞应该刚才也认同我,就是说数据,重要的数据应该在本地处理。所以说本地和云端的协同方式,就是云端提供这个智能的计算能力,然后本地提供数据能力,是吧?
田鸿飞: 对。
芦义(Indigo): 这样子来合作,或者说有一些计算能力也能在边缘提供,如果这样最好。因为我觉得这个模型的趋势是这样子的,随着这个模型,就是你刚才提到了的 Elon Musk 说他们要这个是 xAI,实际上他们在压缩一些更小的规模,更小的智能。就它能够在本地很高效的执行任务。因为 Tesla 就有这个需求,Tesla 你像我自动驾驶,我不可能去云端吧?
田鸿飞: 对。
芦义(Indigo): 云端的做自动驾驶,那不是那他太危险了,延迟那么大,他肯定都是在本地做的。Tesla 是一家完全本地的一个 Edge 端执行的一个 AI 公司,是因为他所有的最后的推理必须在本地做,他不可能在云端做的,对吧?这个是他的。所以说他本地以后,他的芯片会越来越强大。现在 AI4、AI5、AI6,以及到 AI7。Elon Musk 前天的时候做了一个在达沃斯论坛上做了一个分享吧,他接下来这几个公司是怎么怎么来做的。他接下来这个 AI 可能要为太空设计,是吧?以后要太空上做算力,哈哈。
田鸿飞: 对。
芦义(Indigo): 然后现在主要在搞 AI5 和 AI6 这两代。然后 AI6 就是用来驱动 Optimus 机器人的。AI5 呢是让车变得更好。大概是这样的一个距离。所以 AI5 呢,就是有很强大的边缘算力了,因为它只做整数矩阵运算的嘛。然后 400 万辆在北美有 400 万辆特斯拉,以后都会成为这个边缘计算节点。你看,其实你前面。
田鸿飞: 不好意思,你说。
芦义(Indigo): 没关系没关系。我就是想加插一句,其实它的这个现在 400 万辆,它其实主流机型都是用的 Hardware 4。Hardware 4 其实它的 AI TOPS 才 144 TOPS。那对大家就简单对比一下,就 5090 移动版大概是 1800 TOPS。所以说我其实我挺好奇,就是他们在这个特斯拉上用 100 万个 Human Simulator 的话,他们这些小模型能在这么低的处理器上运行,这个还是挺牛的。当然它也可能是指的未来它那 AI7 的发布,它在那上面一个。不一定是现在的 400 万。可能 AI5 了,AI5 是为这设计的。AI4 肯定是不行的了,哈哈。就 AI4 只能说让现在跑 FSD14,可能再跑 15 FSD 版本都有点困难了。OK。但是呢,它要为下一代嘛,那车升级很快嘛。所以说这个,这个抛出一个很好的问题。
因为现在想想看,现在世界上有终端算力最大的公司其实是苹果,是吧?苹果的 MacBook、Mac Studio、Mac mini 加起来数量是巨大的。还有 iPhone 是吧?
田鸿飞: 对。
芦义(Indigo): 当然 iPhone 的算力肯定比较弱,它是手机嘛,它是移动的。但是插到家里,插电脑插电的都是 Mac。这个是很可怕的一种算力。然后另外一块呢,可能我觉得在单一品牌下仅次于苹果,就特斯拉。
田鸿飞: 对对。
芦义(Indigo): 对,特斯拉的车是吧?
田鸿飞: 对对。
芦义(Indigo): 当然特斯拉车肯定是肯定没有 PC 多。但是我说单一品牌,单一品牌下面的。而且这个它可以同步的云端进行这个 OTA 升级的。
田鸿飞: 对,只有特斯拉了。
芦义(Indigo): 所以它数量是足够大的。所以说我,我是这样看这两家公司的,他们以后两个,两家公司都是边缘算力巨头。
田鸿飞: 还有我们,还有我们,哈哈。
芦义(Indigo): OK,可以争取。给你立了很大的榜样,哈哈。所以我觉得这个边缘算力是非常重要的一个,就是在接下来,就在模型,随着这个模型它就一路狂奔,是云端的,会很厉害,推理能超强,它可能是非常非常大的一个规模。但是呢,处理日常任务的这个,处理日常任务、隐私任务,或者说更像你的模型,它应该在边缘执行。有些特别简单的会在手机上执行,但是复杂一点的,它会在像 Studio,像 Home PC,或者以 Office 和家庭为单元,它需要有这种智能设备。以后我们买电脑可能需求,就比如说我想在家看看。
田鸿飞: 对,那我家里有一个算力中心这样的。
芦义(Indigo): 对,是。
分布式智能体与AGI的涌现
田鸿飞: 这时候我又想回到我们刚刚谈的话题,然后你说一会儿谈了,就是说超级智能是不是必定产生在这个集中化一个单一模型,对吧?那超级智能有可能产生在这种多的,很多个亚智能的,就是没那么聪明的节点之间,通过协作来产生,来涌现出来超级智能。其实这更像人类的发展。人其实更多的时候对吧?就是一个人类社会,是人和人,就所谓社会,就是人和人之间进行交互,然后共同通过市场经济来达到一个共同的目的,共同致富,对吧?所以说那个智能会不会在分布式的智能体之间交互产生?没有人对吧?我们至少对。
所以你会看到我的祖先,我自从 20 多年前在学校读书的时候,我们写网格计算,到后来又做这个,就是又在微博上做第三方应用,还有到后来做比特币。其实我其实一直都是比较喜欢于做这种分布式的、去中心化的一些应用。
芦义(Indigo): 对,我自己可能这个有这么一个理想,天生比较反骨是吧?哈哈。
田鸿飞: 对对。所以说,我觉得这个智能在很有可能就是在各个智能体之间,通过市场经济的这个协作,对吧?就是最后提到了,就是智能体之间如何进行协作,对吧?然后这其实是一个更符合社会发展以及更安全。其实我觉得更想说的,更安全。现在无论 OpenAI 做的东西,不管不论被任何一个公司、个人或者国家控制,都是很危险的。我相信你也读过那个硅谷那个人写的那个《Situational Awareness The Decade Ahead》那个文章。
芦义(Indigo): 看过。
田鸿飞: 对,写得非常的,这个叫我咋说呢,就是这个非常惊人哈。但是但是,我觉得其实社会不一定非得像那样,对吧?就是一个斗争性的社会,就是一个打压,就是 A 和 B 斗争的社会。我觉得更多的时候,社会可能更像是一个一起,以所有的 Agent 一起合作产生超级智能。然后呢这时候就有坏的 Agent 和好的 Agent,好的智能体、坏的智能体互相制衡的东西。这时候我们就再也不用担心出来一个超级智能,结果把我们人类都给统治了。其实这也是我们 Olares 希望,就是说是,如果我们每个人都有一个自己的智能体,然后呢我,我的智能体跟你的智能体协作,可以一起做一些事情,对吧?只要这个,或者是说我们有个开放的一个市场,我们的所有的智能在里边协作,我觉得这可能要是比那个单一智能体更符合现实以及更安全的前景。
群体智能与市场博弈
芦义(Indigo): 对,这个就是我们,我们算是我们今天聊天的后面的话题了,差不多最后了。因为我不想把这个话题升维一下嘛,就是哈哈。我们最开始从这个你在做什么,然后聊到你们做的这个产品 Olares 是什么,然后聊到这个 Olares 特点,然后聊到了这个在边缘计算能做什么。然后以后大家会买这种边缘的硬件设备,哪些场景适合它,哪些场景不适合它。然后还有什么 Digital Twin 自己的数字复制。然后呢我们最后再聊到了这个,这个边缘的智能体形成群,我们叫做群体效应是吧?叫集群效应。比如说哪些公司,哪些硬件公司,我刚刚举了两个例子,Apple 和 Tesla。当然你们 Olares 也想往这个方向走。但前提是你们得有足够切中刚需,大家才会去买嘛,这个是很重要。你前面其实讲到过了个论文,论文里面有什么结论?你可以分享一下吗?
田鸿飞: 这论文的结论就是说,当所有人的视线都在集中于单一智能体的时候呢,我们应该去至少去研究,就是超级智能可能会产生于亚智能体,它叫 Sub-agent 亚智能体。超级智能可能会产生于亚智能体的通过协作而产生。然后这时候呢,他提到一个很惊人的,就是说那这些智能体之间的协作也需要一些所谓的 Alignment(对齐)和价值的导向以及安全的防护措施。他认为这个可能性还是蛮大的。就是这个是。
然后呢,就是还会提到了一点,就是说刚刚我其实有人已经提到了,有一些就是说,他说虽然现在的大模型很大,但是利用效率很低。然后大模型其实也各有各的擅长的地方,也不是说一个大模型比其他的所有都好。所以说模型之间是需要有协作的,协作之间产生的智能可能大于单体的智能。所以说它的结论,它就是号召大家更多的去关注这个区域,中心化叫,它叫区域,它叫分布式,还没提到区域化,还有 Distributed。其实 Distributed 和 Decentralized 还有很大的不同,这个我们就不聊了。但是它是说分布式的智能体之间的协作以及安全问题,他是这是他们应该做的第一批,第一批可能来关注这个问题的。但其实我们 Olares 其实已经在做一些这样的事情了。
芦义(Indigo): 对。那就是这个很好的话题,就是说上百成百上千,或者上万个在本地的移动这硬件设备上执行的小的智能体。它可能有的不是很聪明,但是也有这些智能体,它会调用云端的这个。
田鸿飞: 对对。
芦义(Indigo): 因为现在很多这种叫做在本地运行的这种开源框架或者 Agent 的,是吧?我这边我是硅谷有个朋友,他们是做 Antimetal。之前有一个叫做 Exo 一个开源的分布式 AI 计算框架,是吧?他们就是可以把 Mac mini 串起来,然后提升算力的。Antimetal 它就是在本地做了一个开源的一个容器。他们现在好像是在搞代码上面还不错,排名跑了很高。回头介绍你们,这个可以认识一下吧。先装到你们的设备里面去,然后很快的在本地可以部署这个,把几个 Olares 给串起来,然后跑这个 Agent 在里面。
所以我觉得这种情景就是他是协作,但这个协作场景可能是用在某些领域里面。比如某些金融领域里面,你想想看,如果说大家金融公司所有的这种股票炒股公司都在用 Agent,这就分布式的在做这个股票自己交易处理。那实际上你在上次的来看,那整个股票市场又变成另外一种阶段了。就之前都是人类的操作嘛,然后现在股市很都是机器的。
田鸿飞: 机器的。对对。
芦义(Indigo): 它会形成我们不知道这个股票,因为最终它会形成均衡博弈。
田鸿飞: 对对。
芦义(Indigo): 就所有人类都被淘汰出局,最后只剩机器跟机器的上面,哈哈。
田鸿飞: 其实这个其实已经在发生了,对吧?现在股票市场的 60% 交易量来自于高频交易,对吧?量化交易。
芦义(Indigo): 对。
田鸿飞: 对。然后那个,那最近有一个公司叫什么来着,大家都知道对吧?那个叫 Numerai。他把所有的大模型跑去做交易,对吧?然后那个那个公司,这个本来我以为他是一个搞着玩的对吧?后来我读了一下他们公司的博客,后来发现他们还是一个蛮严肃的做 AI 研究的公司。他们也就想,他们认为这个市场博弈其实是最难的,而且它是 Zero-shot 零样本学习的这个模型训练,对它其实是最难的。所以说他们就想把所有的大目标放在这么一个试验场来去试验,来做模型的提高和训练。所以我觉得这个其实还是你说的是。但是而且就是区块链,其实在某些方面其实跟这就有关系,对吧?就是 Agent 和 Agent 之间要做交易,或者以及你要把这个大量的股票交易要做在链上,对吧?就是最新的 Howard Lutnick 要有决定要把这个华尔街链上化。不是那个什么道琼斯是吧?这个纽交所已经开始自己建自己的 TOKEN 的交易平台了吗?
芦义(Indigo): 对对。而且还有一个就是,你看 DeepSeek 不就是量化基金团队嘛,哈哈。
田鸿飞: 对对。所以说这个东西,其实我们最先一个由 Agent 自组织的这样一个交易网络,其实已经有了,已经存在了。我们的交易市场就是 Trading 就是的。所以我个人建议就是说个人,你个人散户,你就别进去,就是在里面做高频交易,跟 Agent 去搏斗了。对于人类来说,人类以后叫做投资。
芦鸿飞: 对,你做中长线就好了。做时间。
田鸿飞: 对,做时间。你不然你短期你根本做不过这些 AI 的。在上面就是基本上就炮灰吧,上面都是。呵呵。
田鸿飞: 其实其实如果,如果如果看了那个就是特斯拉那个那个小工程师的采访对吧?他一个多小时的采访,其实完全看下来其实蛮有意思的。他其实里边提到了很多,他说这个 Elon Musk 给他们的指令就是说,人就是机器做得更好的事情,坚决不要人做,对吧?那他们 Humanoid 的,就是可以做到人 8 倍的速度,对吧?那你的量化更不用提了,对吧?他们追求的这个都是,都是人眨眼,对吧?我们眨一下眼的,他都做了可能上百万次交易了,对吧?所以说这个这个,我觉得,我觉得确实去看曲线交易,或者是说去看实际交易,确实是一个不太可能的事情。就是可能,就是段永平前两天提到了这个事,对吧?哈哈。
芦义(Indigo): 在这个这个里面,那个采访里面,他有一点,我觉得透露这个信息挺重要的,非常重要。就是说,Elon Musk 认为只要比人快 8 倍,在做 Agent 呢,就是说任何 Digital Work 的时候,比人快 8 倍,可能他没有办法 4 到 8 倍,是吧?反正有个 8 倍左右,那这个商业模式就成立。就是我们一定会雇佣这个 Digital 的东西,也不会用人。
田鸿飞: 对,因为你比快 8 倍,哈哈。
芦义(Indigo): 所以他说他脑子是很简单,就这样算算数就好了。
田鸿飞: 对。
芦义(Indigo): 所以我但是能力不用比人超过很多,可能比你笨一点,没关系我只快 8 倍。开玩笑哈哈。
田鸿飞: 对。
芦义(Indigo): 所以说你这个我花钱肯定值得嘛,是吧?所以说他的这个,他说微软我要替代微软的,微软所有业务都可以用这个 AI 实现里面。
田鸿飞: 对对。
芦义(Indigo): 我再比快 8 倍,哈哈。
田鸿飞: 那真的挺牛的。就是说用,就是他用把 SpaceX 的这个模型再玩了一遍,对吧?用 Off-the-shelf 最简单最便宜的材料来做这个大家都本来以为很难的事情,对吧?还用这个特斯拉的 144 TOPS 的这个机器来,这个人类模拟器来解决这个 Office Work,对吧?这个是蛮有意思的。
芦义(Indigo): 对对。所以说我们聊了,刚才说最后的话题里面,就是说这个网群的这个群峰智能其实已经产生了,我们现在交易市场上就是的。
田鸿飞: 对。
芦义(Indigo): 然后呢,很快我们会在,我觉得,能够在一些行业的协作市场上产生。
田鸿飞: 对对。
芦义(Indigo): 就是说在人类的 Digital Works 里面。
田鸿飞: 对对。
芦义(Indigo): Digital Works 也很大很大的市场吧。再具体一点呢,怎么说呢,可能是在科研上,我觉得可能会,他肯定要签这个本身的这个模型推理能力巨强才行。非常像但是在有一些协作网络上其实就不需要了。大家就处理一下电子表格的时候,它也能够产生这样的这种智能效应。也可以的。
田鸿飞: 也可以的。所以说,所以说 Elon Musk 的这个逻辑是非常对的。我觉得边缘算力以后是对这个世界最主要的一个,应该是整个智能世界最大的一个趋势。边缘算力。云端的他可能在做,但云端他也会把模型慢慢训练好,然后边缘去部署,然后边缘会生成大量的硬件出来,来最后来做计算。或者是混合,或者 Hybrid 的模式。就跟现在我们手机很流行一样,手机上面,你的本地上来处理 UI 很快,但是很多这个计算的,或者这些数据是在云端处理的。以后就是大量的交互性的、对话性的这种操作都在本地做了。然后呢让我想想,然后你就去云端做了。
芦义(Indigo): 对,哈哈。这个很具体嘛。然后这个里面呢,我觉得是可能会涌现出一个新的智能,叫做我们叫做 Intelligent 这种。其实现在我们叫,我们现在是互联网嘛,互联网就人类参与的。互联网有就叫做 Internet Intelligent。接下来的就 Internet。好,我们接下来可能会产生一个叫做 Intelligent Network。
田鸿飞: 对。
芦义(Indigo): 就在很多地方,比如领域里面,都会形成这种协群效应的。以后网站我开发一个服务,我都不是给人用的嘛。你现在你看你现在没办法,我才会用 Computer Use,然后去看人类用的那些。
田鸿飞: 对对。
芦义(Indigo): 做的网站,使用这些服务都是给人用的。这个给视觉用的。如果说我想更高效,那你我的 Agent 和你的 Agent 的,我们访问你的服务,我就一套 API,或者是一个什么 MCP,或者一套。
田鸿飞: 对对。
芦义(Indigo): 一个 Skill 协议。
田鸿飞: 对,就搞定了。
芦义(Indigo): 对,这通讯效率巨高,知道吧?巨高。所有东西都会可能是十倍百倍的提效。
田鸿飞: 对,品质。
芦义(Indigo): 而且我觉得第一点,下一个,下一个除了这个股票交易之外,可能电商上面,在部分产品的电商上面,就会形成群峰效应的。你全部是 Agent 在做协同,然后自动的去做交易的。
田鸿飞: 是是。其实在豆包做那个手机之前,我自己做过一个小的 APP,对吧?现在 Vibe Code 每个人都可以做 APP。所以说我也做了 App。在 OpenAI 里边写一句话,说给我买点东西,他要去网上给我搜,去 Shopify 买东西。我才那时候做那个 APP 的时候才发现,那个 Shopify 它缺省下它已经支持 MCP。但它不支持支付,但是它支持这个 Catalog 的浏览。而且它 80% 的消费在线的网站都已经有 MCP 的服务了。其实只不过现在这个 Agent 用得很少,第二就是少嘛。Agent 的支付,这个是法律上不允许,就是不允许 Agent 支付。但是,但是这个只要法律允许的情况下,其实这个事其实已经已经不是问题。就是技术上,其实或者说这个 Infra 上面,是没有任何问题。他可以很快。
芦义(Indigo): 对。是这个,这个只是这个网络使用的规模问题。而且本身支付上面,Agent 支付肯定是用 Crypto 支付嘛,是吧?
田鸿飞: 对对。
芦义(Indigo): 直接绕过人类这一层了,都不需要人物,人类的这个什么 KYC 的都不需要。
田鸿飞: 其实。
芦义(Indigo): 然后 Agent 呢,自己有 ID,哈哈。我记得你们那个 Olares 里面是可以创建一个 ID,是吧?你设备。
田鸿飞: 对对,我们,我们那个 ID 其实是基于区块链的 DID (Decentralized Identifier) 设计的。所以说,我们虽然不是一个区块链的企业,但是我们其实用了很多区块链的技术。我们对于我们有个信仰,是觉得未来的 Agent 和 Agent 之间协作,如果是基于市场机制的协作的话,他很可能会需要用到这个代币去支付对方的费用,对吧?就像我请你给我做个事情,我可能要给你一些数字货币,或者什么样东西。
AGI的未来形态:智能Web
芦义(Indigo): 对,好。那我们节目的最后一个,我们聊了快 70 多分钟了,挺久的了。一般我们最后一个话题,就是问一下嘉宾,这个你怎么看待 AGI?然后我的问题是这样子的,你觉得在这个 AGI,如果说超级智能到来的时代,就是因为我们是做边缘智能嘛,边缘智能在这个超级智能来的时候,它你想象中它会是一个什么样的协同网络?
田鸿飞: OK,我觉得呢,我从头到尾想,其实最近我刚正还正在读一本书,还没读完,就是 Nick Bostrom 写的《Deep Utopia》,还没读完,读了一半。但是我其实我觉得我们设想的未来一个网络是这样的:就是说手机呢,从我们现在占用我们可能百分之,可能 Screen Time 嘛,占用可能 60%、80% 的时间,对于人不同哈。你比如对于贾凡,他号称他自己 100% 都用手机了,对吧?
芦义(Indigo): 一般的老板都只有手机的。
田鸿飞: 对对。就是他可能就是用很多可传感设备就取代了手机,对吧?然后眼镜,我也有 Facebook 的眼镜,然后有这个对吧?就取代了手机后呢,所有的个人数据呢,都会集中在一个像我们 Olares 的这么一个平台上。然后这个 Olares 可以帮你处理大量的复杂任务。当然有个别很可能更难的东西,对吧?你要你要计算更难的东西的时候,你可能比如说要做 Deep Research,学生可能需要调用更多云端的 GPU 资源,更大的模型。
芦义(Indigo): 对。
田鸿飞: 然后这时候呢,我觉得,我们认为至少有可能性就是,我觉得更符合人类社会发展,就是我们的 Olares 和盒子之间,可以通过市场化的机制的协作,然后产生 AGI,以及甚至产生后面的超级智能。这个是我们所设想的,我们的未来的一个方向。
芦义(Indigo): 对。那就是说你就是通过这个,就是我们要端侧的这种智能协作产生的这样一个 Network 效应。
田鸿飞: 对。
芦义(Indigo): 最终会从高层上显现出一个更高级的词。
田鸿飞: 对对,就策略出来一样。对对。
芦义(Indigo): 对,这个这个,我是我也是这样想的。我觉得 AGI 不可能诞生在一个加上我供了一个就超级计算机里面一样,就是他不可能是这样子一个东西。他一定,而且现在来看呢,我觉得 Elon 说的一个很对,既然光速是有限制的,光速是有极限的嘛。
田鸿飞: 对。
芦义(Indigo): 那么就不会出现一个垄断一切的超级司机,哈哈。
田鸿飞: 对对。
芦义(Indigo): 因为你总是有上限嘛,那上限大家都会到上限,那上限我们怎么竞争呢?是这个,这个是个均衡理论。
田鸿飞: 对。
芦义(Indigo): 你能到达光速,我也能到达光速,那我们迟早要 PK 嘛,对吧?
田鸿飞: 对对,一样的。对对。
芦义(Indigo): 所以说不会存在这样一种超级智能。如果说我们把智能推到极限,那我们就是每一个这个端侧的智能,或者说是跟这种,或者服务器端这种智能,你只要足够好,性能足够强大,那你就会,我们是均衡的力量。那么一定,我觉得未来肯定是这个大量的,这个具有极高推理能力的智能,肯定是在云端的,他电脑算力还是大嘛。但是呢,这个智能会像流水一样,分布在和终端一块,混合使用。因为终端它在协调这个更高级的智能,因为有时候协调不需要那么高级的智能,它只需要我什么时候调用。然后呢,这个东西混合成一个大的 Intelligent Network。
田鸿飞: 今后我们互联网就不叫做互联网了,应该叫做 Intelligent 智能 WEB,是这样的一个网络存在。它可能会在好多行业里面涌现出更高级的智能出来。是,这是我想的这个 AGI 的一个形态。
芦义(Indigo): 好不好,我觉得比我还好,哈哈。OK,OK。这个很高兴今天邀请田鸿飞来我们聊一期,聊一期这个边缘智能。现在这个话题其实不好聊的,边缘智能就是做这个东西很少。而且我正好我有朋友刚才说了在硅谷做,回头我介绍你们认识一下。好,做这个容器的,本地做 Agent。
田鸿飞: 谢谢。
芦义(Indigo): 好吧,那我们就今天谢谢大家收听 Indigo Talk,也谢谢鸿飞来参加。
田鸿飞: 好好,谢谢 Indigo。好。
📌 文中提及的人物和组织
公司/组织: Olares, Google, Apple, NVIDIA, OpenAI, Anthropic, DeepMind, Oracle, Meta, Tesla, xAI, Shopify, Numerai, Kickstarter, Innovation Works
产品/模型: Olares One, Android G1, Mac Studio, DGX-1 Spark, ComfyUI, DeepSeek, Gemma, Claude, Siri, Gmail, Limitless, Optimus, FSD, Mastodon, Excalidraw, Obsidian, WordPress, Second Me, Vibe Code
媒体/书籍: Deep Utopia, Situational Awareness The Decade Ahead, Mickey 17