--- area: "society-thinking" category: technology companies_orgs: - Microsoft - Google - 百度 - Coursera - DeepMind - 哈佛大学 - 多伦多大学 - 美国银行 date: '2024-04-12' draft: true guest: '' insight: '' layout: post.njk media_books: - 《AI制造商没说的秘密》 - 《2001太空漫游》 - 《超智慧》 people: - Jeffrey Hinton - Larry Page - Demis Hassabis - Mark Zuckerberg - Elon Musk products_models: - Sora - AlphaGo - Gemini - MARK 1号 - TensorFlow project: [] series: '' source: https://www.youtube.com/watch?v=rsbmsHODZ_A speaker: 超級歪 SuperY status: evergreen summary: 本文深入探讨了人工智能从早期感知器到现代生成式AI的发展历程。揭示了Frank Rosenblatt、Marvin Minsky、Jeffrey Hinton、杨立坤、吴恩达等关键人物及其理论贡献，以及Google、微软、百度、脸书等科技巨头在AI人才和技术上的激烈竞争。文章还探讨了AI在语音识别、自动驾驶、围棋对弈等领域的突破，同时不回避AI带来的偏见、假新闻、伦理挑战及中美AI竞争等深层问题，反思AI将人类社会引向何方。 tags: - ai-ethics - geopolitical - history - learning - neural-network title: AI发展秘史：从感知器到生成式AI，谁在推动变革与引发担忧？ --- ### AI浪潮下的社会冲击与早期探索 今年2月，Sora公布的**生成式AI**（Generative AI: 能够生成文本、图像、音频等新内容的AI模型）影片《震撼全球》，让许多内容创作者开始担心未来可能面临失业。例如，影片中提出的疑问：“我到底是什么？我是一个男性的目光吗？还是一一个人形的偶像制作成的蜡烛？我到底是什么？我是一个国际英雄吗？还是世界的坏人？”这些都反映了人们对AI能力的惊叹与不安。早在去年，歌手陈珊妮就已尝试用AI创作音乐，结果许多粉丝根本没有听出差别。近期台湾更是出现了诈骗手法，可以通过AI撷取你的声音，再用你的声音拨打诈骗电话。加州伯克莱大学教授发现，抖音上面一小段声音，就算只有短短三秒钟，AI也能轻松复制你的声音。 到底AI是如何改变我们生活的？今天要来面对的这本书《AI制造商没说的秘密》就要来揭露人工智能不为人知的秘史，看看是哪些人在背后推动AI产业的发展，AI会对人类构成什么威胁，以及AI产业又会把人类带向何方。 ### 神经网络AI的萌芽与沉寂 1958年，美国科学家Frank Rosenblatt得到美国海军研究室赞助，试图复制人脑的神经网络运算。他认为，人受到视觉刺激后会把视觉信号转换成神经信号，这些信号可以转换成数学代号输入机器，机器就可以辨识照片中是男人还是女人，接着告诉它答对还是答错，让它从错误中学习。这种机器叫做**感知器**（Perceptron: 一种早期的神经网络模型，能够从数据中学习并进行模式识别）。Rosenblatt成功建造了一台感知器，MARK 1号，能够辨识英文字母。这项技术后来就被美国邮政署应用在辨识邮件地址，后来又被美国空军用以辨识空拍目标。 同一时期，哈佛毕业的Marvin Minsky在1956年提出人工智能的概念。但是Minsky主张，应该让机器学习符号，由工程师设定指令，告诉机器在各种不同情况下的反应，而不是让机器自我学习。因为当时许多人工智能实验室都在争取政府经费，Minsky就写了一本书，批评Rosenblatt的感知器。他指出，感知器可以告诉你两张卡是否都是白色或是黑色，却无法告诉你两个颜色是否不同。接下来的十年，主导AI产业的变成了Minsky的**符号AI**（Symbolic AI: 一种通过预设规则和符号逻辑进行推理的人工智能方法），而不是Rosenblatt的神经网络AI。政府经费不再投注在感知器研发上，许多研究者也就放弃了神经网络的概念，认为技术上做不到。 ### 神经网络AI的复兴与关键人物 一直到1980年，出现了一位开发神经网络的重要人物Jeffrey Hinton，他发明了一种**波兹曼机**（Boltzmann Machine: 一种随机神经网络，能够学习复杂的概率分布并生成数据），克服了15年前感知器的不足。波兹曼机可以区分两张色卡是不同颜色，因为它能创造自己的影像跟声音，类似人可以在脑中想象不同的影像跟声音。但是Hinton的构想却被主流AI社群边缘化。当时卡内基美隆大学的电脑科学系决定给Hinton一个机会，让他来这里做研究。 到了1987年，卡内基美隆大学的学生试图建造自动驾驶车。原本按照Minsky的主流模型，先写下指令，输入所有卡车可能遇到的情况，但是可能的情况太多了，用人工方式根本写不完，结果车子只能前进几步而已。这时就有人提议用Hinton的神经网络来制作，让人工智能学习人们怎么开车。结果成功制造出史上第一台自动驾驶车，被称作Alvin，最高时速可达60英里。可惜这时Hinton已经离开美国，看不到自己理论做出的成果。因为早期人工智能经费都来自美国军方、情报单位，当时美国在跟苏联搞军备竞赛，成立国防高等研究計畫署，资助AI研究。但是美国雷根政府时期，军方常出售军火、资助战争，导致Hinton对美国越来越反感，不想跟他们拿研究经费，就搬到了加拿大多伦多大学当教授。 接着又出现了第二号开发神经网络的重要人物，法国科学家杨立坤。杨立坤从小看库柏力克的《2001太空漫游》，梦想制作一台跟电影里一样的超级电脑后9000。杨立坤攻读博士时，美国流行的是Minsky的符号人工智能，许多神经网络的研究都只有日本人在做。像是第一个提出**卷積神經網路**（Convolutional Neural Network, CNN: 一种专门用于处理图像等网格状数据的深度学习模型，模仿人脑视觉皮层工作）的日本科学家福島邦彥，就是让机器模仿人脑的视觉皮层，把影像切成一格一格逐格分析。杨立坤认为这种卷積神經網路才能让机器像人一样。1988年，他加入美国著名的贝尔实验室，利用福島邦彥跟Hinton的神经网络模型打造一套影像识别系统。经过两周训练后，机器就可以自己学会辨识字迹潦草的数字。这套影像识别系统被美国银行买下，银行可以用机器辨认支票的手写字迹。在90年代，美国超过10%的支票是靠杨立坤发明的系统来处理的。 最后一位复兴神经网络的工程师是Terry Sinoski。他设计出一台可以发出合成声音的机器NetTalk。先让机器分析英文童书，自己学习发音。一个星期后，这台机器就可以大声朗读。这项发明让Sinoski登上电视节目，在数百万观众面前分享神经网络成果。所以从1980到1990年代，Hinton的理论做出了自动驾驶车，杨立坤发明了银行扫描机，Sinoski设计出了朗读机。这三项成果都让AI界见识到了神经网络的逆袭，也让神经网络AI开始成为一股新势力。 ### 企业巨头入局：深度学习的崛起 进入21世纪，神经网络派的AI科学家开始在企业界展露头角。首先是2009年，微软在开发语音辨识软件，但是准确度低，就邀请Hinton的团队来帮忙。Hinton提倡用神经网络做**深度学习**（Deep Learning: 机器学习的一个分支，通过多层神经网络从大量数据中学习特征和模式），因为人在说话时都会有背景杂音，但用神经网络就可以学习从杂音中辨识出人声。这是AI发展的一个关键转捩点。Hinton写的程序代码给微软看过后，微软的负责人邓丽就说：“这就是语音辨识的未来。”但是AI要学习这么庞大的数据需要强大的处理器，在当时只有辉达公司设计的**GPU**（Graphics Processing Unit, 图形处理器: 一种专门用于处理图像渲染和并行计算的处理器，显著加速了深度学习的训练过程）晶片做得到。GPU晶片本来是用以快速产生电子游戏图像，Hinton发现GPU可以加速神经网络学习速度。这就让黄仁勳创立的辉达不再只是做电脑图像处理，而是跨足了AI产业。他们可以用某些数学方法，例如微积分或数学动力学，去将运算速度提升20倍，这让业界难以置信。 Hinton的团队帮助完微软后，又去帮Google训练口语辨识。因为Google可以利用YouTube上的所有影片，用这些数据库来训练AI，就会非常有效。原本Android手机语音辨识错误率是23%，做了两周的深度学习后，错误率就降到了18%。 到了2010年，Google执行长Larry Page见了另一位做神经网络的AI科学家，史丹佛大学的教授吴恩达。吴恩达提议Google有数千部电脑运算的资源，可以用深度学习来提升Google关键字的效能，会更贴近人们想要的搜寻结果。但是当时Google的人觉得这个概念太新颖，只有一位工程师Jeff Dean支持吴恩达。两人决定合作，他们用Google数据中心的16000颗晶片，让机器学习如何辨识YouTube影片里的猫咪。隔年发布了一篇猫咪论文，以往的影像辨识都需要在物件四周画上边界框，AI才知道猫咪的边界到哪。但是Google的神经网络系统可以不用标明边界就辨识出猫咪。这篇猫咪论文在AI界里一炮成名。 ### 人才争夺战与通用AI的愿景 2011年，Google决定成立人工智能实验室。但是研究到一半，吴恩达竟然跑去创立Coursera线上课平台。他退出时，推荐一位替代人选，就是Hinton。Google联络Hinton时，他已经是多伦多大学64岁终身职教授，还有自己的新创公司。为了抢到Hinton这个人才，Google、微软、百度在2012年展开了一场拍卖会，竞标他的公司。最后Google成功以4400万美元买下。 到了2013年，Larry Page已经确定深度学习会改变整个产业，开始网罗各地人才。他跟Hinton到伦敦，打算收购一家公司叫做DeepMind，由Shen Legg跟Demis Hassabis创立。成立宗旨是打造**通用人工智慧**（Artificial General Intelligence, AGI: 能够像人类一样执行各种认知任务的人工智能），意思就是人脑做得到的AI都能做到。那要如何判定AI做得到？很简单，就让AI玩游戏，看它的智力到哪里。他们利用深度学习，训练AI玩打砖块。机器系统必须学习所有的东西，从真实的图片，不懂它在控制什么，甚至不懂游戏的目標。玩过300次后，就会变成专业级玩家；玩过500次后，甚至可以找到游戏的漏洞，快速破关。这种技术叫做**强化学习**（Reinforcement Learning: 一种机器学习范式，通过智能体与环境的互动，根据奖励信号学习最优行为策略）。人类大脑的学习过程其实也是这样。当时还没有别家公司研发出这种技术，所以Google、脸书、微软都想抢下这家公司。 因为Google已经抢到Hinton，已经在AI竞赛中成为第一名。脸书知道如果不买下DeepMind，就会输给Google。但是最后DeepMind没有卖给脸书，因为Demis Hassabis开出了两个条件：第一，不能把AI用在军事行动上；第二，研发必须有一个独立伦理委员会管制。结果Mark Zuckerberg拒绝了第二项，所以最后Google以6.5亿美元胜出，收购DeepMind。 收购失败的脸书则陷入了一个困境。因为脸书还没有AI实验室，就无法吸引高端的AI人才；但是无法吸引高端人才，就无法打造实验室。所以Mark Zuckerberg决定亲自出马，高薪聘请当时在纽约大学的杨立坤。杨立坤却表示，他宁可在大学当教授。因为杨立坤秉持的哲学是AI的演算法跟技术应该是**开源软件**（Open Source Software: 源代码公开，允许用户自由使用、修改和分发的软件），资讯自由流通，科学社群才能进步更快。但是如果为企业服务，技术就会被企业掌控，变成商业机密，反而会阻碍AI的发展。Mark Zuckerberg却回复说不用担心，脸书用的是开源软件，工程师可以自由取用，这样一来世界各地的工程师都可以改善脸书的程序品质。而且Mark Zuckerberg也不担心别人拥有脸书程序，因为大部分的人都已习惯用脸书了，就算别人做出类似的软件，也无法取代脸书。最后，Mark Zuckerberg成功说服杨立坤加入脸书。 同一时期，中国也开始在发展AI。2012年，一位叫于凯的科学家把深度学习的概念从美国带回中国，被当时百度的执行长李彦宏看中。当时于凯就建议他，百度应该要出钱竞标Hinton的公司。虽然Hinton最后被Google抢走，但在竞标失败后，百度就在矽谷设立深度学习研究所。2014年，于凯跟吴恩达在矽谷共进晚餐，邀请吴恩达加入百度。吴恩达原本是帮Google创立AI实验室的工程师，现在百度竟然成功请到他担任百度首席科学家，等于让百度成功加入了这场AI赛局。 总结来看，2014年这年，三家科技公司都争取到了一个AI主力：Google买下DeepMind，脸书抢到了杨立坤，百度则请到了吴恩达。这就让企业界的AI竞赛正式展开。 ### AI伦理挑战与中美AI竞争 2014年11月，Elon Musk在网上发文说，DeepMind做的AI实验发展速度快到令人担心，5到10年内AI就会对人类构成威胁。但一小时后，这篇文章就被删了。到底Elon Musk在DeepMind的伦敦实验室看到了什么？没有人知道。Elon Musk认为Google虽然是出于好意收购DeepMind，但可能在无意间制造出邪恶的东西，像《魔鬼终结者》的剧情可能在未来成真，问题只是多快会发生而已。最后Elon Musk还推荐大家阅读一本书Nick Bostrom的《超智慧》。他说如果人工智能变成了超智慧，就算搭Elon Musk的火箭逃离地球，人工智能都可以一路自我学习追杀人类。 因为Elon Musk不停在媒体上放话，Mark Zuckerberg就私下约他到Palo Alto的别墅共进晚餐，找了杨立坤来说服他AI没有他想像的那么危险，还没发展到超智慧的阶段。现在人跟AI的关系就像电脑一样，你觉得电脑不听话的时候，把电脑关掉就可以了。而Larry Page则回应Elon Musk说，人类是碳水化合物制造成的生命，是一种碳文明；但是人工智能是由矽晶片制造成的新物种，是一种矽文明。如果不让人工智能发展，害怕它会毁灭人类，就是一种**物种歧视**（Speciesism: 一种认为人类比其他物种更优越，并因此有权剥削其他物种的偏见）。他问Elon Musk：“我们要确保人类在这里好吗？”Elon Musk却称他为“物种主义者”。 但是Elon Musk一方面警告大家不要搞AI，自己私底下却在研发自动驾驶车。为什么这些科技企业不停研发AI，却又一直警告大家AI会带来危害？因为AI可以带来庞大利益，企业都是选择继续研发，但是同时控制风险。例如Google设有AI安全部门，确保实验不会带来伤害。 AI发展到2015年后又出现了转机。Google收购DeepMind后，砸下12亿美元的资金研发，试图让AI可以在围棋上赢过人类。当时所有的棋类里，只有围棋是AI还赢不了人类。西洋棋的每一步可能有35种棋路，但是围棋可以高达200种。在2016年，DeepMind开发出了AlphaGo，跟韩国职业棋士李世石大战五场，最终AlphaGo以4比1战胜人类。AlphaGo是怎么赢的？在第二局里，AlphaGo在下第37步的时候，用概率算出人类会做出这一选择的机率是万分之一，也就是几乎没人会这么下，因为胜率太小。但是AlphaGo却选择这么下，代表AI故意做了它觉得人类不会做的选择。这是AI史上一个非常神奇的瞬间，仿佛是AI自己学习后发现可以对付人类的招数。这也是人类史上一个非常神奇的瞬间，因为在东亚，围棋被视为人类智慧的体现，一辈子都在下棋的顶尖棋士竟然输给一台电脑，简直是难以置信。 2017年5月，Google在中国举办AlphaGo竞赛，这次对上中国的冠军棋手柯杰。AlphaGo以3比0的成绩完全制霸。但这场比赛其实不是Google的主要目的，Google真正想要的是抢夺中国的市场，在当地推广Google的机器学习软件TensorFlow，说这会帮中国的搜寻引擎更准确地瞄准顾客偏好。同时在北京设立实验室，来推广Google的软件跟云端服务。但Google不知道的是，中国的百度早就已经在搞机器学习了，有自己的实验室跟云端服务，而且有信心可以做得比Google更好。因为中国的AI产业有政府撑腰，尤其是在柯杰败给AlphaGo后，中国颜面大失。两个月后，中国国务院就宣告要在2030年以前成为全球AI的领头羊，启动了中国AI产业的**阿波罗計畫**（Apollo Program: 美国在20世纪60年代和70年代初实施的载人登月计划，此处引申为中国AI产业的国家级重大发展计划）。政府大举投资业界、学界，像是百度研发自动驾驶车的时候，可以跟五个中国都市的地方政府合作，把城市的基层建设打造成适合自动驾驶车行驶，这恰好是美国的AI产业做不到的。再加上中国人口多，可以取得的数据多，机器的深度学习就是数据资料越庞大，学习成效越好。而且许多AI软件都是开源的，程序代码公开，所以中国工程师也可以取用。那么谁能够制造出更强大的AI，就取决于谁能够取得的数据更多。 同一时期的美国，在2016年Donald Trump当选后，开始祭出打压移民的政策，导致美国流失大批国际学生。而美国AI产业的人才多数都是国外来的，导致很多去不了美国的AI人才都跑去了加拿大。在Donald Trump当选一周年时，辉达在芬兰的实验室开发出了一款**渐进式生成对抗网络**（Progressive Generative Adversarial Network, ProGAN: 一种生成对抗网络模型，通过逐步增加生成图像的分辨率来提高生成质量），让AI可以自己创造出影像，可以用以生成名人的脸、制造假新闻，或是**De-Faked换脸技术**（Deepfake Technology: 一种利用深度学习技术合成虚假图像、音频或视频的技术，常用于人脸替换），也就是我们今天看到的生成式AI的基础。辉达因此宣告，有图有真相的时代结束了，因为现在就算看得到图，看到的也可能只是AI生成的图。 ### AI的偏见与判断挑战 Google发现AI将黑人照片辨识成大猩猩后立刻道歉，并移除大猩猩的标签。为什么会发生这种事呢？因为用以训练AI辨识人脸的系统数据库照片里，有80%都是白人，其中又有70%是白人男性。所以当你用这些照片训练AI辨识人脸时，AI就不知道如何辨识非白人的脸。科学家Deborah Rodge研究发现，当肤色越深的时候，AI就越无法成功辨识一个人的性别。像是辨识黑人女性时，微软的错误率是21%，IBM是35%，Amazon则是31%。那为什么这些科技企业都没有察觉？因为AI科学家多数都是白人男性，自然不会察觉到他们的资料有偏差。一直到2017年，一位黑人女性的电脑科学家Deborah Rodge指出后，这个问题才浮上台面。为了避免这种歧视问题出现，今年Google推出的生成式AI演算法会避免以白人为中心，结果生成出来的图像又引发了篡改历史的争议。例如，社交媒体用户给出了“1943年德国军人”的提示，Gemini却生成了圣母的照片，这便是AI在想要避免偏见时发生的奇怪现象。 接下来第二个问题是AI的自动侦测不可靠。2015年巴黎发生恐攻事件时，Mark Zuckerberg思考要怎么打击脸书上的恐怖主义。脸书有20亿用户，不可能用人工审查，必须靠AI。但是在脸书上发表仇恨性言论时，AI要怎么自动侦测？很多人的文章明明没有涉及仇恨歧视，却莫名其妙就被阻挡。有时候就连人类自己都不晓得某些言论到底是歧视还是只是开玩笑。同样的，假新闻也难以用AI侦测。2016年美国总统大选时，许多假新闻充斥脸书。Mark Zuckerberg到国会作证时，说会处理这个问题。但是AI科学家Ding Pomelo就打赌说AI不可能可以区分真假新闻，因为就连人类自己都不知道怎么判别了。 最后还有脸书上的色情暴力影片，也难以用AI侦测。像是AI会误以为母亲哺乳的照片是情色照片，不能在脸书上发布。它无法像人类一样判别，裸露不等于色情。还有在2019年纽西兰清真寺枪击案时，枪手在脸书上开直播，结果AI也没有侦测到这是不妥的事，事发一个小时后才把影片删除。为什么AI无法辨识呢？因为许多第一人称电玩游戏都有开枪的画面，AI要如何辨识这个影片是电玩游戏还是真的开枪？脸书团队为了训练AI学习区分两者的不同，必须非常仔细观看枪击案的直播影片来找出不同，才能让AI学习。 从这些例子里我们可以发现，人工智能其实依旧无法取代人类的判断。怎样算是玩笑，怎样算是仇恨言论，怎样算是情色照片，怎样算是非情色的裸露，怎样算是真实开枪而不是虚拟的开枪，这些都需要人类的道德意识进行判断。 ### AlphaGo的里程碑与AI的未来反思 今天这支影片我们介绍了AI产业的前世今生。AI原本起源自美国军方的军事研究，神经网络的构想原本不被看好，却在Hinton、杨立坤、吴恩达这些人的努力下，成为了AI界的主流模型。2019年的**图灵奖**（Turing Award: 计算机科学领域的最高荣誉，常被称为“计算机界的诺贝尔奖”）这项电脑界的诺贝尔奖，就颁给了Hinton、杨立坤、还有Benji三个人，赞扬他们所开发的深度学习改变了AI的发展。他们发表感言时说：“我们的工具可以使之为善，也可以使之作恶。” 从AI的发展史来看，的确如此。AI可以打造出处理问题的AlphaGo、ChatGPT、生成式AI，也同时可以拿来做非法的换脸影片、假新闻、模仿人声的诈骗电话。演算法会复制人类的偏见，AI也难以取代人类的道德判断。我们无法预见AI会如何改变未来的世界，但我们可以去认识AI的历史，去发觉我们的世界已经如何被改变。