AI、国防优先级与个人经历

Host: 我们正面临历史上最大的军事集结。我们正朝着通用人工智能（AGI）发展，一个触及一切的底层、一个层面。但在人工智能方面，我们部门还远远落后。

Host: 您是美国国防部的首席技术官（CTO）。您如何评估这些优先事项的现状？

CTO: 我上任时，有 14 个关键优先领域。我们将其缩减到六个，这些是我认为我们拥有最大变革和增长机会，能产生影响的地方。

Host: 关于商业 AI 模型在五角大楼的使用，已经有了广泛的公开讨论。这次讨论中，哪些方面发生了变化？我当时有个“哇塞”的时刻，因为其中有些事情远远超出了您近几周在媒体上听到的内容。

CTO: 好的。感谢您邀请我来。我知道您每周都很忙，但感觉过去这一周对您来说可能是最公开繁忙的。所以，感谢您加入我们。

Host: 我的荣幸。很高兴来到这里。

Host: 嗯，我们来谈谈 Anthropic AI 与国防，但我想我们先简单谈谈您，您是如何进入这个职位的。这也不是您第一次在政府任职。您此前曾长期担任公职。您知道，在我们房间里一半来自技术领域的人，他们知道您是一位成就卓著的硅谷高管，备受追捧，非常成功。让我们从您被公共服务吸引开始。它是如何开始的，为什么要做，以及为什么现在要承担这个角色？

CTO: 嗯，在我创办第一家公司“Tell Me Network”之后，我们有一种语音识别软件，于 2007 年卖给了微软。我当时确实需要从科技界休息一下。所以我申请了白宫研究员项目，那非常酷。科林·鲍威尔（Colin Powell）曾参加过，参联会主席（Chairman of Joint Chiefs of Staff）。海军上将卡（Admiral Ka）、凯恩将军（General Kaine）也参加过。这是一个很棒的、为期一年的无党派项目，我被选中了，非常棒。我被分配给了当时的国防部长罗伯特·盖茨（Robert Gates）。所以我得以在阿富汗、伊拉克、巴基斯坦等地度过时光。我开始热爱那个世界，那对我来说太新了。我说总有一天我会回来的，当我准备好的时候。然后特朗普总统当选了，我想，哇，这是一个颠覆者走到顶端的时刻。他选择了国防部长（Secretary [Mattis]），这意味着我所看到的那些问题将会有更清晰的解决途径。您可以看到我们前进的速度，行政命令、关键矿产、新技术、新入局者。与以往相比，这个速度令人难以置信。所以，我很高兴在那里。

Host: 太棒了。那您能谈谈吗？您一直直言不讳地说，战争部（Department of War）不能以“和平时期速度”（peacetime speed）运作。这就像我们告诉创始人，你可以成为一个战时 CEO 或和平时期 CEO。什么是和平时期速度？它有什么问题？“获胜”看起来是什么样的？它意味着什么？

CTO: 嗯，您知道，冷战结束后，战争部的“和平时期速度”就开始了。我猜当时有一个著名的事件叫做“最后的晚餐”，五角大楼的领导层对业界说：“嘿，未来不会有太多武器系统或创新购买了。所以你们应该整合并放慢你们的增长，基本上变成股息支付者和股票回购者。”这持续了很长时间，然后行业整合成了四到五家巨头。然后，我们在 2000 年代中期（大约 2010 年）面对中国开始的史上最大规模的军事集结，而我们没有追赶上。突然之间，我们外包了很多关键的国内生产，涉及许多不同领域，无论是关键矿产、电池，还是很多供应链方面的东西。然后您抬头一看，会惊呼：“天哪，我们有太多东西要追赶了。”所以，“战时速度”就是确保我们正在重新国内化（redomesticating）我们国家力量所需的核心要素，我们正在积极推进。我们拥有卓越的能力。我们在许多领域都处于领先地位，但我们必须确保在关键领域我们是自力更生的。所以我们正在全力以赴。您知道，这让我感到惊讶。我们与一家名为 Skyio 的公司合作，该公司受到了中国的制裁。通常我们听到的是公司被美国制裁而无法在这里做生意。但实际上，如果您是一家重要的公司，并被中国制裁，无法再购买主要来自中国的电机、电池或其他关键部件，这会很糟糕。如果这些产品进入国防采购周期，而我们再也无法获得它们，那将是一个巨大的、巨大的问题。所以，我们学到了，这不仅仅是国防工业基础，还包括所有那些前体（precursors）。

Host: 嗯，那您能谈谈您刚上任时，作为战争部的 CTO，您如何确定优先事项？您如何评估这些优先事项的现状？您如何弄清楚？我说，如果您看新闻，感觉我们有无穷无尽的事情需要追赶。

CTO: 嗯，当我去年五月接手这个职位时，我宣誓就职，像任何新领导一样进行了盘点。当时我们有 14 个关键优先领域。我的前任有 10 个，后来有人又加了 4 个。所以总共有 14 个，而且近十年来都没有改变过。所以我得以审视它们，然后说：“好吧，为什么这些是关键的？而且，当你试图激励一支队伍时，谁能记住 14 件事？”“集成网络系统”（integrated network systems of systems）之类的说法，听起来有点像行话。所以我决定深入研究，找出什么才是真正重要的。我们将其缩减到了六个，这些是我认为我们对战斗力和工业基础拥有最大变革和增长以及影响力的领域。那就是起点。应用 AI 是第一位的。然后，我们将首席数字与人工智能办公室（Chief Digital and AI Office）并入了我的团队，我们得以快速推进，因为我们部门在 AI 方面落后很多，而且我们知道 AI 正在以惊人的速度渗透到世界的其他地方。而且我们的对手也在出于各种原因使用它，因为他们对自己的指挥与控制（command and control）的信任度较低。所以他们想利用计算机来消除人类决策，而我们想增强人类决策。所以这一直是优先事项。在 90 天内，我估计已有 120 万（占部门总人数 300 万）人使用了某种形式的 AI，而我刚开始时这个数字是 80,000。

Host: 令人难以置信。嗯，让我们多谈谈拥有先进 AI 能力为什么重要。您知道，也许有些人会说，我们过去没有所有这些 AI 能力，也一直是一个强大的世界大国。为什么它很重要？我们难道不能只专注于制造导弹之类的东西吗？

CTO: 嗯，您知道，AI 可以帮助制造导弹，如果它能帮助您解决物理问题、材料科学问题、空气动力学问题。或者机遇。但我们将 AI 的努力分为三个领域：企业（enterprise）和企业级用例（corporate use cases），就像任何大组织为了效率都会做的那样，这很正常，当你能更快地处理繁琐任务时，每个人都会更开心。然后是情报目的（intelligence purposes），您知道，我们收集大量的情报。我们部门拥有巨大的数据存储库，这些数据被隔离、未使用。想象一下，几十年的卫星图像，您可以用来训练模型、获取见解，然后用于异常检测。这样您就能了解发生了什么。您将一名人类分析师的吞吐量提高千倍。然后是战争对抗（war fighting）。您知道，战争对抗很大一部分是后勤（logistics）。您如何规划后勤、寻找资产、进行战争游戏、规划行动以及进行模拟等等。所以有很多真正重要的用例我们可以从中受益。

Host: 是的，我认为我们是那些不断向我们推销想法的初创公司的受益者。因为这是“美国活力”（American Dynamism），我们听到了那些公司说：“看，我们将通过 AI 的物流，真正地，您知道，节省五角大楼 15% 的燃料预算。我们将弄清楚如何在有争议的环境中以最高效的方式移动部队、装备和车辆。”这些都是惊人的、不可思议的用例。嗯，所以看，过去一周，关于商业 AI 模型在五角大楼（Pentagon）的使用，包括 Anthropic 被用于部门内部，出现了一个极其公开的讨论。您知道，在旧的软件时代，甚至在 SaaS 出现之前，人们会直接购买软件，然后客户可以随便使用。这次讨论有什么变化？出现了什么？有什么问题？我假设在座的各位大部分人都跟进了，所以我们应该可以安全地假设有一个基本了解。但关键问题是什么？为什么现在会出现？

CTO: 嗯，它们现在出现是因为当我开始查看上一届政府时期为使用 AI 而签订的合同，我有一个“哇塞”的时刻，因为其中有些事情远远超出了您在过去几周新闻报道的范围。比如您无法移动卫星，无法规划行动，不能不使用 AI 来执行它，如果它可能导致致命打击或类似情况。

Host: 几十个限制。然而，这些 AI 模型却被嵌入到美国军方最敏感和最重要的部门中，我们在这里进行作战力量（combat power）的演习。中央司令部（Central Command）——那是关于伊朗的责任区；或者印度太平洋司令部（Indopacom），负责中国；或者南方司令部（Southcom），负责委内瑞拉和南美洲。我们都在使用这个模型，而且没有两个供应商。这是一种供应商锁定（vendor-locked）的局面，其条款理论上，如果模型被设计成在您违反条款时关闭，它可能会在行动中途突然停止，使生命处于危险之中。所以那一刻我才意识到：好吧，我们必须解决这个问题，在我们向部门部署 AI 的同时，清理掉这些。所以这引发了所有这些问题。然后第二，马杜罗（Maduro）突袭行动之后，其中一个主要供应商询问一位高级执行官，他的软件是否在马杜罗突袭行动中使用过，那是我一生中最成功的军事行动之一，确实是一次难以置信的行动。

CTO: 对美国的敌人来说，这几个月可不好过。确实如此。我遇到了那些执行了任务的人。那位获得荣誉勋章（Medal of Honor）的首席直升机驾驶员是一位真正杰出的美国人。我是说，他中枪了，但他保持冷静。没有告诉任何人他中枪了，所以第一批着陆队员能够着陆。而且他没有慌乱，否则可能会破坏行动。所以，他的勇气是不可思议的。

Host: 当一家公司问您，“嘿，我们的软件在那里被使用了吗？因为我们不确定我们是否喜欢这样？”您的脊椎会感到一阵寒意。就像您在咖啡店里，一个陌生人说：“嘿，昨天我在学校看到你的孩子在玩踢球。”您会想：“你是谁？”您知道吗？所以这引发了一系列事件：“哇，我们是否单一依赖（single-threaded）于一个供应商，而他们却担心我们如何使用他们的软件，而且服务条款与未来世界不符？我们必须引入其他合作伙伴，我们必须前进。”嗯，如果您想到 AI，正如我们正在朝 AGI（通用人工智能，artificial general intelligence）发展，一个底层、一个层面，一个将触及一切的技术，就像互联网触及一切，或者电信网络触及一切。然后告诉这个技术底层的使用者，“你不能用它做合法的事情，不能用它做通过民主体系、国会通过的法律、由行政部门在军方执行的事情。军方是美国政府最敏感的部分，因为我们的工作是成为力量部门（strength department）来保护美国人。”你确实会面临一个真相时刻。就像我们曾经经历过的那样：这项技术，如果我们合法使用它，这个底层必须是我们的选择。它不能是软件，不能是某个模型的灵魂，他们的宪法（constitution），而不是美国宪法，不能决定我们的指挥与控制环境（command and control environment），并告诉将军们和战士们什么能做什么不能做。

CTO: 是的。首先，我认为您刚刚分享了很多背景故事和信息，这些信息在阅读新闻和跟进报道时并不容易找到。尽管在座的很多人可能猜到了，但听到这次讨论的部分起因和催化剂最初是为了确保我们有办法使用这项能力，并使其符合我们的民主规范（democratic norms）。您提到我们有宪法，他们也有宪法。一家公司甚至有宪法，这有点疯狂。我认为没有那么多公司有自己的宪法。

Host: 企业价值观，是的。宪法，不是。

CTO: 企业文化，企业价值观，当然。我不知道有多少公司会说“这是我们的宪法”。尤其是当公司经常有高管来来往往的时候，谁知道他们明天会怎么想？嗯，所以我们来谈谈民主监督（democratic oversight）、民选领导层（elected leadership）的作用，这些在我们国家指导部署 AI 能力以保障国家安全和国防的过程。

Host: 是的。那么，说到美国公民自由（American civil liberties），历史上一直存在着一场非常辩论，尤其是在 9/11 之后，还有《外国情报监视法》（Foreign Intelligence Surveillance Act）、1947 年的《国家安全法》（National Security Act），所有这些法案，政府都试图在公民自由和……好消息是，有一场激烈的辩论。也许那些法律和规则还没有更新，也许它们应该更新。但是，如果我们不信任这个过程，我们就会想，好吧，法律已经跟不上技术了，所以我将做出一个影响部门 300 万人，进而影响全国 3.5 亿人的决定。您不能这样做，对吧？

CTO: 如果您相信这个体系，如果您不相信这个体系，尽管它不完美，那么您又相信什么呢，对吧？那么您就是自以为是，扮演上帝的角色。而我不想做这样的事情。即使我是一个小政府（small government）、自由市场（free market）人士，您仍然必须由政府来垄断暴力以保护国家。美国不仅仅是一个想法，它也是一个国家，它只能通过拥有最好的工具并合法使用它们来保护其人民。国会负责制定法律，我们负责制定关于该法律的法规。而且，您知道，我们有长达 40 页的内部指令，多年来一直存在，关于自主武器（autonomous weaponry）。我们正在关注乌克兰和俄罗斯正在发生的事情。然后我们看到中国人窃取美国模式，去除保护栏（guardrails），并可能将其用于对抗我们。那么，我的手臂是否会在对抗被对手窃取的相同模式时被绑在背后？这有点……您会陷入奥威尔（Orwellian）式的境地，很难让任何人理解，也很难站在那个问题的另一边。

Host: 是的，绝对。我认为关于我们的对手这一点说得很好。他们没有进行这种辩论。他们全速前进。嗯，我们如何……您还有什么想分享的，关于我们今天在 AI 辩论和讨论中的地位？这是否就此结束了，还是说还有漫长的道路要走？

CTO: 我认为还有工作要做。而且这很有趣。您有四家公司可以说是“前沿公司”（frontier companies），然后您有数千名研究人员，就像大联盟的球员名册一样，他们在互相交流。如果您问这些公司的领导者，他们都非常有价值，以至于这是一种非常奇怪的动态。四家公司，一千名研究人员，每个人都觉得他们至关重要。我们如何在这种动态下工作，让我们有足够多的公司与我们互动？我再也不会单一依赖了，这是上一届政府给我们留下的糟糕的“礼物”。所以我们有多个渠道，他们对国家安全感兴趣，他们是爱国者。非常类似于 2018 年的 Maven 项目，当时 Google 不想竞标那个合同。现在 Google 是一个很好的合作伙伴，所以希望一些更新的公司能从 Google 的经历中学到东西，那就是，他们不想为政府服务，因为他们有员工的（抗议）问题，但现在他们是政府最好的合作伙伴之一。

Host: 我们在很多方面都看到了 2018 年 Google 的 Project Maven 时刻，它是一个激励人心的时刻，让许多创始人和建设者醒悟过来，说：“嘿，等等。我确实希望政府拥有最好的技术和最佳能力。我确实想去建造。”我的意思是，如果您快进看，这催生了“美国活力”（American Dynamism）运动。我们为许多创始人提供了一个平台，他们说：“等等，我不同意Google的抗议者。我希望第一响应者（first responders）以及保卫我们国家的男男女女拥有最佳的技术和能力。”我总是提醒他们，看，Project Maven 是用来确保我们在阿富汗（Afghanistan）没有落下任何人。那真是被使用的技术。您不想落下任何人吗？替代方案是什么？所以我想，这也将是一个激励人心的时刻，为另一批对支持他们的国家和为政府服务的人民感到兴奋的创始人。嗯，让我们来谈谈战争部。内部结构上，需要改变什么，以确保您拥有最佳的能力、最佳的技术，并将其推广到一线。您知道，我们在新闻上看到了，我不会直接问您，因为您可能无法回答，但您知道，我们在新闻上看到了新技术、新能力的照片。但战争部内部在文化和结构上有什么变化？您知道，这显然始于引进像您这样懂技术的人。但为了真正使战争部实现现代化，正在发生什么变化？

CTO: 嗯，希克斯部长（Secretary Hicks）说，我们正在与官僚主义（bureaucracy）进行一场不可阻挡的战斗。这不是人，而是几十年形成的官僚体系，阻碍了拥有新技术的新公司在部门部署他们的概念或产品。所以我正在用我拥有的各种工具来尝试创建正常的承包流程，正常的采购需求。例如，我们过去的做法是：这里是我们 RFP 中的一千个要求。供应商会填好并说：“是，是，是，是。”即使物理上不可能，物理定律不允许。然后我们给了他们一份成本加成合同（cost plus contract），他们说：“哦，那没奏效。”然后是变更订单（change order）。变更订单会导致另外 3 年的开发，再增加几十亿美元。所以，我们正试图转向简单的需求。我需要一枚导弹，它能飞到这个距离，在这种环境下，携带这个有效载荷（payload），等等。**您（行业）**带着您的想法来找我，告诉我如何实现。然后您可以有五种不同的。

Host: 我们将以固定价格（firm fixed price）购买。如果您能通过经济化（economize）获得更高的利润，这就像埃隆（Elon）的模式，也是他在 SpaceX 如此成功的原因。那么每个人都赢了，对吧？风投界对这种模式非常适应，对吧？您押注赢家，有些人不会赢，但成本加成（cost plus）无休止的开发周期是行不通的。所以，我们需要更快的开发周期，与行业风险共担（risk sharing），清晰的需求信号（demand signals），更简单的做生意的方式。这些都是我每天都在努力清除的官僚障碍，以使其成为可能。

CTO: 这很好。您就像监管领域的摩西（regulatory Moses）。这很好。嗯，对我来说，这是最重要的变化之一，它确实能激发创始人（founders）的热情去建造。公司还能做些什么来更好地与政府合作，与您合作？您已经完成了“自由武器库”（Arsenal of Freedom）之旅。您参观了许多初创公司。但是，当政府说我们准备做生意了，我们将使其更容易做生意，我们想要最好的能力时，您现在需要什么？您需要公司和初创公司提供什么？

CTO: 嗯，我们需要公司，而这正是大型承包商（primes）的优势所在——不是创新能力。而是生产和制造能力，能够规模化（scale）他们最初建立的东西。我认为初创公司的机会在于，抓住伟大的技术和概念，建立起他们建造工厂、大规模生产这些东西的实力，并进行所有质量测试等等。所以您确实必须借鉴旧世界（old world）的做法才能有效地做到这一点。这样您就不是在重新发明（reinventing）整个东西。嗯，我认为这是下一步。在未来一到两年内，您将看到公司开始跨越这个鸿沟，他们已经证明了，或者他们曾经失败过，但随后他们聘请了合适的人才并找到了解决方案。然后这希望能够鼓励许多其他公司。这可以做到，然后风险投资（venture capital）的资金将继续汇聚到这个市场，我非常渴望。所以我想这是需要考虑的事情。还有另一件事：如果我在您这边，如果您是新入局者（new entrance）这一边，您总能在 300 万人的部门里找到一个人说：“太棒了，我喜欢它，我喜欢你的产品。”但是金钱（money）说了算。所以他们是在购买它吗？他们是在测试它吗？他们正在做那些吗？他们是否真的在推动您完成这个过程？因为这是您是否真正成功的最佳信号。因为那里的文化再次是从不拒绝（never say no），而我试图将其转变为更快的“是”和更快的“否”，这样如果您是一家初创公司——作为一名初创公司的人，我感受过这种痛苦——当您不知道自己是否能达成交易时，我宁愿被告知“不”，这样我就可以继续联系下一个合作伙伴，调整我的产品策略，做些什么。这就是我们试图转变的文化。也是我告诉那些年轻创始人的。

Host: 太棒了。我们非常感谢您所做的努力，这对纳税人来说是件好事。在我们结束之前，最后一个问题。您过着很好的生活。您非常成功。这不是一份朝九晚五的工作。我猜您有家人。这会占用您与家人相处的时间。您会对那些在创业（startup）和科技（tech）领域的人说些什么，他们正在考虑花时间为政府工作，支持政府，并视您为灵感，视您为他们想追随的榜样？

CTO: 我想，是的，大多数爱国者（patriots）都能找到一种回馈的方式，而且有很多方式可以回馈。这是我的方式，也就是，我是一名移民。我的第一语言是阿拉伯语。我移民到了这个国家。我来到了硅谷（Silicon Valley）。我看到了一些，并能够参与和建立一些最有趣的公司。现在是我人生的合适时机，可以说：“好吧，这就是我服务我的国家的方式。”我想让我的孩子们看到，这样他们就知道，我们的体系（system）不是免费的。人们必须有建设者（builders），有关心的人，愿意牺牲（sacrifice）的人去做。更不用说那些战士（war fighters）了，他们会报名参加这些工作。这是我能报名的方式，让我的孩子们看到这一点，让他们感觉到这一点。对我来说，这是极其激励人心的。我希望所有在初创界（startup world）的人都能找到自己的时刻去这样做。如果不是在商业领域，那么在职业生涯的某个合适阶段。因为我们需要更多的人去做这件事。因为我们曾经将政府服务视为一项光荣的职业，就像曼哈顿计划（Manhattan project）一样，有最好的科学家（scientists）。现在行业（industries）有很多机会可以真正地运用您的大脑，以那些方式。但我们不能忘记，我们需要爱国者时不时地来做这些事情。

Host: 那么，非常感谢您。我们非常感谢您所做的工作，也感谢您今天能来。我们知道您极其忙碌。

CTO: 谢谢。