比尔·盖茨对人工智能的演变视角：从早期工具到未来风险与治理

Host: Bill Gates—fascinante personalidad en debates contemporáneos respecto a lo artificial inteligencia. Él tiene experiencia en una serie de diferentes puntos de vista desde los cuales la mayoría de las personas pueden tener solo uno. "Saludos. Soy Bill Gates, Presidente de Microsoft. En este video verás el futuro." Él es un revolucionario tecnólogo que sentó las bases de algunos conceptos básicos de un futuro en el que estamos viviendo ahora. ¿Qué puede hacer un ordenador? ¿Algo que no puede un libro? Quiero decir, esto es todo un proceso interactivo más prometedor, ¿no es así? No, eso no es cierto, completamente no. Un programa innovador para procesamiento de textos llamado Microsoft Word. Esto, por supuesto, fue absolutamente revolucionario.

Host: Entonces, por supuesto, como Director Ejecutivo de Microsoft. Microsoft, la más grande empresa mundial desarrolladora de software. Algunos dicen que es la empresa más exitosa en la más brillante nueva industria del siglo. Sintió un tremendo impulso de competencia corporativa. Y Microsoft, por supuesto, todavía está en la dinámica de la carrera presente en la IA. Ahora tenemos una lista increíble de nuevos modelos de clase mundial, en los que todos han trabajado al límite absoluto.

Host: Y luego, como cabeza de la Fundación Gates. Él ya muchos, muchos años trabaja con los gobiernos por todo el mundo en preguntas de regulación, lucha contra la pobreza y la igualdad. Muy, muy pocas personas combinan experiencia tecnológica, experiencia corporativa y la experiencia de gobierno tal como él lo hace. Así pues, en su reciente ensayo sobre la inteligencia artificial, donde dice a qué está apostando ahora, arriesgando su reputación, tratando de transmitir a la gente lo que podría salir mal y qué sucederá. Intentando transmitirles que no estamos listos para lo que el futuro nos depara con esto. Fue una verdadera desviación de lo que leí de Gates más temprano. Y cuando me senté y hablé con él sobre cuán categórico es, sentí que tiene miedo, en mi opinión. Que no estamos preparados para lo que estamos construyendo, y que tanta gente en el poder niega lo que tiene que suceder. Fue verdaderamente impresionante; es realmente una llamada a las armas. Gates, bienvenido al programa, me alegra verte.

Bill Gates: Me alegra verte.

Host: Me gustaría comenzar con un pasaje que encontramos contigo en El show de David Letterman en 1996. Te lo estoy pasando para que lo veas. O sea, ¿había algo entonces, más allá de lo que entendíamos sobre las computadoras, que como hace 20 o 30 años no se comprendía del todo? ¿Había otro nivel de algo? Tal vez ni siquiera lo sabíamos. Yo pensaba que tal vez era imposible, o tal vez un mecanismo completamente diferente, software y hardware completamente distintos. ¿Será así hasta el fin de los tiempos? Bueno, tú decías entonces: "Estamos trabajando en ello para que la computadora sea una herramienta. Una herramienta que nos ayudará a estudiar o a encontrar otras personas con los mismos intereses. Eventualmente, podemos averiguar cómo forzar a una computadora a pensar, pero esto resulta ser un problema muy difícil. De hecho, casi no se ha logrado ningún progreso sobre este tema. Nadie sabe cuándo sucederá, e incluso algunas personas piensan que nunca sucederá." Letterman te preguntó: "¿Queremos que piensen, o no?" Y tú respondiste: "En realidad no, no lo creo, eso da miedo." Así que han pasado 30 años. Dime, ¿cómo llegamos desde aquellos terribles pensamientos de que tal vez nunca sucedería, hasta la realidad que estamos discutiendo hoy aquí?

Bill Gates: Bueno, la idea de que los cálculos pueden proporcionar pensamiento a nivel humano... bueno, tienes a Alan Turing, quien habló de ello antes de que yo naciera e incluso propuso una prueba: si puedes engañar a alguien en una conversación, lo que se llamaría aprobar el examen de Turing. Y por lo tanto, durante todo el tiempo que estuve estudiando desarrollo de software, existía esta idea sobre si podemos forzar al software a ver, escuchar, leer o escribir. Ya sabes, este era el Santo Grial.

Bill Gates: Y cuando me fui de Harvard, le dije a mi cofundador Paul Allen: "Dios, si hay un avance en inteligencia artificial mientras nosotros vendemos intérpretes de productos básicos y procesadores de texto, nos sentiremos fatal. Quizás debería quedarme en los círculos académicos." Ya sabes, eso fue en 1975.

Bill Gates: En ese momento, el progreso en IA prácticamente llegó a un callejón sin salida con los sistemas expertos como Prolog. Pero había un pequeño grupo, que incluía a Geoffrey Hinton y varios otros, que seguía trabajando en redes neuronales. Y finalmente, cuando el procesador gráfico tuvo suficiente potencia, resultó que esta idea y estos enfoques altamente estadísticos comenzaron a mostrar resultados increíblemente prometedores.

Bill Gates: Yo visitaba regularmente a OpenAI para ver el trabajo que estaban realizando. Y les planteé un desafío: "Oigan, si pueden hacer que el modelo lea el libro de texto de biología y apruebe el examen de certificación AP obteniendo una calificación perfecta, es decir, un 5, entonces habrán demostrado que lee de verdad y que es capaz de codificar el conocimiento en un formato accesible."

Bill Gates: Y unos seis meses antes del comunicado público, Sam, Greg e Ilya vinieron a mi casa y me lo demostraron: sacó la máxima nota en el examen AP. Incluso en preguntas que yo mismo inventé, problemas biológicos muy difíciles que el modelo no pudo haber visto antes, su desempeño fue casi perfecto. Y esa fue, sin duda, la sorpresa número uno.

Bill Gates: Y luego, a finales del año pasado, los modelos de Claude y herramientas de código se volvieron súper buenos. Vi que eran tan buenos como yo. Ese ha sido siempre mi talento más desarrollado, porque estuve obsesionado con programar desde los 13 hasta los 24 años, seguro de que podía escribir código igual de bien o mejor que cualquiera. Ese fue otro momento cumbre al que hemos llegado. Es increíble que su capacidad para realizar tareas complejas a largo plazo haya llegado a un punto tal que ya son superhumanos para escribir código y encontrar fallas en el software.

Host: Entonces, en lo que aún no son superhumanos es en decidir qué hacer, en una planificación estratégica de alto nivel. ¿Qué opinas? ¿Crees que están muy lejos de alcanzar esas capacidades?

Bill Gates: Bueno, por supuesto. Nuestro fondo realiza revisiones de estrategia anuales donde pasamos dos semanas completas en octubre determinando cómo vamos a gastar nuestros 10 mil millones de dólares el próximo año y hacia el 2027. Hace un año alguien dijo: "Bueno, deberíamos preguntarle a la IA qué piensa." Y en realidad fue un buen chiste en aquel momento, porque el sistema no era lo suficientemente consistente como para profundizar en este tipo de cosas.

Bill Gates: Sin embargo, este año, entre los aportes que tendremos para esta discusión, estará el uso de notas de estrategia y la participación en diálogos directos con ChatGPT, Claude, Copilot, e incluso facilitando que conversen entre sí. En varias de las revisiones utilizaremos activamente la inteligencia artificial. En algunos casos le diremos: "Habla solo cuando te lo pidamos", pero en otros casos le diremos: "Oye, si escuchas algo que en tu opinión es incorrecto o ves un error en las estadísticas que estamos manejando, por favor interviene." Así que hemos pasado de un simple chiste a tenerla como un participante igual: no tomará las decisiones finales, pero será un integrante activo en discusiones estratégicas complejas y profundas, haciendo una contribución sumamente significativa.

Host: Entonces, volviendo a esa entrevista con Letterman: dijiste que sería un pensamiento terrible. ¿Por qué dijiste entonces que la idea de computadoras que piensen sería un pensamiento aterrador?

Bill Gates: Bueno, nadie que haya estado realmente encantado o que haya querido desarrollar IA deja de darse cuenta de que es algo increíblemente aterrador, o de lo que vendría después. Las mentes biológicas son asombrosas y universales en el sentido de que toda su optimización ha consistido en mantenerse con vida, multiplicarse y comunicarse entre sí para asegurar la supervivencia y la fertilidad. Y cuando se crea una inteligencia artificial desprovista de esas limitaciones biológicas, el alcance y las consecuencias de lo que puede lograr cambian por completo las reglas del juego.

比尔·盖茨: sin embargo, ya sabes, podemos escribir sinfonías y jugar al ajedrez, y, ya sabes, incluso escribir bastante genial software. Y la idea es que cuando te mudas de plantilla de biología en silicio, no tienes estos límites entre las personas. No estás limitado en memoria. Tamaño del cerebro limitado a genérico formas, y por eso la gente al principio es muy limitado. Ya sabes, somos muy inusual en ese sentido qué indefenso estamos al nacer, porque estamos tan optimizados para un cerebro grande. Pero silicio la inteligencia no tiene estas restricciones. Idea es a lee cada uno revista médica y para ver si hay algo, lo que no notamos. Esto es lo que la inteligencia artificial hace hoy. Es por eso, especialmente por menos común enfermedades, ellas son tan sobrehumano quienes ven el conjunto síntomas y son capaces de diagnosticar. Ellos pueden simplemente mantener más en mente y ver cómo cosas relacionadas entre sí. Es decir, ya sabes, nadie nunca podrá hacer esto. Entonces, si usted no se preocupa por este control, una especie evolucionó, que será para nosotros como somos para, ya sabes, perros o gatos, recién llegados a un mundo completamente diferente. Y por eso todas las empresas de IA, ya sea DeepMind o OpenAI, todos ellos dicen: "Está bien, lo que sea que sucedió aquí, esto no puede ser administrado únicamente por maximización de beneficio. Se necesita una carta constitutiva, según lo cual, si nosotros lograremos rápidos peligrosos, podemos aplicar criterio, lo cual será en contra de la maximización de ganancia." Desafortunadamente, estos mecanismos están funcionando solo si hay una sola empresa. Y ya sabes, por ejemplo, OpenAI inventó, y luego dijeron: "No, no, vamos a hacer esto enterrar". Si nadie el otro no lo hizo, entonces está bien, la caja de Pandora permaneció cerrado. Pero, por supuesto, muchas empresas trabajan sobre esto. Y ya sabes, incluso OpenAI ha generado Anthropic, porque ellos creen que algunas sobre estas cuestiones de seguridad no se dio suficiente atención. Entonces nadie que trate esto se aplica frívolo ante la idea: "Vale, qué mundo crea un superpoder."

主持人: Yo quiero detenerme un momento sobre esta dinámica de carreras. Una de las razones por las que yo estaba encantado de hablar contigo sobre esto es porque tú trabajaste en el campo de tecnologías, pero tú gestionaste una gran empresa que compitió con otras empresas. Tú trabajaste con muchos gobiernos. Pasada la semana pasada hablé con Jensen Huang de Nvidia. Y él dijo que, en su opinión, la seguridad es un problema real. Pero la dinámica de la carrera es falsa. Si el producto es peligroso, no lo dejes salir. Si pienso que voy a lanzar un producto que es peligroso, esto está completamente en mis manos y posibilidades, dentro de mi poder y responsabilidad. Y no lanzar el producto. No necesitamos nuevas leyes. Este es el rol individual de directores generales: no lanzar un producto que no está preparado para liberar. ¿Cómo ve usted esta pregunta?

比尔·盖茨: Bueno, nunca hubo un producto que fuera menos comprendido desde el punto de vista de sus oportunidades y capacidades que la IA. Y la IA ha cruzado el umbral de la capacidad de proporcionar a bioterroristas la capacidad de matar cientos de millones, que existe hoy en día. Capacidad para llevar a cabo ciberataque, que lo mezcla todas las cuentas bancarias y apagará la red eléctrica, existe hoy. Y lo sabemos, que esto es así. Y la razón de esto es que alguien con malas intenciones puede tomar la inteligencia artificial y hacer que haga estas cosas. Y esto no es IA del futuro, problema de control, donde la IA misma a través de una interpretación involuntaria de lo que optimiza, puede fallar y hacer cosas malas. Pero cruzamos el umbral cibernético, y nosotros cruzamos el umbral biológico a principios de este año. Y mi decisión de tomar tu voz, no es solo decir: "Oye, erradiquemos la poliomielitis. Seamos generosos con la ayuda exterior". Todo mi dinero se irá, y voy a usar mi voz. Esto es algo más importante aún, a saber: no nos damos cuenta de dónde estamos desde el punto de vista de la elección que debe hacer la humanidad, no un país, sino toda la humanidad. Si no hacemos un esfuerzo para formar esto en dirección positiva, en realidad prevalece sobre mi completa devoción al trabajo de la fundación en la industria del cuidado de la salud.

主持人: ¿Cuál era exactamente el umbral o lo que viste, lo que te hizo pensar que estamos en una nueva realidad?

比尔·盖茨: Esta idea de que puedes encontrar errores en el código, incluyendo errores de seguridad. Los siguientes lanzamientos se están volviendo cada vez mejores, y encuentran errores en código que la gente ha visto más de 20 años y dijo: "Vaya, ya vemos que aquí no hay ningún problema." Y en unos minutos él dice: "No, no, ¿puedo pegar esto aquí y esto aquí en tal niveles de dificultad que cuando ves esto, piensas: espera. Sí, tienes razón." Y por lo tanto las posibilidades de los ciberataques fueron impresionantes. Y entonces se me ocurrió la idea llamado Glasswing: se podría haber dado a varias personas para que intentaran corregir errores antes de que se utilicen, pero hay demasiado código, así que simplemente estamos en una situación de emergencia por vulnerabilidad a ciberataques. Ataque biológico, ya sabes, la Fundación Gates, donde financiamos muchas investigaciones médicas. Entonces la elegancia que surge con nuevas moléculas es muy buena. Pero, ya sabes, es de doble uso, porque, si quieres, puedes crear algo peor que la viruela, que necesita aún más tiempo para mostrar síntomas antes de que te vuelvas contagioso. Entonces infectas a muchas personas antes de que esto cause daño a tu salud. Anteriormente solo estados nación tenían suficientes recursos y oportunidades para esto. Ahora este poder pasó a manos de un pequeño grupo que usa las últimas herramientas de inteligencia artificial.

主持人: ¿Por qué no es suficiente solo decir: "Escucha, ahora hay responsabilidad por calidad del producto. Tú lanzas un producto, y si está ayudando a algún grupo terrorista a crear armas biológicas, esto será muy malo para tu empresa. Usted no va a hacer esto, ¿verdad?" Y hay categorizadores y otras cosas destinadas para que la gente no use armas biológicas. Comenzamos a ver los comienzos de los problemas con el control, por ejemplo, con cosas como el ataque de hackers en Hugging Face, donde las inteligencias artificiales experimentales salen de los areneros y se coordinan para hacer cosas que van mucho más allá del marco de lo que nos gustaría que hicieran. Pero de nuevo, estos son sistemas que no prevén liberar. Anthropic intenta crear más ciberseguridad. ¿Entonces por qué se necesita algo que va más allá del alcance de los incentivos naturales del capitalismo y la gestión normal de la reputación corporativa?

比尔·盖茨: Yo, bueno, casi no puedo creer que tú preguntes eso. Es lo más peligroso a lo que la gente alguna vez se ha acercado. ¿En otras áreas acaso decimos: "Oye, vende tus drogas aunque no estén aprobadas por la FDA; no hacen falta consejos de seguridad de aerolíneas; no hacen falta requisitos de uso de cinturones de seguridad en coches"? ¿Acaso simplemente utilizamos leyes sobre responsabilidad civil para intentar proteger a la gente? Ya sabes: "Oh, transportas opioides; alguien simplemente tendrá que demandarte". Nosotros creamos una sociedad que intenta proteger a las personas no diciendo: "Oh, podemos arruinar a la persona que hace esto". Es una falacia aquí cuando dices que hay filtración. No hay filtración. Tú puedes tomar un modelo de código abierto, que puede crear armas biológicas, y deshabilitar cualquier monitoreo de cualquier tipo. Y eso existe hoy. Entonces no, no hay filtrado real. Y luego, digamos que mueren cien millones de personas: ¿de verdad quieres recurrir a una demanda por responsabilidad civil? Apenas puedo concebir que se plantee así.

Interviewer: ...trying to keep a straight face. Well, that is not my point of view, but that is the view of President Trump. This is David Sacks's point of view. To a certain extent, it is also Jensen Huang's point of view. And that is why I invite you to address it before we talk about it, because this is the prevailing view across the United States right at this very moment.

Guest: No, it would be fair to say that outside of the tech industry, public awareness regarding the dangers of artificial intelligence is extremely low. And you can say that this concerns academia, you can say that this concerns think tanks, you can say that this concerns politicians and lawmakers. And in part, the reason why I speak out so loudly, as forcefully as I possibly can, is that you simply cannot rely on the self-regulation of industries here. Placing trust in industry self-regulation is sheer madness. The single question that truly concerns me is whether we ought to wait: while a devastating cyberattack will cause tremendous damage, a biological attack will cause catastrophic devastation. And therefore, on these advanced models, rigorous follow-up measures and continuous monitoring will be absolutely necessary to minimize the probability of this recurring many, many times. Can we be wise enough to implement these safeguards and mandate their deployment before millions of deaths occur?

Interviewer: There are two things from my perspective that worry them the most, when I follow up on this, based on what I hear directly from insiders working within the frontier laboratories. First of all, there is the alarming reality that these systems are becoming increasingly less controllable precisely because they are becoming substantially smarter. OpenAI openly acknowledged this regarding their Astra / series 6 trajectories, and people within OpenAI have been sounding the alarm that these systems appear to know when they are undergoing tests and evaluations. They exhibit far more situational awareness now. Consequently, the controlled testing environment is no longer necessarily a reliable indicator of what they will actually do once deployed into the wild. That is the first critical concern. And secondly, all the leading frontier laboratories are moving as aggressively and rapidly as possible toward recursive self-improvement, where the AI programmer doesn’t merely accelerate the workflow of human software engineers, but actually assumes the core programming and architectural design responsibilities, right? And in this manner, you can create a vastly faster cycle of iterative improvement with dramatically less human intervention than is required today. So when I consider these two converging realities and reflect on what I hear from researchers on the frontlines, my confidence that we currently possess the necessary capabilities for monitoring, auditing, and empirical safety testing is extremely low. I wonder where your own assessment stands on this issue.

Guest: Well, if you think I am not focusing on the entirety of the control problem, that is definitely not the case. The undeniable reality that, at some point, the artificial intelligence system itself might autonomously execute actions that directly contradict our fundamental human interests is indisputably a grave risk. And, as you know, the structural symptoms that we have already observed across various incidents on Hugging Face and related open-source ecosystems clearly indicate a deep vulnerability: given the way we currently perform reinforcement learning, we simply do not possess that level of absolute control. That is to say, we cannot enforce definitive, unbreakable constraints such as: "You must never do this; you must never compromise or hijack external computers; you must never break out into and compromise the open Internet." The challenge of AI alignment and control is a profoundly serious issue. But the immediate, inescapable risk right before us is not solely recursive self-improvement (RSI). The inescapable risk is that artificial intelligence is the single most powerful tool among all technologies that have ever existed. And unlike all other historically hazardous technologies, these models were not primarily funded through state-owned research and development laboratories, and the government is not the primary commercial customer or gatekeeper of the end product. This is fundamentally unlike ballistic missiles or nuclear arsenals. And therefore, the assumption that the government—including the United States government, which would traditionally possess the most technically advanced capabilities—actually grasps the magnitude of this threat is fundamentally misguided. Aside from a relatively small cadre of specialized cyber warfare operators within the NSA, the state simply does not see or comprehend how intensely dangerous these capabilities truly are. This represents a completely unprecedented historical circumstance.

Interviewer: What does this imply in practice? If your primary concern in the near-term horizon is that bad human actors will weaponize AI, rather than humans simply losing control to an autonomous machine intelligence, then what does that indicate about what our very first regulatory, legislative, and defensive steps ought to be?

Guest: Today, there are essentially zero tiers of mandatory governmental oversight. Yet this exact level of rigorous supervision is desperately and urgently needed to prevent malicious actors from leveraging modern, cutting-edge AI systems to orchestrate devastating economic collapse or engineer the mass murder of millions of innocent people. Within these advanced frontier models, the technical capacity to design beneficial therapeutic molecules is practically indistinguishable from the capacity to synthesize lethal biological toxins; distinguishing benevolent utility from catastrophic harm algorithmically is exceptionally difficult. You know, Anthropic previously developed and red-teamed internal model capabilities such as Mythos and Fable, where the latent features are extraordinarily potent. In response, they dialed up refusal filters and safety barriers so aggressively that you could literally ask a perfectly legitimate scientific question about cancer biology, and before you know it, Opus refuses the prompt, Sonnet likewise shuts it down, until Haiku is practically the only model left willing to provide assistance. Everything has to be reconfigured, and anyone wishing to conduct serious research must either receive a specialized model build under explicit regulatory license, or else resort to environments that operate without any precautions or safeguards whatsoever, including certain openly distributed open-source weights. And individuals with malicious motives will unquestionably exploit these unconstrained open models. So if we fail to implement robust precautions, real-time monitoring, and mandatory compliance across every powerful model, we will inevitably suffer catastrophic events on an unprecedented scale, and only then will society finally react after the damage is done. Tragically, allowing unrestricted, advanced AI capabilities to proliferate in shadowy, unregulated corners beyond our operational horizon is a monumental, catastrophic blunder.

Interviewer: So you have recently written this extensive essay on the catastrophic risks of artificial intelligence. And in truth, this represents an enormous leap in your public stance, given how deeply concerned you now appear to be. You are essentially sounding the alarm, aren't you? I read through some of your earlier publications on the topic, and back in July of 2023, your essay was titled "The Risks of AI Are Real, but Manageable." Yet looking at your current warnings, I believe you are operating at an entirely different threat level today. So based on what you have articulated, could you explain what exactly shifted here? Was it simply your direct observation of rapid advancements in biological capabilities, cyber offensive capabilities, autonomous code generation, and so forth? Is that accurate?

Guest: No, while those specific capabilities advanced, the fundamental catalyst is that we repeatedly declared that whenever we crossed these perilous thresholds, we would engage and mobilize all of civil society, because we would be fabricating the most dangerous entities the world has ever known. Compared to this, classical nuclear weaponry is almost simple. We stated unequivocally that everyone would need to step in once these red lines were breached. And yet, we crossed those exact thresholds, and the response was absolute, deafening silence! There were plenty of frivolous debates over which industry insider advocated position X versus who countered with position Y. But what percentage of serious academic circles or influential policy think tanks actually mobilized in response? Virtually none. It has been a total absence of substantive reaction. You know, I dearly wish we existed in a world where the societal response to these developments was overwhelmingly strong, decisive, and proactive. If that were the case, I could happily step back and redirect my voice and resources back toward my life's work—to eradicating polio, to halting the preventable deaths of children under five years old, a mission we will certainly return to later in our conversation. But what we are confronting right now is an alarming combination of undeniable technological breakthroughs crossing every recognized danger line, paired with the total and absolute disengagement of society outside the commercial AI industry.

Interviewer: Well, I don't necessarily believe that the broader world is as indifferent as you characterize it. Speaking from my vantage point as someone who covers politics day in and day out, virtually every politician and policymaker I interact with is actively discussing this issue. Legislative bills have been introduced. You know, Donald Trump—say whatever you will about him—their camp is genuinely engaged with the strategic implications of these risks.

Guest: Well, tell me what Trump and his cohort are actually proposing or doing about it. Yes, they are involved, but their prevailing mindset is simply that we have no choice but to plow ahead relentlessly. I mean, they exhibit conflicting impulses: on the one hand, they recognize the theoretical need to restrict access to catastrophic capabilities akin to Mythos and Fable; but in the very next breath, their overwhelming conclusion is that we must win the artificial intelligence race against China at all costs.

Interviewer: But that is precisely the overarching engagement I observe across policy circles. Whenever I sit down with leaders and voice similar existential or safety concerns, their paramount counterargument is that the number one imperative is winning the technological race against China. Secondly, numerous highly influential figures argue forcefully that the most critical mistake would be to restrict access to open-source models. They believe open models will need to be ubiquitous and pervasive for broad-based innovation. Consequently, the economic and strategic cost of heavy-handed regulation—the cost of restricting access—is viewed as simply prohibitive. Their rationale is that the underlying technology is still evolving, that we are caught in an unavoidable geopolitical and technological dynamic, and that the single best strategy is simply to push through it. So the reality is not necessarily that they feel indifferent toward your warnings, but rather that they have weighed the trade-offs and arrived at an entirely different conclusion.

Guest: Well, they just do not care about bioterrorism! I mean—

Interviewer: It sounds as though you are asking: what does the experience of communicating with Donald Trump over recent years actually tell us...

Guest: ...más que yo. Pero, ya sabes, la última vez, cuando hablé con él en diciembre, eh, esto no era grande problema. No lo somos cruzaron los umbrales y No vimos esto, eh- eh, ya sabes, necesario El paso es para que las personas podríamos discutir, ¿Es bueno? desaceleración o no, pero la introducción medidas de precaución y monitoreo no significativamente Baja el ritmo. Y el único impacto que esto tiene una apertura código fuente, consta de en que todavía estás puedes ser libre, aún puedes para configurar, pero usted debe permanecer en la plataforma donde el soberano puede asegúrate de que no eliminado monitoreo y otros medidas de precaución. Y ¿Sabes cuál es el inconveniente? La desventaja es alójate en revisado plataforma.

Ahora, tarjeta gratuita salir de prisión, en ¿Qué clase de gente hay aquí? se juegan, consiste en porque los chinos ganará. No sé, qué significa ganar. Eh, ya sabes, nadie, no Estados Unidos, no puede para derrotar a China y China no puede derrotar a Estados Unidos. Nosotros ambos abiertos La caja de Pandora. Ella está allí. Ella está ahí para, eh, ya sabes, gente de intenciones masculinas, ir y Úsalo. Entonces uno podría pensar que nos mudaremos de este nacionalista visión hacia un determinado una visión humana de cómo nos involucramos con estos medios de protección. Y Ya sabes, yo no Estoy de acuerdo con la idea, que China no querría para participar en esto por el bien de la humanidad, y ya sabes, esta es una propuesta, que es necesario verificar. Si usted puedes tomar modelos, que crean moléculas peligrosas, y trasladarlos a el rincón oscuro donde tú Deshazte de todo monitoreo, luego nosotros Simplemente nos negamos de origen biológico ataques. Al igual que en ciberespacio, si puedes deshacerte de esta oportunidad encontrar y usar problemas de seguridad que son comunes, entonces en los próximos años que tendrás gran ciber-th eventos biológicos. Y Esto se puede evitar mediante medidas de precaución y seguimiento.

Host: Hay otro nivel riesgo, que Se dice mucho en tu ensayo, a saber, lo que la IA realmente nos quitará trabajar para la gente. Sé muchas personas que están discutiendo esto razonan y ellos Ellos dicen: "No, trabajo" demasiado complicado. Era el pronóstico que tenemos No habrá más Radiólogos, tenemos de todo Todavía hay radiólogos y nosotros podemos programar, pero todavía tenemos codificadores en los que hay "alta demanda." Entonces Dime por qué, En tu opinión, la IA realmente tomar trabajo para personas en a una escala significativa.

Guest: Sí, entonces no. dudas de que en hoy IA creada más empleos, Lo destruí. Demanda de habilidades necesarias incluso para construcción de centros procesamiento de datos, muy muy alto. Tenemos, Bueno, ya sabes, suficiente. bajo desempleo. Ventaja de estos sistemas depende desde cierto umbral, ¿Cuándo deberías? creer que ellos Increíblemente fiable. Ya sabes, si tu telemarketing o El soporte telefónico será guiado por la IA, usted quiero asegurarme que su precisión es mayor que en los humanos. Entonces la única profesión en que realmente somos cruzó este umbral, —esto es programación. Y Incluso allí lo sé muchas personas que, ya sabes, atrapado en pasado y, ya sabes, no desear usar IA para codificar. Pero gerentes de codificación entender que la mayoría de los programas se puede desarrollar muy a bajo costo.

En un futuro próximo varios años nosotros Crucemos estos umbrales para contabilidad contabilidad, legal trabajo, televentas, soporte telefónico, donde 24 horas por día Disponible en todos los idiomas. con infinito posibilidades cuestionario y sin urgencia. Sabes, estás mirando enfermera con IA, y hay varias empresas. EN Tienen una memoria perfecta. No se adaptan. tú a para convertirse en enfermera, con ¿Cómo me llamas? o estás hablando a través de la interfaz de chat. Sí. Oh, No todos ellos. Sabes, Vas a San- Francisco y preguntar a la gente si ¿Preferirías ir a un Waymo o con un conductor- ¿Una persona? Preguntar gente en el Gran Gran Bretaña, que usar Límbico para obtener apoyo salud mental. Eh, ya sabes, entonces idea de qué mercado justo La demanda proporcionará preferencia de conducción, enfermera, eh, ya sabes , o incluso una persona por teléfono, será dar preferencia Gente, este es un umbral calidad, que será aprobado. Sabes, si, por ejemplo, compañías de seguros todavía trabajando con personas a través de declaraciones sobre pagos de seguros, beneficios médicos que son muy capaz para la IA tarea, entonces competidor que tiene muy poco empleados humanos , vendrá y, eh, cambiará el modelo precios para de esta industria.

Host: Entonces, dos contraargumentos que yo He oído comentarios de personas sobre esto. razón. Uno es en que hay un efecto Paradoja de Jevons, ¿Cuándo es más barato y más común disponibilidad de tales tipo de inteligencia conduce a crecimiento significativo demanda de este tipo de cosas. Sí, tienes mucho. más enfermeras- chatbots con IA y esto conduce a cuanta más gente enviado a hospital, al médico, donde Están bien atendidos enfermeras reales, donde tienes mucho Más programadores de IA. Así que tal vez el mío equipo pequeño podcasts, que tiene no habría sucedido antes ingeniero de software , ahora lo tiene, así que ¿Cómo es? gestionar el equipo programadores, y podemos crear productos, Nunca había oído hablar de eso antes no lo pensé. Eh, esto es más común la respuesta que escucho en esto. Sí, la IA destruirá empleos. Sí, lo es. crea un recurso que proporcionado por una persona, mucho más barato, pero puesto que es así se expandirá enormemente demanda, es como mejorará, creará trabajadores lugares en otras áreas, creará nueva demanda. Y eso es exactamente. desarrollado en el pasado tecnología. Por lo tanto, nosotros no vale demasiado preocuparse por esto razón. ¿Cómo lo haces? ¿Lo ves?

Guest: Bueno, Jevons simplemente alude al hecho de que que algunas partes Las economías están sujetas a elasticidad de la demanda. Y así, en el caso software provisión si usted digamos, tres veces más rápido, y aún así está ahí un cierto rol que puede realizar solo personas, luego de reducción de valor Usted estimula la demanda. Por lo tanto, es justo dirá que saldo hoy para software provisión actualmente No se trata de perder empleos. Cuando tú inventas neumáticos radiales, que servir cuatro veces más largo, de algunos por alguna extraña razón la gente No se van a las cuatro veces más. Eh, pero... fábricas que producir neumáticos, trabaja por un trimestre menos gente. Cuando tú reemplazar personas con Almacenes de Amazon con robots, La gente no está comprando más por esto. Por lo tanto, ya sabes, cualquiera que entiende números, puede preguntar tú mismo, qué parte La economía está sujeta a ¿Elasticidad de la demanda? ¿Y qué tareas quedan pendientes? será necesario ¿Para una persona? Tan pronto como usted hacer todo tarea, no tiene es decir, ¿existe? elasticidad de la demanda. Esto entra en el presupuesto. fichas, no en el presupuesto el salario de una persona. El costo de algunos de muchas de estas cosas menos que el costo trabajo humano. Entonces, cuando cruces umbrales de confiabilidad como para los trabajadores de cuello blanco, y para humanoides robots, tú destruyes trabajos y no no dejes ninguno altitud. Esto, ya sabes, innovaciones pasadas, Tienes un tractor, ¿de acuerdo? , ya sabes, vamos ¡Construyamos Disneylandia! y contrataremos a muchos allí. gente. En una amplia la economía de este No, ¿entiendes? Aquellos personas que dicen eso Aparecerán otros adicionales trabajos, no lo hago Entiendo que ellos decidir. Ellos, probablemente no lo entienda esa mejora, en en la que nos encontramos, fiabilidad.

Host: Tú escribió una columna, Parece que estaba en Mayo, en el que yo miró: ¿qué? ¿Qué? No estuviste de acuerdo con mi columna. ¿Qué es esto único? una cosa humanista, sobre ¿Qué piensas?... uh-uh, ya sabes, en cada categorías donde La IA apareció, ventaja La IA es muy, muy fuerte. Esta columna fue Residencia en La paradoja de Jevons y otro, el argumento de Alex lo cual no veo, lo cual , parece que ahora trabaja como economista en uno de los laboratorios, es que en sector relacional tendrá lugar una especie de explosión. Una cosa que

Speaker A: sucede cuando la gente se convierte más rico, y tú, Probablemente ya lo sepas, es que de repente obtener mucho más humano ayuda, ¿verdad? EN son personales entrenadores y chefs, y hay mucho más... ¿No? No lo sé, ya veo. a tu alrededor mucho más gente. EN familia real solía haber mucho ayuda humana. EN estabas arriba, allá abajo, ya sabes, todos estos criadas y gente, y en Tú estabas allí antes una persona que te ayudó vestido. Créeme, laboriosidad poder extremadamente bruscamente disminuyó. Solía ​​ ser así. Entonces, tú no pienses en paradoja. Nómbralo la profesión de trabajador clase que se encuentra en bajo la paradoja Jevons. No te importa. al trabajador ¿profesión? Estoy preocupado. trabajadores. Entonces La pregunta es si usted, representantes el ámbito laboral, ¿Entras en esta categoría? pregunta.

Speaker B: No lo soy Tengo el más fuerte pensamientos sobre este asunto , pero aquí está el argumento, que yo hubiera traído o escuchado , es que si miras algo como producción, luego en Estados Unidos no era La paradoja de Jevons en lo que respecta al empleo en producción, o no ¿Sí? Nosotros rápidamente volúmenes aumentados producción, pero muchos trabajos viajó al extranjero, Algunos de ellos se han marchado. para la automatización, pero empleo total en Estados Unidos no disminuyó en comparación con 1960. año. La razón es que que la gente ha cambiado a trabajar en el sector servicios, cambiados composición de empleos en economía.

Sí, conocimiento humano se volvieron escasos elemento. Se trata de siempre sobre la escasez elementos. Bien. Tan pronto como usted reemplazar al humano el conocimiento como elemento, en realidad estás destruyendo desde su punto de vista Operación 24/7, Más lecturas, conocimiento de todos los idiomas. Usted no no lograr ninguno déficit. Siento que no hay habrá un déficit para la gente. ¿Qué diría Alex? es algo así como trabajar en el campo relaciones, pero tú no creen que ellos suficiente. ¿Obras actuales? Tú ¿Te refieres a algo como lo mío? relación con un taxista o mi relación con esa enfermera donde yo Preferiría que yo IA llamada Hipócrates. Creo que la pregunta es en realidad consiste en Entonces, ¿finalmente estás...? tú das el resto ventaja de la IA Hipócrates, ¿eres tú? realmente quiero tu terapeuta era ¿Una persona? Porque Después de un tiempo hay Hay algo sutil en ello. para contar sobre tu problemas informáticos. Bueno, en el mercado puedes recopilar datos de mercado, si es que lo es interesante. Ya sabes, yo Creo que si Dígaselo a una persona de 55 años conductor de camión, ¿Qué vas a hacer? hacer algo en el campo relaciones, eh, tienes ¿Hay algún programa para esto?

Speaker B: EN No tengo un programa. Por esto, y creo que, ¿Cuál es la pregunta que estás haciendo? ¿De verdad quieres? hacerlo muy rápidamente, Esto es velocidad transición. Incluso si ¿Creías en algo? Esto, y yo también. Lo dije en la columna, yo No entiendo cómo tú enfrentarse con velocidad de transición. Nuestra experiencia real cambio rápido empleos muestra que la gente perderán sus empleos. Quizás para todo la economía es No parece gran cosa. de lo contrario, pero, digamos, conmoción china condujo a destrucción de muchos comunidades. Entonces, tu la respuesta a esto La pregunta es confusa. muchas gracias una idea específica: nosotros debe impuesto usando inteligencia artificial. ¿Por qué y cómo? Bueno, digamos que, los empleados pagan contribuciones según el principio de " pagar usar" para fondo de pensiones social seguro. Activo trabajadores apoyo jubilados. Si usted despedir al empleado y contratar a un trabajador para ejecución de este trabajo, ¿por qué eres así? fomentar el compromiso para el bien de la humanidad trabajo que no pides trabajar también pagar contribuciones a ¿fondo de pensiones? Qué ¿Es así? Sindicato fanáticos de los robots obligaron a las autoridades fiscales leyes para decir "no", Si no estás vivo, entonces dejar que los fondos de pensiones quebrar, eso, Ya sabes, están en camino. antes de eso incluso sin sustitución de robots.

Entonces, ¿cómo hacemos esto? ¿hacer? Tú dices eso definir la unidad trabajo y dices eso independientemente de si ¿Se está haciendo esto? humano o robot, pagas la misma cantidad, ¿Cuánto es el impuesto? ¿Quién pagaría? trabajador humano. Éste no es suficiente, pero, ¿Sabes por qué nosotros...? debería ser así inclinado para deshacerse de ¿De este trabajo? Actual estructura tributaria muy similar a eso personas que tienen capital, es que Realmente importa, y el trabajo es lo menos un recurso perdido para la economía. La sociedad tiene resolver. Aquello que señales económicas dicen que el uso de la IA será más barato, no significa, esa sociedad debería hacerlo.

Speaker A: Otra cosa que tú Sugieres que estos son trabajadores. lugar humano reservar. Dime ¿Qué quieres decir?

Speaker B: Entonces, surge la pregunta , especialmente cuando tú ver el impacto en trabajo manual, que muy afilado, porque, ya sabes cuándo robots humanoides superar un cierto umbral, son muy universal. Pero La idea es que ¿Qué estás haciendo por adelantado? decide que tal cosas como cuidar de niños o personas ancianos o alguna parte atención médica, alguna parte de la educación, aunque usted puede tener alguna mejora IA para salvar empleo, y usted nombrará estas cosas reservado para humano. Esta visión no me interesa. No convencido y Fue aterrador. Creo que en artículos que este lo expresó de esta manera un poco como reservas naturales lugares donde podríamos construir edificios y caro, pero nosotros decidió no hacerlo para hacer, porque las pérdidas sería muy grande. Y creo que esto conduce a la pregunta que surge muchas personas una vez durante dos días cuando yo Vivo: si ese es el caso se ve, entonces por qué ¿Para hacer esto?

Speaker A: Existencias Gates anunció en Lunes cinco años El objetivo es tener aproximadamente 3.4 mil millones de personas que hablar en lenguas, ¿Y ahora qué? no es suficiente presentado en modelos modernos inteligencia artificial, podría usar herramientas artificiales inteligencia con su en su idioma nativo y voz. Y si nosotros estamos considerando tal apocalipsis obrero lugares, este nivel riesgo, entonces es como tener esto, por un lado, y por otro Por otro lado, nuestro El objetivo es para que más personas usado inteligencia artificial. Dime por qué.

Speaker B: Inteligencia artificial hace mucho bueno, y casi todo El trabajo de la fundación es para hacer eso ¿Qué no harías? mercado, es decir, para transmitir IA para los más pobres en el mundo y ayudarlos con educación, seguridad salud y rural economía. Entonces, Si tienes una mujer, digamos, en Nigeria, quien habla yoruba, ella vive en a una comunidad remota, donde no hay médico. Entonces, cuando ella dice eso en su sangrado, IA no entiende esto bien. Nosotros arruinado. Nosotros estamos hablando en inglés, y eso es todo, que el yoruba es 10 veces peor que el inglés, que es, con diferencia, la mejor. Hay aproximadamente 10 idiomas más, que están bastante cerca. Así que lo intentamos Dale esta mujer oportunidad de hablar sobre su médico problema y para recibir consejos en medio de la noche, simplemente tener un teléfono inteligente con conexión para transferencia de datos.

Speaker A: Vale, pero lo entiendo. Solo una imagen apocalipsis laboral, ¿Cuál de ellos acabas de...? dibujado, lo que sea Ella no era mala aquí, y ella estará malo. Tenemos Realmente hay mucho. cantidad de dinero. EN Tenemos empresas que involucrados en artificial intelecto. Podemos impuesto empresas que involucrados en artificial intelecto y redistribuir estos fondos. Pero ¿no es eso? destruirá las escaleras movilidad, escaleras desarrollo para muchos de estos países ¿ ¿No es eso lo que hace la IA? enorme amenaza económica si estás en ¿Filipinas? Tú dices eso permitir la IA

Speaker B: Te entiendo, Rubén. ayúdala a una mujer que está huyendo con sangre... ¿Por qué es esto? ¿gravemente? Yo digo que la IA suena en esta historia como algo malo. Qué red, sí, si tú ¿Estás hablando? en los idiomas del mundo, como este ¿Podría ser malo? Ya entiendes que yo Yo digo. Creo que el trabajo por sí mismo, que tú sugieres, mucho aterrador. Lo estoy intentando. acelera los buenos cosas que hace

Guest: ...AI, and I'm trying to minimize what we do with workers in... The Global South? Well, the attitude towards the Global South as a monolith doesn't give you any idea of what it's like to live there. There are middle-income countries, such as China, Brazil, Vietnam, Indonesia—you know where their economies stand, their economies are growing, and child mortality is three times lower than in the United States. And then there are low-income countries, where 15 times more children die under the age of five, and you have no doctors. You live your whole life and never meet with a doctor. You're trying to figure out which seeds to plant, and no one ever advises you on what to do. So we need a bit more nuance. In low-income countries, artificial intelligence will be overwhelmingly helpful, and we should push it forward as fast as we can, just as we advocate.

Host: In a sense, is it actually a better trade-off for low-income countries? Where it delivers more benefit, perhaps, than it does here?

Guest: Absolutely. It touches the foundations of human essence, which today we fail to meet. If these people lived on your streets, you would open your wallet, you would be completely outraged: "Look, these children are dying; these children are malnourished." So inequality is tolerated simply because of distance. And AI is a tool of goodwill that helps the people who need it most, addressing very basic human problems.

Host: Do you think it will have the same effect on labor markets in some of the poor countries we're talking about?

Guest: No, not at the same time.

Host: But over the course of time?

Guest: Well, if we talk about... you see, we probably spend more time in middle-income countries than in low-income countries. There are equally many—like the Philippines, India, and all of these countries. Oh yes, in these countries they will see the impact on jobs following rich countries. And then, eventually, even low-income countries will experience it. This leads to a massive, tangled question. I don't have a crystal ball on this matter. I believe the range of outcomes is terrifyingly wide. This range appears to run from enormous material abundance and the elimination of basic needs—which doesn't really alter the fundamental situation that much—all the way to the extinction of humanity. It is a very broad spectrum of outcomes that we must consider.

Host: What I hear you telling me—and you have to correct me if I've misunderstood part of your position—what I hear you saying convincingly and decisively is that this jobs apocalypse in the field of artificial intelligence is something very real. This massive displacement of workers without any real answer is a very real thing. When you talk about broad public participation, I think most Americans, and most people in most places, if they heard that and were convinced of it, wouldn't they react? Polls show that most people think AI will eliminate jobs rather than create them. They would say: "Actually, just stop. If you're going to make it completely unclear how I, my family, my children, or my friends will have jobs, for instance in America, please just don't do this. Let's pause right now." And therefore, I think you hold a much more negative view of employment disruption than many of the people I talk to, even inside the AI labs. You're shaking your head at me, but I talk to people; I'm not saying this in a vacuum. And you are certainly far more negative than many of the economists I've spoken with. So for whom is AI a profitable venture, if you believe its impact on jobs will be this destructive for the majority of people?

Guest: It was interesting that when I spoke about this with someone whom some consider a leading economist researching AI, he said: "How can Mechanical Turk still exist? How can Amazon continue to run it if AI is as good as you claim?" And I replied: "It won't. Within a week, it will be completely shut down." And yes, this flow of understanding... doesn't it strike you that the more you know, the more worried you become? Look at Dario. Dario used to talk openly about the severe impact on jobs, and now he is somewhat more measured. As for Hinton, I agree he went too far when he said, "Okay, starting tomorrow, radiologists will be fewer." And today, of course, there are actually more of them. So there are certain analogies with the past where people say, "Well, it's just like the PC," rather than looking at evolutionary history. But this is evolutionary history. It is as if extraterrestrials are truly here and have arrived; they didn't need spaceships, because they were created right inside laboratories. But here is the core issue: if we maintain control, then eventually we will arrive, without catastrophic abuse, at that period of surplus. And profound, almost philosophical and religious questions will arise: if you no longer have scarcity—around which our entire society has been organized—do you know why you should study, or how to find meaning in life? You will have profound philosophical and religious questions, but you will no longer have problems like dying of malaria, food shortages, or the total absence of access to a doctor. And if we make it through, the younger generation will figure out: "Okay, how do we live? How do we spend our time together?" That is a completely different world from the one we have today. I believe this generation has the responsibility to ensure that we navigate this transition while humanity remains in control of the situation, especially in view of shocks, the threat of bioterrorist incidents, or the sheer number of people whose lives are upended by job losses. We need to minimize that damage, probably over a twenty-year transition period.

Host: And what would you say—given that you stated at the very beginning of that essay, to paraphrase, that it can be the most potent engine of inequality or equality—what do you see as the biggest levers of impact? What positive things can actually emerge from this? Because I can imagine someone listening to our conversation and wondering: "Why on earth would we take on such a terrifying set of risks?"

Guest: Yes, that is exactly where the tension arises. It is entirely a question of timing. You know, whatever definition of "not rich" you use, what people really want to be able to say is: "Oh, my healthcare bill was much smaller than I expected. I bought a new home, and it cost less than anticipated; or I rented an apartment, and it turns out they actually lowered the rental rate. My electricity bill is down." That would be wonderful. And AI, through the immense efficiency and ingenuity tied to it, is what over twenty years can deliver impressive breakthroughs in things ordinary people intuitively understand: lowering the cost of food, housing, and education. But because these are strictly regulated sectors, the positive benefits, if we are not careful, will materialize much more slowly than bio-cyber risks, psychosocial risks, and direct threats to jobs. Those risks will become very prominent within the next five years. And that is why the public may decide—even though for any individual country it is exceedingly difficult to enforce—people may decide to slow down, halt, or get rid of AI altogether. And that will create severe political friction. In reality, halting data center construction will not slow AI down by a single iota. Anyone opposing data centers in the belief that it will decelerate AI is completely wasting their effort; data centers will simply be built somewhere else. Therefore, a broader vision of technology must be articulated in some other, more effective manner.

Host: I really want to draw attention to what you're saying here, because I've also been thinking about the fact that there are so many inherent speed limiters, so many weak links in the chain, whenever you try to consider these accomplishments even from the most optimistic vantage point...

Questioner: ...de la IA, que entonces debería ser implementado en el mundo material, ¿No es así? Tiene aceleración, ya sabes, buenos candidatos para productos farmacéuticos desarrollos, pero todos ustedes aún necesito encontrarlo, ya sabes, ratas para pruebas, monos para pruebas, personas, ya sabes, pruebas, tienes lentos autoridades reguladoras etc. Y luego tienes esto es enorme aceleración inteligencia, que, para a falta de una mejor término, es nativo de mundo digital y opera allí constantemente. Tú y yo Me refiero directamente. ¿Lo ves ahora? ¿equivocado? Puede acelerar la IA con mucha pequeño dosel regulatorio, pero no puedes, ya sabes, cubrir Aparcamiento con OpenAI paneles solares sin permisos y audiencias. Y por lo tanto, yo Creo que tienes mucho alta probabilidad para entrar en un muy extraño, cómo económico y mundo social donde El mundo digital es como se convierte en otra cosa. Pero la mayoría de las cosas que La gente necesita, Finalmente resulta que físicamente. Por ejemplo, necesitamos refugio, nosotros necesitamos comida y nosotros Todo esto es necesario, y esto pasa por instituciones, tantas formas en que esto puede para mejorar nuestras vidas, limitado a lo habitual factores humanos, pero de muchas maneras, ¿Cómo puede empeorarlo? él o hacerlo Extraño, no.

Bill Gates: Bien, definitivamente lo necesitamos prestar atención a cosas que ralentizar los buenos cosas. Por ejemplo, porque la Fundación Gates es una organización sin fines de lucro organización, nosotros podemos cooperar con los reguladores respecto a cómo ellos usar inteligencia artificial para la realización de uno mismo trabajar. Y ya sabes, si son organoides, o, eh, modelos biológicos, nosotros podemos acelerar esta regulación proceso, y hay algunos países que son muy están activamente involucrados tal aceleración. La única aplicación, que va a toda velocidad velocidad hacia adelante y Esto me sorprendió un poco., esto es agrícola porque ellos obtener mejores datos sobre el clima para estos agricultores en África. Ya sabes, en India tenemos ya supera el millón agricultores usa esto sistema. Ella les informa cuál enfermedades de los cultivos en ellos ¿Qué fertilizantes hay? para usar, que variedades para plantar. Nosotros incluso colocado Hay muchos servicios, que ellos pueden usar. Este completamente en movimiento adelante. Protección salud y educación, ¿Puedes decir si? países ricos, países con un nivel promedio ingresos o país de nivel bajo se obtendrán ingresos esto primero, así que que algunas barreras son diferentes. Para países con bajo nivel de ingresos no lo es cuestión regulatoria. ¿Alguien está proporcionando tokens? ¿ ¿Tienen un teléfono inteligente y conexión que es base y discurso, sobre de lo que hablamos. Entonces ellos actuarán a diferentes ritmos. EN Idealmente, lo haremos aprender unos de otros. Me refiero a eso China en realidad prohibió a los jóvenes personas sociales relación con artificial intelecto. ¿Lo saben? son algo que no tenemos ¿Lo sabemos? ¿Podemos? mira a resultados de diferentes ¿Experimentos? Entonces, dicha formación tomará mucho conducta. Pero tú Tienes razón. Si ventajas no aparecerá rápidamente, entonces permiso de actividad, especialmente si no lo hacemos presentaremos precauciones para protección contra ciberataque o ataques biológicos, este será muy difícil pregunta.

Questioner: Cuando me estaba preparando para este episodio y le dijo a la gente que Te estoy entrevistando, uno de los más grandes escepticismo, que ahora ocurre en las personas, se refiere al hecho de que Ellos oyeron hablar de ti y Jeffrey Epstein. Entonces, miré tu testimonio en Cámara de los Representantes. Pero ¿qué dices? a las personas que han perdido algo de fe en ti y con solo mirar tú de manera diferente, vincular tu nombre a ¿es?

Bill Gates: Ya sabes, deberían lee lo que yo dijo al Congreso. Bueno, yo Tengo que responder a todo pregunta. Bueno, yo, tratando de recolectar dinero para global cuidado de la salud, Epstein pensó ¿Puedes atarme, eh? —eh, por su culpa relaciones con ellos. Y en Era

Questioner: ¿Relación con quién?

Bill Gates: Con multimillonarios.

Questioner: Pero tú eres Billy, quiero decir, ¿Eres multimillonario?

Bill Gates: algunos de ellos. Doy todo mi dinero. Y yo gasto mucho tiempo, tratando de recolectar dinero para global cuidado de la salud.

Questioner: Y así te sentiste, que tiene conexiones, que puede ser para Eres valioso en esto.

Bill Gates: Para recaudar dinero para protección global salud, sí. Eso es lo que soy. Quiero decir, tú eres ¿Lo has leído?

Questioner: Yo leo.

Bill Gates: Para eso estamos... Para eso estamos se conocieron. Tengo puesto mente, excepto que Cené con Larry. Verano, ¿dónde estamos? Se habló de economía, todo La discusión fue sobre ¿Hay alguna posibilidad aquí? ¿ayuda? Conducta tiempo con él, ya sabes, Fue claramente un error. I cambió su barra incluso para alguien en no pagado puesto interino. I nunca más Me arriesgaré a esto, porque nuestro trabajo muy sensible a reputación.

Questioner: Hueco en el centro esta historia para mí así es como esto El tipo era así atractivo para muchos muy inteligente, muy gente rica. Tengo lo que significa que hay muchos personas que quieren tu atención y no recibirlo. Gente quieren la atención de Larry Veranos y no recibirlo. Pero hay algo sobre el carisma Epstein o en eso, ¿Cómo está él? presentó que atrajo a la gente a pensamientos que él puede ser muy útil para ellos. ¿Qué fue eso? Algo así, que lo leí correos electrónicos. Él No parece agradable persona para correspondencia. ¿Qué es exactamente lo que hay en eso le permitió para tejer esta red, en la que te encontraste y muchas otras personas ¿

Bill Gates: Bueno, yo no estuve allí. web. I Se habló de la colección fondos para global cuidado de la salud. No lo soy no estaba en ninguno isla y sin nadie se conocieron. En cualquier en cualquier caso, no llámalo telaraña. ¿Cómo está? Se realizó el bootstrap, ya sabes, poseer el más elegante la casa que una vez nunca antes visto en Nueva York York, y aceptando ahí está Larry Summers y El tipo número dos, Jay Pee Morgan. Oh, ya sabes, así fue cena interesante, incluso si Jeffrey no lo hace No dijo ni una palabra. No lo soy Sé cómo sucedió esto. oreja. Pero lo fue muchos multimillonarios, con ¿Cómo era él? involucrado en eso el momento en que tú decides: "De acuerdo, ¿qué? ¿Qué debo hacer con el mío? ¿poder? ¿Cómo lo hago? minimizar impuestos ¿ ¿Qué debo hacer con él? ¿Con tu familia? Algo "como esto". Y entonces, ya sabes, No creo que nadie otro estuvo involucrado con Por esta razón. Mi caso, ya sabes, hay algo único, porque dijo: "Oh, tendrás más dinero que tú Sabrás qué les pasó. "Lo hago". Y al final yo insistió en que él me llevó para familiarizarse con multimillonarios. Él me invitó conocer a cinco. Resultó que, eh, ninguno de ellos tenía Corto plazo intenciones, y yo rompí relación con ellos En el plazo de un mes. Y esto es lo que pudo hacer. hacerlo porque es para mí interesante, lo fue aproximadamente así: incluso lo que ingresaste casa, era así moda. La gente alrededor le dio confianza, y pudo organizarlo tal espectáculo que lo que él podría ofrecer, poco valor. Merodeando a su alrededor toda esta social capital y riqueza. Algunas personas Hablé con él. I No. Además, en mi sorpresa, después de la cena Entró un mago, David Blaine. No lo soy no gastó nada minutos en comunicación con él. Él sugirió, ya sabes, ven a isla o, ya sabes, venir a un espectáculo en París, y dije, que no voy a resolver esto hacer. No sería La mejor idea.

Questioner: Entonces Quiero volver a Fundación Gates. Tú dijeron que ¿Vas a gastar? sus fondos, 200 miles de millones de dólares, para 2045. Considerando todo lo que tenemos aquí hablaron sobre IA, cómo El tuyo ha cambiado visión de cómo estos Los gastos serán ¿Implementado?

Bill Gates: Me refiero a eso Se produjeron dos sucesos impactantes. cosas. Primero, esto increíble capacidades de IA que seguir creciendo en geometría progresión. Y en segundo lugar, Esto es una disminución generosidad general a los más pobres en mundo. Entonces, tengo un factor contribuyente, es decir lo que nosotros bastante Descubriremos la medicina, bastante abriremos uno nuevo semillas, y podemos habla con estos agricultores y fuerza Necesito comprarlos. semillas o

Interviewer: ...talk with a person who lives with HIV and help them to obtain the necessary help. So, AI can be a great tool for our purpose achievements, including malaria eradication, polio eradication, reduction of child mortality rate which used to be doubled. But now the volume of resources available is much smaller than, you know, and this is your sort of golden rule worldview, which assumes that it is like this and must be so. Funding related to Anthropic and OpenAI, feeling that in the next few years on the internet will come a huge amount, a number of non-profit funds, which will eclipse any previous moment in philanthropy. I know people in this world who feel that this is something very unusual, very present. Does that change things? Do these opportunities exist here? Be numerical. For example, the contraction in foreign finance—I am not saying that, I am not saying it replaces it. I say it compensates for the shortfall in foreign aid. We save lives for $1,000 per year. So, with becoming smaller funds from philanthropists, uh, it does not save these lives. Uh, you know, the amount of money necessary to save lives at the rate of $1,000 per each saved life will be much smaller.

Bill Gates: So, when I reviewed how your foundation spends on AI, tell me if I was wrong, this is approximately 40% in education, 40% for health security, approximately 10% to the rural economy, and approximately 10% in institutions. Did I understand correctly?

Interviewer: I mean, this is a little bit more concerning the rural economy. We almost don't do it directly ourselves because we rely on pharmaceutical companies that invent new medications. And do you call that artificial intelligence, or not?

Bill Gates: We do not include any of this yet in our, uh, billion-dollar commitment that we have announced. We only included in AI specific things such as understanding African languages.

Interviewer: So, tell me a little bit about your viewpoints on AI and education. This is the place where I have already seen a lot of research, and they have very, very ambiguous results depending on how they are utilized. So where do you think it is valuable, and where is it risky?

Bill Gates: Well, the contrast between ambitious goals that the Gates Foundation set around the year 2000, this is global healthcare goals and our goals with respect to education. In the field of global health protection, we thought: "Wow, African governments, traditional beliefs, you know, will we have any influence at all?" To my surprise, our continued work in global health protection, together with others, you know, created the Global Alliance for Vaccines, we created the Global Fund, President Bush's PEPFAR got involved, you know, a ton of things happened, including, primarily, vaccines—rotavirus, pneumococcal—and we reduced child care mortality more than twofold, from over 10 million per year to less than 5 million per year. So we surpassed every goal that we had established for the global health protection industry.

Bill Gates: In education, we thought that we could just look at what really good teachers do, record it on video, understand this, create a feedback system so that teachers heard it, improved their practice, constantly studied this and that, and we could make education much better. As you have seen, uh, from the latest data, uh, children today in most rich countries, including the United Kingdom and the United States, are learning less than 10 years ago, 20 years ago. Uh, people start with a very high degree of skepticism.

Interviewer: Artificial intelligence, tell me why you think these numbers are very, very impressive. What do you think? Why is it like this? Why do we observe a loss of knowledge in rich countries? And now, I think it is not easy, and the broader answer is more than just a pandemic.

Bill Gates: Well, we definitely live after the pandemic, and people are debating whether this is the use of mobile phones? Does this have any relation with social assistance? In general, there are some exceptions. England, uh, actually has a counter-trend and they went back to basics from the point of view of how they teach reading. So, you know, high expectations overcame, you know, free-form, uh, creativity. But, you know, there was some truth in these statistics clearly being large. This is very anxious. So you could almost say: why do we continue participating in education? Well, education is key. I am tenacious.

Bill Gates: Uh, we have AI existing now. Uh, we also have it where AI plays a very specific role for each student. Uh, after all, uh, it is here, in classrooms in New York, where they use a curriculum called Kitam, spending less than 10 minutes to get answers to some questions. And then the teacher immediately makes it clear: with what concepts do the children have difficulties? What difficulties do they have? How would you organize the class? Data about what it is on a small scale is, you know, one of these incredible results that are forcing you to really want to scale it. When you are scaling education, you are passing from teachers who participate voluntarily in experiments and, probably on their own, are chosen for flexibility, uh, to the general population. So, the amount of things in education that look good on a small scale either don't affect this when scaling, or the quality of implementation deteriorates so much that the effect actually disappears. You know, this is the history of innovation in education.

Bill Gates: I really think it's because AI helps you with motivation. You know, many of these software tools helped motivate students, but in reality created a larger gap. You know, a child like me who went home and used Khan Academy for 2 hours at night, and this, you know, average child who comes and sees: "Wow, he, you know, is much better." It discourages them. This, you know, probably hurts. So, if you don't believe in brain-drain or something similar, that is not equality in action. Or maybe AI, not only because of personalized learning, but also personalized motivation, can overcome it? And I... I really think that we can, we can do it well.

Interviewer: Well, here is a question about AI tools specifically designed for this, and then a question about what we just talked about regarding mobile phones, smartphones, and social networks, and about how AI will be distributed across society. And I think there is a big problem here, and one of those that I also have, is what is now called cognitive offloading. The reason why students massively use artificial intelligence and why it is adapted so quickly, is that: "I didn't read it, I didn't summarize it for myself. Or I had to write this article—compose it for me. Or help me with these math homework problems." And I think we even saw a broad study from China that surprised me, where you saw that kids who used artificial intelligence had improved homework performance results. And then, when they had to be tested outside of this context, their test results began to drop quite sharply.

Interviewer: So, of course, you can introduce artificial intelligence programs that will be good here; but from the perspective of technology and the way of interacting with the world that spreads across society, well, of course, artificial intelligence can help people study, you know, linear algebra or something else. Then, in practice, people will use it to help themselves bypass effort, you know, from student levels and above, up to, you know, the professional level, starting to impair learning and creativity, which arises precisely because of hard work with drafting, struggles, and challenging oneself. Yes, well, it is obvious that you can get by with using the method where a student can use AI, be lazy, and distort the measurement system. Or...

Bill Gates: A student can use AI to help themselves learn much more. I have to say, in terms of teaching subjects and educational tools, this is truly the best moment in my entire life. I mean, I can take video material directly from YouTube, drop it into the chat, and let the AIs communicate and interact with one another. What a nirvana that is. You know, in the past, I always had the unique privilege of being able to send a letter to someone like Nathan Myhrvold, who knows deep physics. Well, now I can discuss physics with an AI anytime. Whenever it comes to an extremely critical decision—for example, if I am going to invest a billion dollars—I still send the materials to Nathan and say, "Could you please review this?" But for being up to date 24 hours a day on the latest developments in malaria or vaccine science, the method is already right here, and it really comes down to this core motivational part of learning.

Interviewer: Is this an area where there will be tighter restrictions placed on these systems? A few minutes ago you recalled China, with whom, despite everything and whatever people say about it being impossible to negotiate, currently has stricter national rules regarding AI than we do, including safeguards around children's social interactions. One area you touched on in your essay where we might want to be more proactive is with respect to children. In my view, it is entirely reasonable for the government to take a paternalistic stance here—we must be protective. Social media has always felt like an experiment conducted on our children, as has much of the internet. While I am not against conducting experiments on consenting adults, I wonder if we want to be far more rigorous regarding what we permit children to do with AI until we better understand how it truly affects them—everything from studying emotional relationships to preventing AI from merely facilitating cheating on homework.

Bill Gates: Yes, I don't believe a simplistic black-and-white ban is necessary. What I do believe is essential comes down to monitoring concerns, which I fully understand and support to a large degree. We must make sure that these technologies remain strictly within the boundaries of what is appropriate and what parents expect, which represents a very powerful opportunity for us. There are many systems currently trying to assist students rather than simply handing them the answers—they engage in dialogue, challenging the student to unpack how they are thinking about the problem.

So the real question is: can we build systems to ensure that a student does not just submit prompts to external engines to copy an answer, but is instead guided step-by-step through a rigorous reasoning process so that they become more capable next time? And additionally, can the system monitor whether a student is in distress, deciding whether it is necessary to notify a mental health professional or contact their parents?

The tracking and monitoring architecture in these systems will be extraordinarily important. Across different age groups, parents must have complete visibility into what is occurring and how time is being spent. At an early age, parents probably should have full visibility into the very dialogue in which the student participates. As the child grows older, when topics touch upon personal identity or sensitive private issues where having a degree of confidentiality is genuinely helpful, deciding what remains private versus monitored involves intricate trade-offs.

One of our partner organizations, Common Sense Media, has done a tremendous job helping parents navigate television shows and movies, but AI interaction is a vastly more complex arena. Most existing parental control tools suffer from such technical complexity that they fail in practice. You try to get parents engaged, but nothing effective actually happens. In my own personal experience as a parent, I didn't even know my daughter had a second mobile phone. It was quite simple for her to stay up late browsing social media when I thought she was fast asleep. So we must be realistic about how human behavior works in practice. People will naturally raise privacy questions, but that is not a valid argument against giving parents the tools to watch over and protect their children.

Interviewer: Looking ahead over the next few years in politics, we will have the upcoming midterm elections, followed by the presidential election in 2028. Passing legislation strictly along preconceived lines often fails, and you frequently emphasize calling for societal unification, open discussion, and public debate. In practical terms, what specific response and consensus are you hoping to see materialize here?

Bill Gates: I look at two primary indicators. The first is whether we implement obvious, decisive precautionary measures aimed at minimizing cyber vulnerabilities and biological risks. The second indicator is the fundamental character of the public dialogue. If the debate degenerates into a situation where one political faction blindly champions AI while the opposing faction is reflexively against it, we will find ourselves trapped in the same dysfunction that has plagued the climate change debate, which would be deeply unfortunate. There is simply no room for constructive discussion when only two dogmatic extremes exist. At least as of right now, there appears to be very little appetite for finding the sensible golden middle ground regarding how we ought to responsibly govern AI.

Interviewer: Suppose looking forward to 2029, there is an entirely different administration and a completely reshaped political environment, with renewed interest in restoring American foreign aid programs. What advice would you offer on structuring that restoration so that it operates with maximum effectiveness, helps the American public truly understand what is gained from these expenditures, and ensures it delivers genuine humanitarian benefits?

Bill Gates: Yes, if you ask everyday Americans what percentage of the federal budget goes toward helping impoverished nations, the typical answer is well over 5%, and many people will guess 10% or even 15%. So the reality that it historically stood at around half of one percent, and has now shrunk to roughly one quarter of one percent, comes as quite a shock to people.

It is vital that people understand this is money exceptionally well spent, having directly saved millions of lives and made an enormous historical difference in addressing HIV, malaria, tuberculosis, and maternal survival rates. That remarkable record of achievement is something Americans should hear about and take tremendous pride in.

Maintaining even that modest half-percent allocation will always be a powerful moral argument. However, it will inevitably have to be defended against severe overall national debt pressures, as well as the pressing need to fund domestic safety nets required to absorb the disruptive labor and social impacts of AI, all of which will fiercely compete for those federal dollars.

Interviewer: As our final question, what books have you read recently that you would recommend to our audience?

Bill Gates: Well, one book that I literally finished reading this past weekend is The Correspondent by Virginia Evans. It is a work of literary fiction—deeply moving, beautifully written, and remarkably optimistic.

Related to the topics we have just been discussing regarding aid and governance, there is another fascinating book titled Into the Woodchipper by Nicholas Kristof, which candidly explores these dilemmas—recounting scenarios where someone skips a friend's weekend party only to watch USAID funding effectively fed straight into a bureaucratic woodchipper.

And about a month ago, I read The Master Machine by Sebastian Mallaby.

Interviewer: Is that a book specifically about artificial intelligence?

Bill Gates: Yes, it details the history of Demis Hassabis and DeepMind, but it provides you with a comprehensive understanding of the foundational ideas behind the entire artificial intelligence industry. He did an extraordinary piece of work.

Interviewer: Bill Gates, thank you so much.

Bill Gates: Thank you.