La mayoría de las personas que hoy viven seguirán vivas en 2050 y la mayoría de los bebés que nazcan hoy vivirán en el año 2100. Cada vez se reconocen más los riesgos existenciales globales, pero la competencia geopolítica por el poder de suma cero impide las relaciones sinérgicas entre las naciones, las empresas, las ONG, las universidades y los sistemas de las Naciones Unidas, necesarias para abordar adecuadamente estos riesgos y lograr lo que podría ser un futuro magnífico para todos. Sin la colaboración entre Estados Unidos y China en cuestiones como el calentamiento global, las futuras formas de inteligencia artificial, la biología sintética y las armas estratégicas, es difícil ser optimista sobre el futuro.
…La humanidad se enfrenta a una elección difícil y urgente: un colapso o un avance.
— Secretario General de las Naciones Unidas António Guterres
A pesar de que los medios de comunicación se centran en los acontecimientos más terribles, día tras día la mayoría del mundo vive en paz y se preocupa por toda la humanidad como nunca antes. Gran parte del conocimiento mundial está disponible de forma gratuita para más del 60% de la humanidad. La actualización de los datos de cada uno de los 15 desafíos globales compartidos en el Capítulo 1, año tras año, desde 1996, muestra que el estado del futuro, en general, está mejorando. El Índice del Estado del Futuro (SOFI) del Capítulo 2, basado en 29 variables, señala que la humanidad está ganando más de lo que está perdiendo, pero donde está perdiendo o donde hay poco progreso los resultados podrían ser muy graves. Somos más saludables, más ricos, mejor educados, vivimos más y mejor conectados, pero a expensas del medio ambiente, el aumento del calentamiento global y las obscenas concentraciones de riqueza. No tenemos derecho a ser pesimistas, pero tampoco podemos dormirnos en los éxitos del pasado.
Según el SOFI si las tendencias entre las 29 variables continúan, la condición humana será mejor en 2035 que hoy. Si lo hacemos bien, el futuro de la civilización podría ser realmente maravilloso mucho más allá de 2035. El capítulo 4 describe algunos de los futuros potencialmente hermosos para 2045.
Figura 1. Índice del estado del futuro 2035
La inteligencia artificial (IA) será muy diferente en 2050 de lo que es hoy y mucho más diferente en 2100. Dado que la mayoría de las personas vivas hoy vivirán con una IA muy avanzada en 2050 y la mayoría de los bebés que nazcan hoy vivirán en un mundo dominado por una IA aún mucho más avanzada, deberíamos preocuparnos por dar forma a ese futuro hoy
Gobernar la Inteligencia Artificial General podría ser el problema de gestión más complejo y difícil al que jamás se haya enfrentado la humanidad. A lo que Stuart Russell añade en el capítulo 3: “Además, no resolverlo antes de proceder a crear sistemas de IAG sería un error fatal para la civilización humana. Ninguna organización tiene derecho a cometer ese error”. Hasta ahora, no hay nada que impida que la humanidad cometa ese error. Dado que la IAG podría llegar en esta década, deberíamos empezar a crear sistemas de gobernanza nacionales y supranacionales ahora para gestionar esa transición de las formas actuales de IA a las formas futuras de IAG, de modo que la forma en que evolucione beneficie a la humanidad. Si lo hacemos bien, el futuro de la civilización podría ser realmente maravilloso para todos.
En términos generales, existen tres tipos de IA: estrecha (IAE), general (IAG) y superinteligencia. La inteligencia artificial estrecha abarca desde herramientas con propósitos limitados, como diagnosticar el cáncer o conducir un automóvil, hasta la IA generativa, que avanza rápidamente y responde a muchas preguntas, genera código y resume informes. La inteligencia artificial general aún no existe, pero muchos expertos en IA general creen que podría existir dentro de unos años. Sería una IA de propósito general que puede aprender, editar su código y actuar de manera autónoma para abordar muchos problemas nuevos con soluciones nuevas, similares o superiores a las capacidades humanas. Por ejemplo, dado un objetivo, podría consultar fuentes de datos, llamar a humanos por teléfono y reescribir su propio código para crear capacidades para lograr el objetivo que antes no tenía. La superinteligencia artificial establecería sus propios objetivos y actuaría independientemente del control humano y de maneras que están más allá de la comprensión humana. Miles de IA generales no reguladas que interactúan y dan origen a la superinteligencia artificial plantean una amenaza existencial para la humanidad. En el capítulo 3 se ofrecen detalles sobre cómo gestionar la transición de la IAE a la IAG. La primera sección de ese capítulo organiza las opiniones de 55 expertos líderes en AGI de América del Norte, China, el Reino Unido, Rusia y la UE en torno a 22 preguntas clave sobre esta transición. La segunda sección es una evaluación internacional realizada por 299 futuristas y expertos relacionados sobre 40 posibles regulaciones y cuestiones relacionadas y 5 modelos de gobernanza global.
La carrera armamentista nuclear está siendo ayudada y reemplazada en formas importantes por la carrera por la inteligencia artificial general y la computación cuántica avanzada entre Estados Unidos, China, la Unión Europea, Japón, Rusia y varias corporaciones. Esta prisa podría significar que tomemos atajos en seguridad y no desarrollemos las condiciones iniciales y los sistemas de gobernanza adecuados para la inteligencia artificial general; y, por lo tanto, la superinteligencia artificial podría surgir de miles de inteligencias artificiales generales no reguladas más allá de nuestra comprensión, control y no en nuestro beneficio. Muchas inteligencias artificiales generales podrían comunicarse, competir y formar alianzas más sofisticadas de lo que podemos entender, creando un nuevo tipo de paisaje geopolítico. Los requisitos de energía para impulsar esta transición son enormes, a menos que se encuentren mejores estrategias que los grandes modelos de lenguaje ( LLM según su sigla en inglés) y los grandes modelos multimodelo (LMM según su sigla en inglés). Sin embargo, la proliferación de la IA parece inevitable, ya que la civilización puede estar volviéndose demasiado compleja para manejarla sin la ayuda de la IA.
La computación cuántica elemental ya está aquí y se acelerará más rápido de lo que la gente piensa, pero las aplicaciones tardarán más en implementarse de lo que la gente espera. Mejorará la seguridad informática, la inteligencia artificial y las ciencias computacionales, lo que a su vez acelerará los avances científicos y las aplicaciones tecnológicas, lo que a su vez aumentará los impactos tanto positivos como negativos para la humanidad. Estos potenciales son demasiado grandes para que la humanidad permanezca tan ignorante sobre ellos. Necesitamos que los líderes políticos comprendan estos problemas. La brecha entre el progreso científico y tecnológico y la conciencia de los líderes es peligrosamente amplia.
Mientras tanto, lastemperaturas globales siguen batiendo récords, aumentando el nivel del mar y la acidificación de los océanos, frenando las corrientes oceánicas, derritiendo glaciares y casquetes polares, desintegrando los arrecifes de coral y aumentando las sequías y otros fenómenos meteorológicos extremos (huracanes, tornados e inundaciones). El coste de los desastres naturales, en parte causados por el calentamiento global, aumentó a 280.000 millones de dólares en 2023 y es probable que se duplique en los próximos diez años. Si a partir de ahora no se libera a la atmósfera ni una sola molécula más de CO2 u otros gases de efecto invernadero, de todas maneras estas condiciones seguirán empeorando durante varias décadas antes de que se alcance un nuevo equilibrio ambiental. La población mundial no está preparada para la gravedad de los cambios climáticos futuros. La población mundial de 2.500 millones en 1950 aumentó a 6.100 millones en 2000 y ahora supera los 8.000 millones y podría aumentar en otros 2.000 millones en sólo 25 años. O se invierte el calentamiento global o son inevitables las migraciones masivas de las regiones más pobres a las más ricas.
La pandemia de COVID ha provocado el primer “tiempo muerto” global para que la humanidad reconsidere todo. Ha aumentado nuestra conciencia colectiva de las interdependencias planetarias y ha acelerado la implementación de muchas aplicaciones de IA y teletodo, desde la educación y el trabajo hasta las conferencias y la atención médica. La realidad mixta se ha convertido en la nueva realidad para muchos. También redujo las emisiones de CO2 y la dependencia de los combustibles fósiles. Pero también cortó las cadenas de suministro de todo, desde los chips de computadora hasta el petróleo, redujo la clase media mundial en 54 millones y aumentó la pobreza extrema en aproximadamente 100 millones , y probablemente mató a más de 15 millones de personas. Sus impactos también pueden reforzar la importancia de los sistemas globales de alerta temprana, la responsabilidad colectiva y el valor de la previsión.
Desde el punto de vista biológico, después de los desastres naturales y de origen humano se produce un nuevo crecimiento. Históricamente, también pueden surgir innovaciones después de los desastres: de las cenizas de la Segunda Guerra Mundial, las Naciones Unidas y otras organizaciones multilaterales crecieron para apoyar el progreso humano en su conjunto. Todavía tenemos que ver qué surgirá de los complejos desastres sanitarios, económicos y psicológicos globales provocados por la pandemia mundial de COVID. Aunque la recesión de COVID fue la mayor desde la Gran Depresión, las rápidas inyecciones financieras de más de 11,5 billones de dólares en todo el mundo evitaron que la recesión mundial se convirtiera en una depresión global, pero sí contribuyeron a la inflación global.
La guerra en Ucrania también contribuyó a la inflación mundial al reducir los suministros de cereales y fertilizantes, pero aumentó las inversiones en energía renovable y aceleró los esfuerzos para reducir la dependencia europea del carbón y el petróleo. Lamentablemente, también está llevando al mundo al límite de la amenaza nuclear por primera vez en 35 años.
Aunque la política de llevar las armas nucleares a la palestra ha vuelto a la geopolítica, la gran mayoría del mundo vive en paz. Aparte de la invasión de Ucrania, no ha habido guerras transfronterizas entre grandes potencias en más de 70 años. Sin embargo, la naturaleza de la guerra se ha transformado hoy en: 1) terrorismo transnacional y local (las muertes por terrorismo aumentaron un 22% durante 2023, el nivel más alto desde 2017, pero un 23% menos que el pico de 2015; pero la cautela, las definiciones y la recopilación de datos varían ampliamente en los informes sobre terrorismo); 2) intervención internacional, incluidos ejércitos privados en guerras internas (por ejemplo, Etiopía, Gaza-Israel, Haití, Malí, Siria y Yemen); y 3) guerra cibernética y de información, públicamente negada
La guerra de la información (a diferencia de la guerra cibernética que ataca a las computadoras, el software y los sistemas de control de comando) manipula la información confiable de los objetivos sin que se den cuenta, de modo que los objetivos tomarán decisiones en contra de sus intereses pero en interés de quien lleva a cabo la guerra de información. Las noticias falsas a través de miles, sino millones, de bots habilitados por IA, videos deepfake y otras formas de engaño están manipulando cada vez más las percepciones de la verdad, intensificando la polarización social, difamando a las instituciones, refutando la confianza en las noticias, mientras que el público no sabe cómo defenderse. La Universidad de Oxford identificó 28 países que experimentaron campañas coordinadas de manipulación en las redes sociales en 2017; esa cifra aumentó a 70 solo dos años después y hoy prolifera en las redes sociales de todo el mundo.
Se podrían utilizar análisis predictivos y bases de datos de ataques de desinformación para anticipar acciones de desinformación, y luego otros podrían identificar y coordinar
intervenciones preventivas, aprendiendo de la retroalimentación para hacer que la lucha contra la guerra de información sea más inteligente con cada iteración. Las políticas que solo se centran en la identificación y eliminación de la desinformación tal vez deban ser reemplazadas por políticas que anticipen e intervengan antes de los ataques, de lo contrario, la aceleración de esa contaminación informativa con una IA cada vez más sofisticada podría destruir la cohesión social.
Dadas las tendencias en biología sintética, ciencias de los materiales e inteligencia artificial, con el tiempo, un individuo que actúe solo podrá fabricar y utilizar un arma de destrucción masiva. Para evitar esta posibilidad, se podrían desarrollar tres medios: 1) medios técnicos nacionales; 2) una mejor integración de las aplicaciones de la ciencia cognitiva en la educación y la salud pública para reducir las enfermedades mentales; y 3) programas para la familia, la comunidad y el público destinados a fomentar conductas saludables y prevenir las acciones de esos individuos perturbados.
La pandemia de COVID aumentó la conciencia sobre la necesidad de utilizar la previsión global como insumo para la estrategia nacional y transnacional y la toma global de decisiones. Los 15 desafíos globales son de naturaleza global y transnacional en su solución, pero la toma de decisiones y la implementación a nivel global son casi inexistentes. Gran parte de la experiencia humana se está globalizando, pero la gobernanza no. Los sistemas de gobernanza no están a la altura de la creciente interdependencia global y el cambio sociotecnológico. Para cambiar esto, el Secretario General de las Naciones Unidas propuso cinco estrategias de previsión para mejorar la toma de decisiones global en Nuestra Agenda Común publicada en 2021. El capítulo 5 evalúa estas estrategias. Un panel internacional de futuristas y expertos relacionados de todo el mundo respaldó abrumadoramente estas estrategias propuestas y las reformas de las Naciones Unidas como un sistema interrelacionado para mejorar la toma de decisiones global. La estrategia de alto perfil fue la Cumbre del Futuro de las Naciones Unidas en 2024 en las Naciones Unidas. Millones de personas y miles de organizaciones de todo el mundo aportaron información a la planificación previa a la Cumbre, lo que aumentó la atención mundial sobre la necesidad de mejorar la colaboración global para el futuro.
En los años 1970 y 1980 hubo muy pocos debates sobre las cuestiones éticas en los inicios de la expansión de Internet. Ahora hay muchos más debates sobre las cuestiones éticas y de seguridad de la IA en todo el mundo. Esto es un indicio de que la humanidad se está volviendo más responsable a la hora de evaluar, pronosticar y dar forma al futuro. Por supuesto, aún está por verse hasta qué punto lo lograremos, pero en general estamos avanzando en la dirección correcta, aunque existen graves amenazas para las democracias, el medio ambiente y la cohesión social.
En 1980, la mayoría de la población mundial vivía en extrema pobreza; hoy, esa tasa es inferior al 10% y un tercio del mundo pertenece a la clase media. Es cierto que esto se debe principalmente al progreso de China y la India, pero se espera que el resto de los países de bajos ingresos se beneficien de los rápidos cambios tecnológicos. La esperanza de vida en todo el mundo en 1980 era de poco más de 60 años; hoy es de poco más de 73 años. El ingreso per cápita aumentó de 2.588 dólares en 1980 a 13.840 dólares en 2024. La alfabetización mundial ha mejorado del 67,6% en 1980 al 88% en la actualidad. Más del 90% del mundo tiene acceso a la electricidad. Casi nadie tenía acceso a Internet en 1980; en abril de 2024, casi 5.500 millones de personas tenían acceso. La economía mundial está creciendo alrededor del 3,2% y se espera que alcance los 115 billones de dólares en 2025, y casi se ha triplicado en los últimos 20 años.
Sin embargo, se invierte demasiado en el poder geopolítico de suma cero, en lugar de invertir en sinergias entre las naciones para revertir el calentamiento global, controlar las formas futuras de inteligencia artificial y biología sintética, contrarrestar la guerra de la información y abordar con mayor seriedad otros desafíos globales. Mientras sigamos centrándonos en el poder geopolítico de suma cero, en vez de crear sinergias entre gobiernos y personas, los conflictos de una forma u otra continuarán.
This report serves as a crucial roadmap for navigating the complex global landscape and working towards a more sustainable, equitable and loving future for all.