El mito de la inteligencia artificial consiste en afirmar que su llegada es inevitable. Pronto viviremos rodeado de IA, que nos organizarán la vida, operará tu negocio y administrará los servicios gubernamentales básicos. Vivirás en un mundo de impresoras de ADN y ordenadores cuánticos, patógenos diseñados y armas autónomas, asistentes robóticos y energía abundante. Evidentemente, ninguno de nosotros está preparado para semejante tsunami. De esto es de lo que va La ola que viene: Tecnología, poder y el gran dilema del siglo XXI de Mustafa Suleyman.
Las olas de transformación
¿Qué pasa con las metáforas de las olas? Los deterministas tecnológicos –personas que creen que la tecnología impulsa la historia– los adoran. Alvin Toffler, quien vio la historia de la civilización como una sucesión de tres de esas olas (agrícola, industrial y postindustrial).
La idea es la de un poder inmenso, imparable, que avanza inexorablemente hacia nosotros mientras nos acobardamos ante su inmensidad, tal como debieron haberlo hecho los dinosaurios cuando vieron el tsunami de una milla de altura que se dirigía en su dirección.
Mustafa Suleyma dice que no es un determinista, pero a veces suena como tal. “En el fondo”, escribe en un momento dado, “la tecnología surge para satisfacer las necesidades humanas. Si la gente tiene razones poderosas para construirlo y utilizarlo, se construirá y utilizará. Sin embargo, en la mayoría de los debates sobre tecnología la gente todavía se queda estancada en lo que es, olvidando por qué se creó en primer lugar. No se trata de un tecnodeterminismo innato. Se trata de lo que significa ser humano”.
La ola que se avecina en su título está “definida por dos tecnologías centrales: inteligencia artificial (IA) y biología sintética”, y es la conjunción de las dos lo que lo hace intrigante y original. Juntos, piensa, estos dos “marcarán el comienzo de un nuevo amanecer para la humanidad, creando riqueza y excedentes como nunca antes se habían visto. Y, sin embargo, su rápida proliferación también amenaza con empoderar a una diversa gama de malos actores para desatar perturbaciones, inestabilidad e incluso catástrofes en una escala inimaginable”. Nuestro futuro, aparentemente, “depende de estas tecnologías y está en peligro por ellas”.
Quien es Mustafa Suleyman
Este es un libro sobre futuro. Cualquier libro de este tipo implica cierta especulación, la manera en que un autor lo aborda marca la diferencia. Sus credenciales tienen mucho que ver, y los de Mustafa Suleyman son excelentes. Fue cofundador de DeepMind, una de las empresas de inteligencia artificial más avanzadas que existe, pero también trabajó en el sector caritativo, en el gobierno local británico y en Google, donde trabajó en el gran negocio lingüístico de la empresa modelos (LLM) y la ingrata tarea de tratar de persuadir al gigante de la búsqueda para que se tome la ética en serio.
Aunque no ha trabajado en biología molecular, su explicación de la secuenciación del ADN, la edición de genes y el diseño y fabricación de nuevos productos genéticos parece bien informada y respalda su argumento de que la IA y la biología computacional son los desafíos gemelos que pronto enfrentarán las sociedades.
Suleyman dejó Google en enero de 2022. En marzo de 2022, Suleyman cofundó Inflection AI , una nueva empresa de laboratorio de IA con Reid Hoffman (fundador de Linkedin) y fundador de Greylock. La empresa se fundó con el objetivo de aprovechar «la IA para ayudar a los humanos a ‘hablar’ con las ordenadores», reclutó a antiguos empleados de empresas como Google y Meta, y recaudó mucho millones de dólares en su primera ronda de financiación.
En 2023, Inflection AI lanzó un chatbot llamado Pi.ai para inteligencia personal. El bot «recuerda» conversaciones pasadas y parece llegar a conocer a sus usuarios con el tiempo. El objetivo a largo plazo de Pi es ser un “Jefe personal” digital, centrado en mantener un diálogo conversacional con los usuarios, hacer preguntas y ofrecer apoyo emocional.
Principales ideas de La ola que viene
- La inevitabilidad de los “efectos de venganza”
- La IA y la ingeniería genética ya están revolucionando nuestro mundo.
- La próxima ola democratizará el poder y el riesgo.
- Los nuevos riesgos deben afrontarse de frente.
La inevitabilidad de los “efectos de venganza”
Las tecnologías del futuro –sobre todo, la inteligencia artificial y la ingeniería genética– no se parecerán a nada que hayamos visto antes.
Ése, en pocas palabras, es el problema y la promesa central de La ola que viene. Estas tecnologías, sostiene Mustafa Suleyman, crearán riqueza y excedentes incalculables y desencadenarán una perturbación sin precedentes. Sin embargo, antes de llegar a eso, necesitamos algo de contexto.
A pesar de la novedad radical de estas tecnologías, éste es, en muchos sentidos, un problema que nos resulta familiar. Como muestra la historia de la tecnología, los avances han tenido durante mucho tiempo efectos secundarios no deseados.
La tecnología es, fundamentalmente, un conjunto de ideas en constante cambio. Las nuevas tecnologías evolucionan chocando con otras tecnologías. Las leyes que gobiernan dicha evolución son darwinianas: las combinaciones efectivas sobreviven y se convierten en los pilares de una mayor innovación. La invención se alimenta así de sí misma. Los avances de ayer se convierten en un subcomponente de la innovación del mañana. Pensemos, por ejemplo, en cómo los teléfonos móviles se “tragaron” de todo, desde el GPS hasta los códigos QR y el reconocimiento facial para convertirse en los teléfonos inteligentes multiusos que hoy llevamos en el bolsillo.
En términos de ingeniería, se trata de un circuito de retroalimentación virtuoso. Pero la tecnología no evoluciona en el vacío; es parte de nuestro mundo dinámico. Las tecnologías a menudo no se utilizan según lo previsto y los efectos dominó son la norma. Se suponía que el fonógrafo de Thomas Edison ayudaría a los ciegos; pensaba que el uso que la gente realmente le daba (escuchar música) era un mal uso frívolo (ver Resumen de ‘Power to the People’ de Audrey Kurth Cronin). Pero ese “mal uso” generó toda una industria y cambió la cultura popular para siempre. De manera similar, los explosivos de Alfred Nobel fueron diseñados para su uso en minería y construcción de ferrocarriles, no en el campo de batalla. No obstante, el resultado fue una revolución en la capacidad de los humanos para matarse y mutilarse unos a otros.
Luego está Gutenberg, el artesano alemán que diseñó un dispositivo para imprimir en masa biblias vernáculas rentables. Al final, su imprenta impulsó la Revolución Científica y la Reforma, socavando la autoridad de la institución que había dominado la vida política en Europa durante siglos: la Iglesia Católica. ¡Habla de consecuencias no deseadas!
A estas consecuencias a veces se les llama “efectos de venganza”. Una vez que los buscas, empiezas a verlos por todas partes. Tomemos como ejemplo los antibióticos, una cura milagrosa que funcionó tan bien que terminamos prescribiéndolos en exceso y creando nuevas cepas de enfermedades resistentes al tratamiento. O la exploración del cosmos. Nos volvimos tan buenos lanzando satélites y cohetes que nuestras ambiciones en el espacio ahora se ven amenazadas por los escombros y la basura que orbitan alrededor de nuestro planeta.
Las consecuencias imprevistas están integradas en las tecnologías exitosas. Cuanto más omnipresente se vuelve una tecnología, más la remodelan y reinterpretan sus usuarios. Los avances rápidos a menudo comienzan con un científico solitario o un reparador en un garaje, pero rápidamente pueden convertirse en dilemas sociales. Facebook y Twitter no se propusieron acelerar la difusión de desinformación que envenena la democracia, pero eso es exactamente lo que sucedió una vez que millones de ciudadanos comenzaron a confiar en ellos como fuentes de noticias.
Históricamente, las sociedades a veces intentaron eludir esos dilemas suprimiendo las tecnologías que los causaban. El Papa Urbano II, por ejemplo, intentó prohibir la ballesta; pensaba que era demasiado efectiva y, además, poco cristiana. Docenas de estados tomaron medidas drásticas contra la imprenta. erosionando su autoridad. Durante la Revolución Industrial, los artesanos destruyeron nueva maquinaria que amenazaba sus medios de vida. Pero la resistencia fue inútil. Tecnologías como las ballestas, los libros y los telares industriales persistieron y evolucionaron, cambiando el rostro de la civilización humana.
Para Suleyman, tecnologías innovadoras como la inteligencia artificial y la ingeniería genética también resultarán demasiado útiles para ser suprimidas. Pero, al igual que los avances anteriores, su adopción generalizada tiene el potencial de crear profundos efectos de venganza.
La IA y la ingeniería genética ya están revolucionando nuestro mundo
Los sistemas de inteligencia artificial pueden reconocer rostros y objetos con una precisión casi infalible. La traducción instantánea de idiomas y la transcripción de voz a texto funcionan tan bien que las damos por sentado. La IA navega por las carreteras y conduce de forma autónoma. Dé a los modelos de IA algunas indicaciones sencillas y generarán imágenes novedosas y textos coherentes, además de componer música original.
La IA también está en todas partes. Está en nuestros teléfonos inteligentes y en las noticias; está construyendo sitios web y comercializando acciones. Cuantos más datos reciben estos sistemas, mejores son y hay muchos datos disponibles para recopilar y analizar. Pronto, los sistemas de inteligencia artificial hablarán, razonarán y, dada la rápida mejora de sus sistemas sensoriales, mirarán el mundo de maneras asombrosamente humanas. Que estos sistemas superen nuestras propias capacidades cognitivas es una cuestión de cuándo, no de si lo harán.
Luego está la ingeniería genética. La capacidad de manipular el ADN solía ser dominio exclusivo de la élite: se necesitaban presupuestos estatales y genios científicos para hacerlo. Pero la biotecnología se ha democratizado. Experimentos que antes llevaban años pueden concluirse en semanas. Los sintetizadores capaces de imprimir hebras de ADN a medida solían costar fortunas y pesar toneladas; hoy en día, un sintetizador de mesa cuesta tan sólo 25.000 dólares. El resultado: cualquier persona con formación de posgrado en biología puede fabricar ADN desde la comodidad de su garaje.
La caída de los costos y la proliferación de la experimentación prometen una revolución sanitaria. Ya se están desarrollando tratamientos para afecciones como la anemia falciforme; Es posible que pronto surjan tratamientos para el VIH, la fibrosis quística e incluso el cáncer. Mientras tanto, las terapias genéticas seguras representan una nueva generación de cultivos ultra resistentes, resistentes a las enfermedades, que desafían la sequía y de alto rendimiento que garantizarán el suministro de alimentos de una población mundial cada vez más grande y hambrienta.
Los beneficios de la próxima ola, entonces, son obvios: harán que las economías sean más productivas, la vida más cómoda y nuestros cuerpos duren más. Sin embargo, si se quiere comprender las tecnologías, no basta con predecir los efectos positivos: también es necesario anticipar las consecuencias no deseadas y los efectos de venganza que mencionamos anteriormente. No estamos ni cerca de la adopción masiva de la IA o la ingeniería genética, pero ya se vislumbran amenazas en el horizonte.
La amenaza más obvia se refiere al empleo. La automatización siempre desplaza la mano de obra: primero, al hacer más eficiente la realización de tareas específicas, luego al hacer que ciertas funciones sean redundantes y, finalmente, al canibalizar fuerzas laborales enteras. Ésa es, esencialmente, la historia de los cinturones industriales de América del Norte y Europa que alguna vez emplearon a millones de trabajadores industriales. Los economistas llaman a esto desempleo tecnológico: desempleo causado por el hecho de que, digamos, los robots son constructores de automóviles más baratos y eficientes que los humanos. En el pasado, sin embargo, la pérdida de empleos manuales en fábricas, minas y astilleros fue compensada por el crecimiento de los empleos administrativos en la industria de servicios. En pocas palabras, cada vez es más difícil encontrar trabajo en una fábrica, pero crece la demanda de abogados, diseñadores, trabajadores de centros de llamadas, recepcionistas y personas influyentes en las redes sociales.
Sin embargo, esos son precisamente los tipos de trabajos que la IA va a automatizar. La IA será un trabajador cognitivo más barato y eficiente que muchas personas que trabajan en el ingreso de datos y el servicio al cliente o que escriben correos electrónicos, redactan resúmenes, traducen documentos y crean contenido para ganarse la vida. En resumen, los días del “trabajo manual cognitivo” están contados. Pero no está claro qué tipo de empleos (si los hay) van a compensar la próxima ola de desempleo tecnológico. ¿Qué sucede cuando las ciudades que alguna vez fueron prósperas se convierten en cinturones industriales de clase media? Una cosa es segura: el desempleo masivo y la inestabilidad económica no han sido buenos para las democracias históricamente.
La próxima ola democratizará el poder y el riesgo
El poder, como lo definen los diccionarios, es la capacidad de hacer algo: la capacidad de actuar de cierta manera o de influir en los demás y en el curso de los acontecimientos. La tecnología, sostiene Suleyman, es política porque es una forma de poder: permite a sus propietarios y usuarios hacer cosas. En su opinión, la única característica predominante de la próxima ola es que democratizará el acceso a tecnologías cada vez más poderosas.
Hoy en día, la mayoría de nosotros somos principalmente consumidores de contenido. Sin embargo, los sistemas de inteligencia artificial permitirán a cualquiera producir contenido de vídeo, texto e imágenes de calidad experta. La IA no solo te ayudará a encontrar ideas para el discurso de tu padrino, sino que también lo escribirá por ti, casi sin costo alguno y probablemente mejor que un redactor de discursos profesional. O piensa en esos sintetizadores de mesa que mencionamos. Cualquiera que tenga 25.000 dólares de sobra, o la capacidad de pedirlos prestados, y un talento para el aprendizaje autodirigido puede crear ADN novedoso o, lo que es más inquietante, nuevos patógenos letales y ultratransmisibles.
Estas tecnologías, entonces, van a amplificar el poder. La IA brindará a cualquiera que tenga un objetivo (es decir, a todos nosotros) aliados poderosos y herramientas sofisticadas para hacer realidad nuestras ambiciones. Esa es un arma de doble filo. Esas herramientas facilitan la redacción de currículums persuasivos, la organización de eventos comunitarios o la creación de estrategias de marketing efectivas para su negocio. Pero también facilitarán que los malos actores diseñen campañas de desinformación persuasivas o que los estados totalitarios creen sistemas de vigilancia más eficaces. Tener poder más barato a nuestro alcance mejorará todas las motivaciones posibles, ya sean religiosas, culturales, militares, comerciales, democráticas, autoritarias, buenas o malas. democratizar el acceso también significa democratizar el riesgo.
Este desarrollo, como era de esperar, tiene el potencial de volverse muy complicado y rápido. Tomemos sólo un ejemplo: los ciberataques.
Uno de los primeros sistemas de inteligencia artificial exitosos se llamó AlphaGo. Su único trabajo era jugar al antiguo y famoso y complejo juego de mesa chino Go. Al cabo de unos meses, era tan bueno que venció cómodamente a los campeones del mundo. ¿Cómo “aprendió” a jugar? Básicamente, se jugó una y otra vez. Después de analizar datos de millones de juegos autojugados, encontró estrategias inesperadas: el fruto de analizar los miles de millones de movimientos que se pueden realizar en Go.
Ahora imaginemos un ciberataque basado en IA a una red eléctrica. La IA aprende sistemáticamente sobre sus propias vulnerabilidades y se parchea en tiempo real. Imagine que también evoluciona para explotar las debilidades sistémicas descubiertas durante el ataque inicial y luego comienza a moverse por cada hospital, oficina, hogar y banco conectado a esa red. Debido a que es capaz de detectar intentos de apagarlo, aprende movimientos inesperados para evadir esos intentos. Al final, se detiene en seco, pero no antes de haber destruido sistemas de soporte vital, instalaciones militares, señales de transporte y bases de datos financieras; en otras palabras, no antes de haber logrado destruir una gran parte de la infraestructura de la que dependen las naciones. .
Ése es sólo un escenario posible; hay muchos más. No hace falta mucha imaginación, por ejemplo, para pensar qué podrían hacer los terroristas –o un tirador en una escuela– con drones armados, equipados con inteligencia artificial y reconocimiento facial. Pero el problema aquí es incluso mayor que los costos, medidos en dólares y vidas humanas, incurridos durante tales ataques.
El verdadero problema es este: la democratización del poder socava el reclamo más importante del Estado moderno sobre la lealtad y la lealtad de sus súbditos: su capacidad para garantizar su seguridad. La seguridad no es una característica opcional para el estado; es fundamental. ¿Cómo puede un Estado conservar la confianza si no puede mantenernos seguros o mantener las luces encendidas? ¿Si los hospitales, las escuelas y los sistemas eléctricos fallan y no hay nada que el gobierno o los ciudadanos puedan hacer al respecto? Si el Estado no puede protegernos, nos preguntaremos –más temprano que tarde– qué valor tienen todavía la lealtad y la lealtad.
Los nuevos riesgos deben afrontarse de frente
Las tecnologías de la próxima ola son valiosas y peligrosas: valiosas porque nos permiten ser mejores; peligrosos, porque potencian lo peor.
La IA podría ayudarnos a descubrir nuevas formas de mitigar el calentamiento global, pero los malos actores estarán más interesados en su capacidad para colapsar los mercados bursátiles y derribar las redes eléctricas.
Éste es un terreno desconocido. No podemos saber qué tan rápido mejorarán los sistemas de IA. Tampoco podemos saber qué consecuencias podría tener un accidente de laboratorio con una pieza de biotecnología que aún no se ha inventado. Lo que sí sabemos es que no hay forma de retroceder el reloj una vez que los autómatas que evolucionan rápidamente y se ensamblan automáticamente y los nuevos agentes biológicos se han desatado en el mundo.
Eso, sin embargo, va con el territorio: es lo que sucede cuando una revolución tecnológica permite que cualquiera invente y utilice herramientas que nos afectarán a todos. Podemos mirar hacia revoluciones tecnológicas anteriores, como la invención de la imprenta, como guía, pero estamos tratando con resultados fundamentalmente nuevos: nuevas formas de vida, nuevos compuestos, incluso especies. Incluso si asumimos que las posibilidades de una catástrofe son bajas, esencialmente estamos operando a ciegas. Lo más probable es que, en algún momento, en algún lugar y de alguna manera, algo falle.
Entonces, ¿qué se debe hacer? ¿Cómo podemos protegernos contra los riesgos y contener los efectos de venganza sin estrangular las tecnologías que mejoran la vida?
Los investigadores, directores ejecutivos, abogados y formuladores de políticas en IA en Beijing, Bruselas y Washington dicen todos lo mismo: regulación. Ya hemos estado aquí antes, argumentan, basta con mirar los coches.
¡Si sólo fuera así de simple! En comparación con el despliegue de la IA y la ingeniería genética, la adopción masiva del automóvil avanzó a paso de tortuga. Los aficionados a los retoques están obteniendo acceso a sintetizadores de ADN y las empresas de tecnología están gastando miles de millones en I+D cada mes. Mientras tanto, los políticos están atrapados en el ciclo informativo de 24 horas, dando bandazos de una crisis de corto plazo a la siguiente. La tecnología evoluciona semana a semana; Los gobiernos están estancados y sus intentos de legislar van a la zaga de los acontecimientos del mundo real por años.
Los coches también plantean otra pregunta. Sí, la regulación hizo que las carreteras fueran más seguras y ordenadas, pero estamos rodeados de malos resultados, desde la expansión urbana hasta la contaminación. Eso sin tener en cuenta el hecho de que cerca de un millón y medio de personas todavía mueren cada año en accidentes de tráfico.
Esto no quiere decir que la regulación sea inútil. La cuestión, más bien, es que hemos decidido, como sociedades y naciones, que la expansión urbana, la contaminación y un cierto número de muertes en las carreteras son un costo humano aceptable del uso masivo del automóvil, dados sus beneficios. Dicho de otra manera, lo que los responsables de las políticas suelen tener en mente cuando dicen “regulación” omite algo importante: las formas en que las sociedades sopesan entre sí los pros y los contras de las tecnologías. La regulación no se trata sólo de aprobar leyes; también se trata de normas y valores sociales y del equilibrio entre riesgo y recompensa.
En otras palabras, lo que hay que hacer aún no tiene una respuesta clara. Sin embargo, proporcionar esa respuesta no fue la razón por la que Mustafa Suleyman escribió La ola que viene. Su punto es que necesitamos urgentemente reconocer lo que viene. El futuro es ahora; Es hora de que hablemos de estas nuevas tecnologías. Cuanto más estas preguntas estén en el radar del público, concluye, mejor.
Conclusiones de La ola que viene
La inteligencia artificial y la ingeniería genética no son meros conceptos futuristas; están remodelando nuestro mundo actual. A diferencia de las tecnologías transformadoras anteriores, tienen el potencial de elevar o devastar las próximas décadas de la historia humana. La dirección que tomen nuestras sociedades depende de nuestra capacidad para discernir los riesgos y recompensas inminentes.
Image by Stefan Keller from Pixabay