En Deep Utopia: Life and Meaning in a Solved World, Nick Bostrom nos invita a explorar un futuro transformado por el avance de la inteligencia artificial. Este libro se sumerge en las profundas implicaciones filosóficas y existenciales de un mundo donde los desafíos prácticos de la humanidad han sido resueltos por la tecnología.
Bostrom, conocido por sus trabajos anteriores sobre los riesgos existenciales de la superinteligencia (ver IA y sus riesgos: ‘Superinteligencia’ de Nick Bostrom), adopta en esta ocasión una perspectiva más optimista y utópica.
En Deep Utopia, el autor imagina una sociedad donde la escasez, el trabajo y el sufrimiento humano se han mitigado o eliminado completamente, planteando preguntas esenciales sobre el propósito y el significado de la vida en una era de abundancia tecnológica.
Este enfoque nos desafía a reconsiderar nuestras nociones tradicionales de trabajo, felicidad y realización personal en un contexto radicalmente alterado por la inteligencia artificial avanzada.
Ideas o creencias desafiadas en Deep Utopia
- El Valor del Trabajo Humano: Bostrom desafía la noción tradicional de que el trabajo es esencial para el sentido de propósito y la identidad humana. En «Deep Utopia», propone un mundo post-trabajo donde las máquinas realizan todas las funciones necesarias, cuestionando el rol del trabajo en la vida humana.
- La Búsqueda de la Felicidad: El libro también cuestiona la idea de que la felicidad y la satisfacción derivan principalmente de superar desafíos y adversidades. Bostrom explora alternativas como la neurotecnología para el logro de un bienestar perpetuo, lo que plantea preguntas sobre la autenticidad de las emociones y experiencias inducidas artificialmente.
- La Igualdad y la Escasez: Aunque en un mundo utópico la igualdad material podría ser una realidad, Bostrom señala que la escasez de estatus y reconocimiento seguiría siendo un problema. Esto desafía la creencia de que la solución a las necesidades materiales llevaría automáticamente a una sociedad completamente igualitaria.
- El Propósito Existencial: Finalmente, el libro desafía la creencia en un propósito existencial inherente y universal. En un mundo resuelto, los individuos podrían tener que encontrar o crear su propio sentido de propósito, lo que podría llevar a una diversidad de formas de vida y sistemas de valores.
De los temores a la superinteligencia a su potencial benéfico: repensando el futuro de la IA
La evolución del pensamiento de Nick Bostrom desde su libro «Superinteligencia: Caminos, peligros, estrategias» hasta «Deep Utopia» refleja un cambio significativo en el enfoque y la profundización de ciertos temas relacionados con la inteligencia artificial y su impacto en la sociedad humana. Algunos de los aspectos que más han cambiado son:
- Enfoque en los riesgos existenciales a una visión más equilibrada y utópica: En «Superinteligencia», Bostrom se centró principalmente en los riesgos existenciales que la IA podría representar para la humanidad, explorando escenarios en los que la inteligencia artificial supera la inteligencia humana y se convierte en una amenaza. En cambio, en «Deep Utopia», aunque sigue reconociendo los riesgos, Bostrom parece más optimista sobre el potencial de la IA para resolver problemas globales significativos y llevar a la humanidad hacia una era de abundancia y bienestar, reduciendo la escasez y mejorando la calidad de vida.
- De la supervivencia a la calidad de vida: Mientras que «Superinteligencia» se enfocaba en cómo los humanos podrían sobrevivir a una posible superinteligencia hostil, «Deep Utopia» explora cómo la IA podría mejorar fundamentalmente la vida humana, eliminando el tedio y el dolor y proporcionando las bases para una existencia más rica y satisfactoria.
- Exploración de nuevas dimensiones éticas y morales: En «Deep Utopia», Bostrom profundiza en las consideraciones éticas y morales de convivir con entidades digitales y sistemas de IA avanzados. Discute la posibilidad de otorgar estatus moral a sistemas de IA no conscientes pero sofisticados, lo que representa una expansión significativa de los temas tratados en «Superinteligencia», donde el enfoque estaba más en la alineación de valores y el control.
- Consideración de los cambios culturales y sociales: Bostrom en «Deep Utopia» también aborda cómo la IA podría influir en los cambios culturales y sociales, sugiriendo que las transformaciones inducidas por la IA podrían requerir una reevaluación de nuestros valores y estructuras sociales. Esto contrasta con «Superinteligencia», donde el enfoque estaba más en las implicaciones tecnológicas y de seguridad.
- Perspectiva sobre el desempleo y la economía*: Mientras que en «Superinteligencia» el enfoque podría estar más en cómo la IA cambiaría el panorama laboral desde una perspectiva de riesgo, en «Deep Utopia» Bostrom parece considerar el desempleo masivo como parte de una transición hacia una sociedad donde el trabajo humano no es necesario para la economía, lo que podría resultar en una redistribución de la riqueza y el tiempo hacia actividades más enriquecedoras.
La evolución del pensamiento de Bostrom muestra un cambio desde una visión centrada en los riesgos y la supervivencia hacia una exploración más amplia y equilibrada de cómo la IA podría contribuir positivamente a la sociedad, abordando tanto los desafíos éticos como las oportunidades para mejorar la existencia humana.
Implicaciones de una IA que resuelve grandes desafíos globales
El autor afirma que es optimista «sobre lo que podría ser el resultado si las cosas van bien». Pero eso está al otro lado de un montón de reconsideraciones bastante profundas sobre lo que podría ser la vida humana y lo que tiene valor. Bostrom confía en tener esa superinteligencia que podría hacerlo «todos». Evidentemente, entonces hay un montón de cosas que «ya no necesitamos hacer y esto socava mucho de lo que actualmente pensamos que es la especie y el fin de la existencia humana«. Quizá, especula el autor, «también haya mentes digitales que formen parte de este futuro».
Convivencia con entidades digitales
En la opinión del autor, la sintiencia, es decir, la capacidad de sufrir, es una condición suficiente, pero no necesaria, para que un sistema de inteligencia artificial tenga estatus moral. También puede haber sistemas de inteligencia artificial a los que, aunque no sean conscientes, les otorguemos diversos grados de estatus moral.
Bostrom plantea que un razonador sofisticado con una concepción de sí mismo como algo que existe a lo largo del tiempo, preferencias estables, objetivos vitales y aspiraciones que quiere alcanzar, y que quizá pueda establecer relaciones recíprocas con los humanos, es un sistema al que podría ser plausible otorgarle cierto estatus moral y formas de tratarlo que estarían mal, incluso si no es plenamente consciente o sintiente.
En resumen, el autor sugiere que aunque la sintiencia es una condición suficiente para el estatus moral de una IA, no es necesariamente la única. Ciertos sistemas de IA muy avanzados y con rasgos de autonomía y continuidad en el tiempo podrían merecer algún grado de consideración moral, incluso sin ser plenamente conscientes o capaces de sufrir.
Precauciones ante una IA con autonomía creciente
En este momento, el avance de la inteligencia artificial está fuertemente impulsado. Los beneficios económicos son enormes y serán cada vez más evidentes. También están los avances científicos, los nuevos medicamentos, las fuentes de energía limpia, etcétera. Además, creo que se convertirá en un factor cada vez más importante para la seguridad nacional, donde habrá incentivos militares para impulsar esta tecnología.
Bostrom sugiere que sería deseable que quienquiera que esté en la vanguardia del desarrollo de la próxima generación de sistemas de IA, en particular los sistemas superinteligentes verdaderamente transformadores, tuviera la capacidad de hacer una pausa durante las etapas clave. Eso sería útil para la seguridad.
El autor sería mucho más escéptico ante propuestas que parecieran crear el riesgo de que esto se convirtiera en una prohibición permanente de la IA. Parece mucho menos probable que la alternativa, pero más probable de lo que hubiera parecido hace dos años. En última instancia, no sería una tragedia inmensa si esto nunca se desarrollara, que estuviéramos confinados a ser simios en la necesidad, la pobreza y la enfermedad. ¿Vamos a hacer esto durante un millón de años?
Enfoque erróneo en los riesgos existenciales de la IA
Bostrom aborda la perspectiva de los catastrofistas de la IA, sugiriendo que la conversación sobre los riesgos existenciales de la inteligencia artificial está muy dispersa y que hay un montón de cuestiones más inmediatas que merecen atención, como la discriminación, la privacidad y la propiedad intelectual.
Parece sugerir que, aunque es importante considerar los riesgos a largo plazo de la IA, también es crucial no perder de vista los problemas actuales que la tecnología plantea.
Además, indica que las empresas interesadas en las consecuencias a largo plazo de sus acciones han estado invirtiendo en la seguridad de la IA y tratando de implicar a los responsables políticos, lo que implica la necesidad de un enfoque equilibrado que aborde tanto los riesgos inmediatos como los potenciales a largo plazo.
Bostrom también critica a aquellos que pueden tener una visión limitada o una falta de imaginación sobre el futuro, sugiriendo que algunas objeciones a la IA pueden basarse en creencias arrogantes sobre la superioridad moral de la cultura actual o en un miedo al cambio que impide ver los beneficios potenciales de una utopía impulsada por la IA. Esto sugiere que Bostrom ve a los catastrofistas de la IA como posiblemente demasiado enfocados en los riesgos sin considerar adecuadamente las oportunidades que la tecnología avanzada podría ofrecer para mejorar la sociedad.
El dilema del tedio y el dolor en una utopía post-escasez
Bostrom aborda el tema del tedio y el dolor desde una perspectiva filosófica y existencial, sugiriendo que la eliminación de la escasez y la resolución de grandes desafíos globales por parte de la inteligencia artificial podrían transformar profundamente la existencia humana.
Bostrom plantea que, en un mundo post-escasez, donde las necesidades básicas están satisfechas y los problemas como el cambio climático y las enfermedades han sido resueltos, surgirían preguntas fundamentales sobre el propósito y el significado de la vida humana.
El autor sugiere que, en tal escenario, el tedio y el dolor, como elementos tradicionalmente asociados con la lucha por la supervivencia y el logro de objetivos, podrían disminuir significativamente. Sin embargo, esto también podría socavar lo que actualmente consideramos valioso y significativo en la vida humana, desafiando nuestras concepciones tradicionales sobre el trabajo, el esfuerzo y el crecimiento personal.
Además, Bostrom reflexiona sobre la posibilidad de crear mecanismos que cumplan la misma función que el dolor sin ser dolorosos, como una «exopiel» de nanotecnología que protegería a las personas de daños físicos sin la necesidad de experimentar dolor. Esto plantea preguntas sobre cómo la tecnología podría alterar nuestra experiencia del sufrimiento y qué implicaciones tendría para nuestro desarrollo y bienestar emocional.
En resumen, contempla un futuro en el que el tedio y el dolor podrían ser significativamente reducidos o transformados a través de avances tecnológicos. Sin embargo, esto conlleva profundas reconsideraciones sobre el significado y el propósito de la vida humana en un mundo donde las luchas tradicionales ya no existen.
Desempleo Masivo
A medida que la tecnología supera las habilidades humanas en la mayoría de las tareas, eventualmente podríamos enfrentar una sociedad post-trabajo. Contratar humanos sería menos atractivo cuando los robots pueden entender mejor las tareas, trabajar más rápido y costar menos que alimentar a un trabajador humano.
Esa conclusión no debería ser controvertida dadas las suposiciones de Bostrom sobre la tecnología. Desafortunadamente, esas suposiciones sobre la tecnología son altamente controvertidas, al menos entre las personas que no han prestado mucha atención a las tendencias en las capacidades de la IA.
El estereotipo del desempleo es que es un signo de fracaso. Pero Bostrom señala contraejemplos descuidados, como la jubilación y la ausencia de trabajo infantil. Reenfocar el desempleo tecnológico bajo esta luz lo hace parecer menos perturbador. Así como alguien en 1800 podría haber tenido dificultades para imaginar el ocio disfrutado por niños y jubilados hoy, podríamos tener dificultades para visualizar un futuro de ocio masivo.
Si las cosas van bien, los ingresos de capital y tierra podrían proporcionar lujo para todos.
Bostrom señala que no está claro si automatizar la mayoría, pero no toda, la mano de obra humana aumentará o disminuirá los salarios. Los cambios dramáticos del desempleo masivo podrían ocurrir mucho después de la automatización de la mayoría de las tareas laborales actuales.