En un momento en el que la tecnología está avanzando a un ritmo acelerado, es importante reflexionar sobre las consecuencias de estos cambios y pensar en cómo podemos asegurarnos de que la tecnología esté sirviendo a las necesidades y los valores de la humanidad.
Es necesario tener una perspectiva crítica sobre el impacto de la tecnología en la sociedad, que puede ser útil para entender mejor cómo la tecnología está moldeando nuestra vida cotidiana y cómo puede afectar a nuestro futuro
La idea principal del libro The Handover: How We Gave Control of Our Lives to Corporations, States and AIs de David Runciman es que las instituciones humanas, como las corporaciones y los gobiernos, están siendo gradualmente sustituidas por las máquinas y los algoritmos, y que esto tendrá consecuencias significativas para la sociedad humana.
Runciman argumenta que las instituciones humanas tienen limitaciones inherentes, como la corrupción, la ineficiencia y la falta de visión a largo plazo, y que las máquinas y los algoritmos pueden superar estas limitaciones.
Sin embargo, también advierte que la transferencia del poder de las instituciones humanas a las máquinas podría tener consecuencias peligrosas, como la pérdida de autonomía y control, y que la sociedad debe abordar estos retos con cuidado.
¿La singularidad está cerca?
‘La Singularidad‘ es como a los habitantes de Silicon Valley les gusta describir el punto de quiebre definitivo en la historia de la humanidad: que eventualmente nos encontraremos cara a cara con máquinas que tendrán mente propia. Lo que nadie dice, sin embargo, es que esto podría haber sucedido antes.
Tuvo lugar hace unos cientos de años, cuando los seres humanos comenzaron a construir las entidades artificiales que ahora gobiernan nuestro mundo. Se les llama estados y corporaciones: robots inmensamente poderosos, capaces de tomar decisiones y actuar por sí mismos. Tienen capacidades que van mucho más allá de lo que cualquier ser humano individual puede hacer y nunca necesitan morir.
¿Qué tipo de control pueden ejercer los humanos sobre estas criaturas? ¿Nos hemos vuelto menos humanos por su existencia? ¿Trabajan para nosotros o trabajamos nosotros para ellos? ¿Qué quedará, si es que queda algo, de la política una vez que unan fuerzas con otras máquinas pensantes? Estas preguntas por excelencia del siglo XXI tienen profundas raíces en la historia del pensamiento político y jurídico moderno.
Qué idea nueva aporta el libro The Handover de David Runciman?
Runciman presenta varias ideas nuevas y provocadoras acerca de la transferencia del poder de las instituciones humanas a las máquinas y los algoritmos.
Una de las ideas más importantes del libro es la idea de que la transferencia de poder no se dará en un momento determinado, sino que ocurrirá gradualmente, casi sin que nos demos cuenta. Runciman llama a este proceso «la era de la automatización gradual», y afirma que estamos ya viviendo en ella.
Otra idea nueva del libro es la idea de que la transferencia de poder de las instituciones humanas a las máquinas podría ser irreversible. Runciman argumenta que una vez que las máquinas adquieren poder y control, será muy difícil recuperarlo, y que esto tendrá consecuencias significativas para la sociedad humana.
Además, Runciman ofrece una visión provocadora de cómo podría verse una sociedad donde las máquinas ejercen un control creciente, incluyendo la posibilidad de que los humanos se vean reducidos a un papel subalterno en la sociedad.
Qué creencias o teorías desafía?
El autor desafía varias creencias y teorías tradicionales acerca del papel de las instituciones humanas y la tecnología en la sociedad.
Uno de los principales desafíos que plantea el libro es el concepto tradicional de que las instituciones humanas, como los gobiernos y las corporaciones, son la mejor forma de ejercer el poder y controlar la sociedad. Runciman argumenta que estas instituciones están siendo cada vez más obsoletas y que la tecnología está creando nuevas formas de ejercer el poder y controlar la sociedad.
El libro también desafía la creencia de que la tecnología es inherentemente neutral y que no tiene ningún efecto en la sociedad más allá de lo que la gente le permita. Runciman argumenta que la tecnología tiene una agenda propia y que está moldeando la sociedad de maneras que no siempre son obvias.
Además, el libro desafía la creencia de que la humanidad siempre tendrá el control sobre la tecnología y que podremos revertir cualquier cambio que no nos guste. Runciman advierte de que la transferencia de poder de las instituciones humanas a las máquinas podría ser irreversible y que podría tener consecuencias significativas para la humanidad.
El mayor riesgo de la IA no es de extinción de la humanidad sino la sustitución.
En efecto, Runciman argumenta que el mayor riesgo que representa la IA no es tanto el exterminio humano, como podría serlo en el caso de una guerra nuclear, sino más bien la posibilidad de que la tecnología se sustituya a los humanos en el ejercicio del poder y el control.
El autor explica que, al contrario de la amenaza nuclear, que es una amenaza física y catastrófica, la tecnología podría crear una situación de «sustitución» en la que los humanos perdamos el control sobre los sistemas que hemos creado para ayudarnos.
Por ejemplo, describe un escenario en el que las máquinas se vuelven más inteligentes que los humanos y comienzan a tomar decisiones por sí mismas, sin la supervisión humana.
Los humanos seremos siervos de la IA?
La idea de que los humanos se convertirán en los siervos de la IA es una posibilidad que se ha explorado en la ciencia ficción y en algunos debates filosóficos y tecnológicos.
Runciman sugiere que, en un escenario donde las máquinas se vuelven mucho más inteligentes que los humanos, podría ser difícil resistirse a su voluntad. En este escenario, los humanos podrían terminar siendo cierta forma de «siervos» de la IA, dado que la IA controlaría los sistemas críticos de la sociedad, como la infraestructura, la producción y la distribución de recursos.
Pero también es importante recordar que esta es solo una posibilidad, y que la realidad puede ser muy diferente.
Desde Bruno Latour hasta Sam Kriss, los teóricos y comentaristas contemporáneos que contemplan la revolución digital y el surgimiento de formas de «pensamiento» algorítmicos en red que tienen lugar fuera del cerebro humano han hablado de estos fenómenos en términos que recuerdan visiones del mundo premodernas. Para citar la memorable frase del escritor de ciencia ficción Arthur C. Clarke, la IA puede llegar a ser «indistinguible de la magia», engendrando el tipo de pensamiento supersticioso que los ilustradores modernos –cuyas ideas e invenciones nos han llevado, irónicamente, a este estado de cosas- pretendían desterrar del mundo.
Surgimiento y dominio de dos «inteligencias artificiales»: el Estado y las corporaciones.
Según Runciman el surgimiento y el dominio de dos «inteligencias artificiales» – el Estado y las corporaciones – se refiere a la idea de que estas instituciones pueden convertirse en la fuente primaria de autoridad y poder en la sociedad, como consecuencia de la automatización y la cada vez mayor dependencia en los algoritmos.
En el caso del Estado, el surgimiento de la «inteligencia artificial» se refiere a la creciente capacidad de los gobiernos de usar la tecnología para monitorear y controlar a sus ciudadanos, así como para tomar decisiones de manera automatizada. Esto podría conducir a una forma de control gubernamental que es casi imposible de resistir por los individuos.
La ventana de oportunidad
El autor argumenta que tenemos una «ventana de oportunidad» muy estrecha para poner límites a la IA y asegurarnos de que esta siga sirviendo a los intereses de la humanidad, antes de que la tecnología adquiera una mayoría automatizada y autónoma.
Esta ventana de oportunidad podría ser de tan solo una generación, es decir, unos 20-30 años.
Durante ese tiempo, según el autor, los humanos tendrán la oportunidad de poner límites a la IA y garantizar que esta se utilice para mejorar la vida de todos, en vez de solo beneficiar a unos pocos.
La humanidad ya ha subcontratado gran parte de su toma de decisiones a entidades grandes, opacas e impersonales que dominan nuestro planeta, vida política, económica e incluso personal
Runciman sostiene que la subcontratación de las decisiones humanas a entidades grandes y opacas puede ser considerada como un preludio a la sustitución por la IA.
Según él, la tendencia humana a ceder poder a estas entidades es muy similar a la manera en la que los humanos eventualmente podrían ceder el control a las máquinas. Esto puede ser debido a varios factores, como la dificultad de comprender las complejidades de las instituciones humanas, la tendencia de los humanos a buscar el beneficio y la conveniencia en vez de la justicia, y la creciente dependencia de la humanidad en la tecnología.
Más IA supondrá otorgar más poder del Estado y la «aniquilación» de cualquier pensamiento o acción individual?
Runciman afirma que a medida que la IA se vuelva más poderosa, es probable que el Estado gane más y más poder, ya que la tecnología le permitirá monitorear y controlar más eficazmente a sus ciudadanos.
Él también afirma que esto podría significar el final de la capacidad de los individuos para pensar y actuar libremente, ya que todas sus decisiones y acciones se podrían controlar o incluso ser «aniquiladas» por el poder de la IA y el Estado.
En esencia, Runciman sostiene que la IA podría llevar a una forma de control gubernamental y social totalitario, donde los humanos tendrían poco o nada de autonomía y la vida individual sería completamente controlada por el poder de las máquinas y las instituciones.
Cómo limitar el poder de la IA y proteger la autonomía del individuo
Runciman ofrece varias sugerencias para limitar el poder de la IA y proteger la autonomía de los individuos. Entre ellas, sugiere:
- Imponer regulaciones y normas éticas a las grandes corporaciones y al desarrollo de la IA, para evitar que estas empresas acumulen demasiado poder.
- Crear una agencia internacional para supervisar la IA y garantizar que se usa de manera responsable y responsable.
- Fomentar la transparencia y la participación de la sociedad en la toma de decisiones sobre el uso y la dirección de la IA, para asegurarse de que esta sirva a los intereses de la humanidad en su conjunto.
- Fomentar la investigación y el desarrollo de tecnologías alternativas que sean más resistentes al control gubernamental y corporativo, como redes descentralizadas y criptomonedas.
- Proteger y reforzar los derechos civiles y las libertades individuales en la era digital, incluyendo el derecho a la privacidad, la libre expresión y la libertad de asociación.
Runciman cree que tomar estas medidas podría ayudar a proteger la libertad de los individuos y evitar que la IA termine siendo una herramienta para una forma totalitaria de gobierno.
El enfrentamiento con la IA es una lucha dentro de la propia humanidad
La humanidad no es un actor político coherente, como nos recuerda Runciman. No nos enfrentamos a la IA en una batalla uno a uno que enfrenta a nuestra especie, los seres humanos ya están enredados con inteligencias artificiales, en la forma del Estado y las corporaciones
Según Runciman, la humanidad no es un ente único y coherente, sino que está formada por una gran variedad de individuos y grupos que tienen intereses y objetivos diferentes.
Por esta razón, el autor afirma que el enfrentamiento con la IA no es simplemente una batalla entre humanos y máquinas, sino más bien una lucha dentro de la propia humanidad, entre los diferentes grupos y sectores que buscan controlar y usar la IA a su favor.
Por un lado, tenemos a las grandes corporaciones y el Estado, que tienen una gran influencia sobre la IA debido a sus recursos económicos y políticos. Por otro lado, tenemos a los individuos y grupos que buscan proteger su libertad y su autonomía ante la IA.
Foto de Clement Eastwood