¿Cuáles podrían ser, en su opinión, los efectos secundarios más preocupantes de la inteligencia artificial y la robótica (RAI) en lo que respecta a la ética humana?
¿Hasta qué punto ha influido el arte y la ciencia ficción en nuestra percepción de la inteligencia artificial? ¿Es realista esa percepción?
¿Contribuye el marketing de los fabricantes de tecnología de IA al temor de que ésta rivalice con el cerebro humano?
¿Sería la desaparición del trabajo el mayor cambio en menor tiempo al que nos hemos enfrentado nunca?
¿Qué tenemos que hacer para preservar nuestra capacidad de elegir un futuro que nos beneficie a todos?
¿Cómo ha de ser la exposición de la infancia a Internet y a la inteligencia artificial y cómo impacta esto en su desarrollo y en el de la sociedad?
¿Cree que la IA malevolente es una amenaza real?
John Tasioulas es el director del recién inaugurado Instituto de Ética en Inteligencia Artificial de la Universidad de Oxford así como filósofo moral y legal. "Entender los derechos humanos ha sido una de mis grandes inquietudes durante las últimas décadas", explica. Este fue el punto de partida desde el que llegó a la ética de la Inteligencia Artificial, campo en el que es uno de los más respetados expertos mundiales.
El próximo 16 de febrero tendrá lugar el evento inaugural del Instituto de ética en Inteligencia Artificial de la Universidad de Oxford. Se retransmitirá en vivo y la toda la información al respecto está disponible en https://torch.ox.ac.uk/event/launch-of-the-institute-for-ethics-in-ai.
¿Cuáles podrían ser, en su opinión, los efectos secundarios más preocupantes de la inteligencia artificial y la robótica (RAI) en lo que respecta a la ética humana?
En términos de efectos secundarios, me gustaría señalar dos peligros a gran escala. Ambos surgen del hecho de que la Inteligencia Artificial es una tecnología que puede replicar funciones que normalmente requieren el ejercicio de facultades racionales por parte de los seres humanos.
La primera es el desgaste gradual y la pérdida de diversas capacidades necesarias para la autonomía racional si nos volvemos excesivamente dependientes de la Inteligencia Artificial para determinar cosas como la música que escuchamos, con quién socializamos o a qué partido político votamos. La otra es que, en un mundo de robots antropomórficos dirigidos por inteligencia artificial, podríamos comenzar a perder la noción ya de por sí bastante tenue del gran valor intríseco de todo ser humano – la idea de la dignidad humana.
¿Hasta qué punto ha influido el arte y la ciencia ficción en nuestra percepción de la inteligencia artificial? ¿Es realista esa percepción?
La preocupación sobre si la visión que la sociedad tiene de la inteligencia artificial está demasiado influenciada por el sensacionalismo, planteando situaciones ‘apocalípticas’ pero muy especulativas, existe y es legítima.
Un cínico podría sugerir que esto sólo sirve para distraer de las formas generalizadas en que la inteligencia artificial ya está transformando nuestras vidas aquí y ahora: por ejemplo, para clasificar a los solicitantes de un empleo, para decidir quién obtiene un préstamo, para dictar sentencias en casos criminales y para el reconocimiento facial.
Los fabricantes de tecnología basada en IA intentan que sus productos parezcan lo más humanos posible porque esto aumenta el apego entre el consumidor y dicho producto. ¿Contribuye esto al temor de que la IA se convierta en un rival del cerebro humano?
Este es un punto interesante que se hace eco de mi respuesta a la pregunta 2). Creo que hay razones de calado para llamar a la cautela en la creación de inteligencia artificial antropomórfica.
También preocupa que la inteligencia artificial cambie cómo se construye nuestra sociedad, cuyo principal cimiento es hoy en día el trabajo tanto desde el punto de vista de los ingresos como de la definición de uno mismo. Si el trabajo desapareciera, ¿sería éste el mayor cambio que se ha dado nunca en la sociedad en el menor lapso de tiempo, y seríamos capaces de adaptarnos?
Se trata de una cuestión importante y sobre la que debe haber una mayor reflexión interdisciplinaria y mayor debate democrático.
El trabajo no es sólo una fuente de ingresos, como señala con razón, sino que tradicionalmente también ha sido una de las bases para la dignidad ciudadana en democracia. La condición de ciudadano libre e igualitario es en parte una función de la voluntad de participar en la actividad económica productiva.
Así que la idea de un mundo sin trabajo podría resultar preocupante si no tenemos claro qué podría sustituirlo como fuente de logros personales y dignidad cívica.
Tenemos que pensar más en si otras actividades como el juego, la estética, la amistad, la participación política, etc podrían asumir el papel del trabajo. La inteligencia artificial nos obliga a confrontar la cuestión aristotélica de la naturaleza de la buena vida, una pregunta que dejamos de lado con demasiada frecuencia porque damos por hecho que lo que da y dará forma a nuestra vida es, en gran parte, nuestro trabajo.
¿Qué tenemos que hacer para preservar nuestra capacidad de elegir un futuro que nos beneficie a todos?
Creo que en este punto el factor más importante es la preservación y el fortalecimiento del autogobierno democrático. La democracia es el mejor mecanismo institucional para proteger la dignidad humana y los derechos que se derivan de ella. La democracia requiere la participación de todos los ciudadanos en la deliberación y la toma de decisiones que favorezcan al bien público.
Pero la democracia está continuamente amenazada, por ejemplo por la enorme concentración de poder en manos de compañías transnacionales, el auge de formas excluyentes de populismo, la polarización ideológica que conduce a la demonización de los oponentes políticos, la creciente apropiación de autoridad por parte de tecnócratas que no rinden cuentas a la sociedad y las terribles desigualdades socioeconómicas que marginan a tantos de nuestros conciudadanos.
A menudo se considera también a la inteligencia artificial como una amenaza para la democracia, por ejemplo por la forma en la que se cree que las redes sociales manipulan a las personas con mensajes políticos a medida, contribuyendo con frecuencia a la desinformación. Una pregunta urgente es si la tecnología de IA puede fomentar una mayor, mejor y más directa participación política por parte de los ciudadanos de a pie. Sería bueno ver más recursos dirigidos a abordar esa cuestión.
En su artículo ‘Primeros Pasos hacia una Ética en la Robótica y la Inteligencia Artificial’ argumenta que "cuanto más dependientes sean nuestras vidas de máquinas diseñadas para satisfacer nuestros deseos, más corremos el riesgo de sucumbir a la tentación de tener esa misma actitud instrumentalizadora con nuestros semejantes". En España, un estudio reciente demuestra que esto ya sucede entre adolescentes varones en lo que respecta al sexo. En su opinión, ¿cómo ha de ser la exposición de la infancia a Internet y a la inteligencia artificial y cómo impacta esto en su desarrollo y en el de la sociedad?
Puede que no sea tanto una cuestión de retrasar su introducción a Internet y la inteligencia artificial sino de otras dos cosas: en primer lugar, educarlos de manera que puedan utilizar mejor estas herramientas con el fin de mejorar la calidad de sus vidas. En segundo lugar, regular estas herramientas para que sean más adecuadas para ayudarnos a cumplir con nuestro mayor deber, que es hacer todo lo posible para permitir que nuestros hijos se conviertan en buenos ciudadanos y adultos decentes y felices.
¿Está de acuerdo con el investigador Rodney Brooks en su blog 'La inteligencia artificial es una herramienta, no una amenaza' cuando dice que "es un error preocuparse por el desarrollo de IA malevolente en los próximos siglos"?
A grandes rasgos estoy de acuerdo. Obviamente una herramienta puede ser una amenaza en las manos equivocadas o si conlleva riesgos accidentales en buenas manos. En cuanto a la cuestión de la inteligencia artificial malevolente, creo que se trata de una pregunta legítima digna de consideración,aunque se trate de una cuestión a más largo plazo.
Pero hay muchas otras cuestiones que merecen la misma consideración, como la IA y los derechos humanos, la IA y el acceso a la salud, la IA y el acceso a la justicia, etc. Por lo tanto, es una cuestión de prioridades.
Diferentes personas se centrarán en diferentes temas en línea con sus diferentes intereses y habilidades. Pero mi propio temperamento me lleva a priorizar las cuestiones del aquí y ahora -o del futuro próximo- en mi trabajo sobre la ética de la inteligencia artificial.