Cuatro investigadores del CSIC analizan cómo las grandes películas de ciencia ficción plantean las posibilidades y riesgos del avance de la robótica, la inteligencia artificial y la sociedad digital
Decía la escritora Ursula K. Le Guin que “el ejercicio de la imaginación es peligroso para quienes se aprovechan del estado de las cosas porque tiene el poder de demostrar que el estado de las cosas no es permanente ni universal ni necesario”. Defendía la célebre escritora de ciencia ficción el carácter proyectivo de un género subestimado hasta hace no mucho por la crítica literaria. Sin embargo, el avance acelerado en la investigación de áreas como la inteligencia artificial, el aprendizaje automático y la robótica ha redoblado el interés en la ciencia ficción como género que permite imaginar y explorar nuevos desarrollos tecnológicos y nuevos dilemas éticos; un género que nos hizo soñar con llegar a la luna, con coches que se conducen solos, con robots y con inteligencias no humanas.
“La ciencia ficción no solo aporta una idea de innovación tecnológica concreta, sino que ofrece un contexto, una base coherente de cómo este avance será integrado en la sociedad y en definitiva en la vida cotidiana de las personas”, expone Carme Torras, investigadora del CSIC en el Instituto de Robótica e Informática Industrial (IRII). Torras defiende el uso de la ciencia ficción para el aprendizaje, la reflexión y la innovación en los campos de la robótica y la inteligencia artificial y, sobre todo, para el desarrollo ético de estas tecnologías. Cree la investigadora que la creciente colaboración entre escritores y directores con la comunidad científica abre unas perspectivas interesantes para el futuro más inmediato.
En el CSIC son muchos los científicos que se dedican a la robótica y la inteligencia artificial, desde la investigación básica hasta su desarrollo tecnológico, sin dejar de lado la necesaria reflexión ética. Cuatro de ellos analizan aquí grandes títulos de la historia del cine de ciencia ficción y los mundos tecnológicos futuros que imaginan. Participan el experto en inteligencia artificial, Ramón López de Mántaras, del Instituto de Investigación en Inteligencia Artificial (IIIA-CSIC); las ingenieras expertas en robótica Ángela Ribeiro, y Elena García-Armada, del Centro de Automática y Robótica (CAR); y el filósofo Txetxu Ausín, del Instituto de Filosofía (IFS).
‘2001. Odisea en el espacio’ (Stanley Kubrick, 1968)
“2001. Odisea en el espacio es la historia de la evolución de la inteligencia, desde los simios prehumanos hasta un futuro de superhumanos, creadores ellos mismos de otras inteligencias”, explica Ramón López de Mántaras (IIIA).
Kubrick desplegó todo un mapa de imaginario de ciencia ficción en una de sus películas más recordadas. Había extraterrestres, esos extraños monolitos a los que alguien confundió con Dios; había naves espaciales con todas las comodidades; la luna ya era un terreno explorado antes de que en 1969 Neil Armstrong diera un gran paso para la humanidad; y Marte ya se quedaba pequeño para las aspiraciones terrícolas, el próximo objetivo era Júpiter. No obstante, quizás, el elemento que más caló en la cultura popular fue el ordenador de a bordo HAL9000, el ojo que todo lo escruta en la nave Discovery One en misión hacia Júpiter. Esta inquietante inteligencia artificial es recordada como un auténtico villano, pues intenta asesinar a toda la tripulación de su nave.
Sin embargo, López de Mántaras ve al HAL como una víctima de sus propios programadores. “Decide eliminar a la tripulación por el bien de la misión que se le ha encomendado, pero también se vislumbra frustración por las acusaciones de fallo a su sistema infalible”, comenta el investigador, que entiende que el ordenador de la nave actúa en defensa propia. Es memorable la escena en la que el último superviviente desconecta a HAL, que dice notar cómo su mente se está desvaneciendo y que apela directamente a su compañero humano cuando manifiesta el temor que le suscita su propia muerte. “La escena de desconexión de HAL sugiere que, si en un futuro hubiera inteligencias artificiales fuertes, con consciencia y sentimientos, tendremos que preguntarnos cuál es nuestro derecho a desconectarlas”, concluye López de Mántaras.
‘Blade Runner’ (Ridley Scott, 1982)
La reflexión sobre los derechos de la inteligencia artificial entronca directamente con el comentario de Ángela Ribeiro (CAR) a la película Blade Runner. “Ridley Scott nos sumerge en un futuro distópico, oscuro y agobiante, el ambiente idóneo para contar la historia de unos seres creados para ser esclavos, gracias a los extraordinarios avances de la ingeniería genética”, comenta la investigadora, que cree que Blade Runner es hoy más actual que nunca.
El avance tecnológico en la sociedad de la película plantea, según la investigadora, la cuestión ética sobre la creación de seres inteligentes para usarlos como esclavos. Los replicantes de Blade Runner son robots biológicos al servicio de los seres humanos capaces de desarrollar empatía cognitiva. Esta capacidad no programada preocupa a sus creadores, que los condenan a la muerte programada a los cuatro años de haber sido conectados. Los androides y ginoides ponen en jaque las leyes de la robótica, pues un robot debe protegerse a sí mismo, siempre y cuando no ponga en peligro a un humano. Sin embargo, los replicantes Nexus-6 se rebelan buscando huir de su destino, por lo que anteponen por encima de todo su supervivencia y la de los suyos. Así, seres usados para librar a los humanos de realizar tareas pesadas y peligrosas, conscientes de su propia existencia y capaces de sentir emociones complejas son desconectados porque solo se los considera máquinas. “¿Sería lícito considerar esta retirada como una ejecución? ¿No son los replicantes realmente humanos artificiales?”, se plantea Ribeiro.
“Blade Runner nos muestra una sociedad enferma a la que, al menos hipotéticamente, podríamos evolucionar. Es lógico y deseable pensar que las mejoras tecnológicas deben conducirnos a mejoras sociales que globalicen el estado del bienestar. Sin embargo, son múltiples los ejemplos reales e imaginarios que nos muestran lo contrario. El avance tecnológico no puede desligarse jamás de las cuestiones éticas”, concluye Ribeiro.
‘Eva’ (Kike Maíllo, 2011)
No toda la ciencia ficción vive de la distopía, también nos encontramos con ficciones amables, como Eva, una de las películas favoritas de Elena García-Armada (CAR). “En su ópera prima, el director Kike Maíllo muestra una gran valentía al descolocar la ciencia ficción que enfrenta a los robots con sus creadores y mostrar un lado amable, cotidiano y familiar de un posible futuro en el que la robótica está integrada en la vida diaria”, comenta la investigadora.
Esta es la historia de Álex, un reputado científico con un encargo de la facultad de robótica: dotar de comportamiento social a un niño robot. Álex, prendado por la personalidad de su sobrina Eva, decidirá usarla como modelo para el comportamiento social del robot. “El concepto de robótica social y emocional atraviesa la trama desde el principio hasta el fin”, indica García-Armada. “Los robots tienen cierta autonomía, pero son máquinas, al fin y al cabo, y lo que las hace importantes es su relación con el ser humano”, añade.
Para García-Armada es claro que el director se documentó en el entorno académico. “Cuando el protagonista entra en el campus universitario le rodean robots cuadrúpedos que podrían encontrarse perfectamente en un instituto de investigación del CSIC, como el CAR o el IRII en los años 90”, observa la investigadora, que admira que Maíllo mostrara una robótica más avanzada que la que conocemos actualmente, pero que tuviera en cuenta el desarrollo paulatino de una tecnología y de la adaptación gradual y controlado de esta a nuestras vidas.
‘Her’ (Spike Jonze, 2013)
Para Txetxu Ausín (IFS), al final, las ficciones sobre robots e inteligencias artificiales apelan a aquello que nos hace humanos y cree que Her es una de las películas que mejor plantea estas cuestiones. Esta es una historia de chico conoce a chica, pero ella, Samantha, es la inteligencia artificial del nuevo sistema operativo de él, Theodore. “Spike Jonze hace aquí un acto de imaginación que nos pone ante el espejo de lo que somos, de lo que constituye o no nuestra propia humanidad y nuestra identidad”, opina Ausín.
Parece lejano el futuro en el que existan inteligencias como Samantha, que puedan establecer con los humanos relaciones estrechas, incluso amorosas. “Sin embargo, cada vez más nuestras relaciones están más mediadas tecnológicamente, de modo que mantenemos una interacción física, cognitiva y hasta emocional con la tecnología”, expone el investigador.
Ya vivimos en una sociedad digital, los seres humanos desarrollamos nuestras actividades junto con máquinas e inteligencias artificiales que cada vez se parecen más a nosotros. “Impulsados por nuestra tendencia al antropomorfismo, introducimos en la tecnología valores y capacidades antes reservados a los seres humanos”, comenta Ausín. Además, Her plantea la cuestión de hasta dónde es posible abstraer la humanidad de su corporalidad y pone sobre la mesa la pregunta sobre lo que es real y lo que no (“Tú no eres una persona”, le dice Theodore a Samantha), sobre la autenticidad (“¿Los sentimientos que expresas son reales o programados?”, pregunta Theodore) y sobre la longevidad, pues Samantha deja atrás la limitación humana de la mortalidad y alcanza un estado de transhumanismo. “En definitiva, Her plasma un futuro que nos propone preguntas sobre las que ya podemos comenzar a pensar en nuestro presente”, concluye Ausín.
Homo Sapiens interesado por la Ciencia y la Tecnología
