Klara y el sol es una hermosa fábula que plantea cuestiones fundamentales sobre los retos de la inteligencia artificial. Su autor es el premio Nóbel de Literatura 2017, Kazuo Ishiguro, que cuenta en su bibliografía, entre otras, con las novelas Lo que queda del día y El gigante enterrado.
La literatura tiene la virtud de anticiparse al futuro –la imaginación no tiene límites y ahí tenemos, por poner solo un ejemplo clásico, a Julio Verne– y también la capacidad de hacernos comprender las teorías científicas más complejas. En ese sentido la labor del escritor tiene connotaciones con la del periodista que trata de explicar a los lectores las causas de la noticias que transmite.
Robots asesinos
Al terminar Klara y el sol, recordé lo que había leído años atrás acerca de un congreso mundial sobre inteligencia artificial celebrado en 2015 en Buenos Aires. Con motivo de esta reunión, científicos entre los que se encontraba Stephen Hawkings firmaron un manifiesto para advertir al mundo del peligro de los robots asesinos.
Se referían a la posibilidad, real, de utilizar los conocimientos sobre Inteligencia Artificial (IA) para crear armas de guerra tan nocivas o más que la nucleares o las biológicas. Desde entonces hemos visto drones bombardeando “objetivos militares” y hemos comprobado que, desgraciadamente, en bastantes de estos ataques se producían víctimas civiles.
Sin embargo, el uso de los robots asesinos no es el único problema ético, aunque posiblemente el más grave, que plantea la inteligencia artificial.
Lo que guarda el corazón humano
Klara, la robot de la novela distópica de Ishiguro, es amable, inteligente y una grata compañía, dotada de algo muy parecido a lo que entendemos como sensibilidad. La caricia del sol la sustenta casi tanto como a nosotros.
Es posible que un robot pueda emular a la perfección los movimientos mecánicos de un humano, que observe y aprenda sus reacciones y acumule conocimientos que le permitan dilucidar la razón del comportamiento en determinadas circunstancias, incluso que reconozca las emociones que transmiten determinados gestos.
En el caso de Klara hasta se ve capaz de intentar descubrir las múltiples “habitaciones que guarda el corazón de un ser humano”. La cuestión que se plantea esta amable robot de Ishiguro es si lo podrá conseguir.
Klara reconoce que ella no inspira las emociones que una persona despierta en sus congéneres, incluso cuando a lo largo de la novela muestra más empatía que muchos de los que se consideran por naturaleza dotados de sentimientos.
Almacén de datos o IA con sentido común
La mayor parte de las investigaciones que se hacen en robótica indagan sobre la capacidad de leer y almacenar cantidades ingentes de datos. Esto tal como está planteado, asegura Héctor J. Levesque, de la Universidad de Toronto, asusta al ver la autonomía que pueden alcanzar estos robots que carecen de sentido común. Levesque es autor de Common Sense, the Turing Test, and the Quest for Real AI (Sentido común, el test de Turing y las cuestiones que plantea la IA), obra que solo está disponible en inglés.
Unas máquinas dotadas de IA que, como decía Hawkings, podrían empezar a rediseñarse a sí mismas a una velocidad con la que los humanos no podríamos competir, lo cual sería una amenaza para nuestra existencia. La posibilidad de una IA superior a la humana, dice James Barrat, autor de Nuestro invento final: La inteligencia artificial y el fin de la era humana, sometería a nuestra especie.
Amenazas inmediatas
Antes de recorrer todo ese camino hay otros muchos peligros inmediatos como la desaparición de puestos de trabajo o el sesgo que pueda introducir el programador en el robot.
Los científicos siempre plantean los riesgos para evitarlos, de la misma forma que las estadísticas ofrecen la evolución de determinados indicadores que los gobiernos deben analizar y corregir.
La novela de Ishiguro nos muestra a través de Klara una visión más optimista pero que nos invita a reflexionar sobre las consecuencias personales, éticas, sociales y económicas del desarrollo de la IA, una realidad que habita ya nuestra cotidianeidad.
