Este año el Premio Princesa de Asturias de Investigación Científica y Técnica ha recaído en cuatro prestigiosos investigadores que trabajan en el ámbito de la Inteligencia Artificial. Es un reconocimiento no sólo a su trayectoria sino, también, a la fundamental aportación de la ciencia y la ingeniería informática a la sociedad actual.
Uno de los premiados, Yann Le Cun, al ser entrevistado para un periódico, recibió una de las preguntas que muchas personas se hacen cuando se habla de Inteligencia Artificial: «¿debemos verla como una amenaza?». Es comprensible que cualquier ciudadano, tras haber visto en el cine películas como Terminator o Matrix, tenga ciertos reparos respecto a lo que puede suceder si los seres humanos diseñamos e implementamos sistemas de inteligencia artificial que ya son ubicuos.
La respuesta del especialista fue rotunda: «Las máquinas van a ser más inteligentes que nosotros, pero debemos verlo como una ventaja, no como una amenaza. Seguiremos siendo el jefe».
Atendiendo a sus palabras parece que podemos estar tranquilos pero esa frase, que terminó siendo parte del titular de la entrevista, es matizable.
Ningún profesional de la informática prevé que las máquinas tomen conciencia de sí mismas y nos declaren la guerra. Los ordenadores y los sistemas de Inteligencia Artificial están diseñados y programados para realizar tareas que nos ayuden, y eso hacen. Muy probablemente, por ejemplo, en unos años tengamos a nuestra disposición sistemas que permitan hacer traducción automática del lenguaje sobre la marcha y, por tanto, cualquier persona pueda comunicarse con cualquier otra sin que sea necesario aprender idiomas. La consecución de ese hito transformará la sociedad, sin duda, de formas que quizá no podamos predecir aún pero también debemos ser conscientes de que existen riesgos inherentes al uso de la inteligencia artificial.
El primer riesgo viene derivado de que, aunque los seres humanos seguimos siendo “los jefes”, en ocasiones nuestras decisiones pueden verse influenciadas por las recomendaciones que nos dan sistemas inteligentes. Estas recomendaciones son, en ocasiones, especialmente críticas, como en el caso del sistema Prometea. Prometea es un sistema inteligente que predice las resoluciones de determinados tipos de procesos judiciales y expedientes administrativos.
Para un gestor es tentador que un sistema automático se ocupe de estos trámites porque lo hará de una forma más rápida y a un menor coste, pero entonces ¿serán los jueces y los funcionarios quienes tomen la última decisión sobre los asuntos o debemos delegar este tipo de decisiones directamente en una inteligencia artificial? De hecho y aunque la última palabra en un caso la tenga un juez o un funcionario ¿no tendrá la tentación de refrendar la decisión del sistema automatizado?, ¿qué argumentos deberá sostener para validar ante sus superiores y la sociedad que su opinión es diferente a la del sistema?
Un segundo riesgo está asociado a los sesgos. Un sistema que integre inteligencia artificial es complejo de analizar, diseñar y construir, deben hacerlo profesionales expertos, ingenieros en informática que se apoyen en letrados y, también, en profesionales competentes en el ámbito al que se vaya a aplicar el sistema. Un sistema inteligente mal diseñado puede tener sesgos como los que se han estado detectando en los sistemas de reconocimiento facial. Ha habido casos en que estos sistemas se entrenaban con datos donde la amplísima mayoría eran fotos de caras de hombres blancos. Eso significa que incluso a día de hoy existen sistemas que no reconocen adecuadamente a las mujeres o a personas de otras razas. ¿Qué sucede si este tipo de sistemas se implanta en el control de paso de una frontera? Lógicamente al utilizar sistemas que tienen sesgos se estará discriminando a unos ciudadanos respecto a otros.
En definitiva, los sistemas de inteligencia artificial, junto con otras muchísimas aplicaciones de la informática, están transformando nuestra sociedad y apoyándonos en infinidad de ámbitos. Precisamente por la ubicuidad y la importancia que tienen estos sistemas debemos ser conscientes de los riesgos existentes para gestionarlos adecuadamente. No deben interpretarse como un obstáculo insalvable, sino que deben motivarnos a reservar el diseño y construcción de estos sistemas a ingenieros en informática que colaboren, en equipos multidisciplinares, con expertos en derecho.
De esa forma se minimizarán estos riesgos consiguiendo una IA ética, positiva para la sociedad, respetuosa con la Ley y los derechos de los ciudadanos.
José García Fanjul
Presidente del Consejo Asesor Tecnológico Fundación ITD.
Ingeniero informático.
Vicedecano del Colegio Oficial de Ingenieros en Informática del Principado de Asturias.
Secretario del Consejo General de Colegios de Ingeniería en Informática.
