Nuestro presidente del Consejo Asesor Tecnológico, José García Fanjul, tuvo el placer de participar en el congreso preparado por IF, grupo miembro de MediaLab de la Universidad de Oviedo el pasado 3 de abril en Gijón.
Un espacio creado para discutir sobre proyectos de desarrollo tecnológico donde se reflexiona desde la filosofía, así como aquellos proyectos que desde la filosofía abordan a la tecnología o la ingeniería como su campo de análisis.
A continuación, compartimos la intervención realizada por nuestro presidente del Consejo Asesor Tecnológico, José García Fanjul.
Esperamos que sea de vuestro interés.
¿Es sensato permitir que los sistemas de IA tomen decisiones por nosotros?
Hace un par de años participé en la organización de un foro cuya temática era el impacto de la inteligencia artificial en un determinado ámbito concreto. Dicho foro reunía a profesionales del derecho y la ingeniería informática y ese día, allí, un letrado de cierta edad, con un extraordinario bagaje profesional y muy respetado, intervino para hacernos llegar su predicción de que en el corto y medio plazo los sistemas de Inteligencia Artificial tomarían decisiones en los ámbitos en que la sociedad permitiera que lo hicieran.
Esa frase, tan sencilla a priori, derivó en ese momento en un debate respecto al modo en que se redactan los mensajes sobre la IA en diferentes contextos, la conveniencia de la regulación de la inteligencia artificial para la sociedad y sobre la imperiosa necesidad de que sean ingenieros en informática quienes validen, monitoricen y auditen lo que un sistema inteligente hace o no.
La frase dicha por ese letrado acude a mi cabeza desde entonces cada vez que en los medios de comunicación se publica que los sistemas de IA con capacidad de conversar de modo cuasi humano “mienten” o emiten “opiniones racistas”. Roza el entretenimiento jocoso para mí que se hable en términos cuasi-apocalípticos de sistemas inteligentes que “someterán” a los humanos o se “inventan” noticias. Mi hilaridad se deriva de que imagino a las personas que así se expresan como niños que creen que su muñeco favorito, de noche, mientras duermen, se levanta y pasea por su casa porque en realidad está vivo.
Es porque soy ingeniero en informática, y por tanto entiendo qué es la inteligencia artificial. Lo estudié en su momento, hace ya más de 30 años, en mi carrera universitaria y he observado la evolución de estas técnicas, sus muy diversas aplicaciones, su impacto y sus aportaciones maravillosas a la sociedad en muy diferentes ámbitos. Para mí, entonces, los sistemas de inteligencia artificial son programas de ordenador, unos y ceros, software. Los ingenieros en informática llevamos construyendo software cada vez más avanzado desde hace muchas décadas, sabemos que toda solución software debe construirse aplicando principios de ingeniería informática, la validación y la monitorización del comportamiento de todo tipo de sistemas es algo que los profesionales hacemos cada día. Los famosos LLMs, como ChatGPT, son otra solución informática más, una herramienta fabulosa, pero nada más, y nada menos, que uno más de los increíbles avances tecnológicos en el campo de la informática.
Los profesionales, entonces, sabemos que una inteligencia artificial no miente porque no sabe lo que es la mentira, ni tiene opiniones sesgadas porque no tiene opiniones, es un programa que simula ser inteligente porque esa es la definición de inteligencia artificial desde el siglo pasado: un programa de ordenador cuyo comportamiento simula tener características comunes con las de la inteligencia.
La IA está ahora en el centro del debate público porque estos programas informáticos parecen tener comportamientos “muy humanos”, parece que “hablan” y para quienes no saben realmente qué es una inteligencia artificial, ni qué es un algoritmo, supongo que estos sistemas pueden causar hasta temor. Decía Arthur C. Clarke que toda tecnología suficientemente avanzada es indistinguible de la magia. Para el ciudadano español medio, entonces, que tiene un conocimiento superficial sobre qué es la informática, una inteligencia artificial que “habla” no es un programa, es magia. El muñeco no es un objeto inanimado ¡está vivo!
Volviendo al inicio entonces, retomemos la pregunta ¿dejamos que las inteligencias artificiales tomen decisiones por nosotros? La respuesta está en manos de la sociedad, sí, lo decía el experto letrado en el foro del que hablaba antes, en diferentes países o diferentes contextos se desarrollarán soluciones y regulaciones diferentes, como sucede en cualquier ámbito. El reglamento europeo marca por ejemplo límites al uso de la inteligencia artificial que, lógicamente, no se aplicarán en otros lugares.
Un sistema de IA puede analizar datos de salud de pacientes y dar recomendaciones que los médicos pueden utilizar para mejorar la efectividad en el diagnóstico del cáncer ¿es sensato utilizar esa IA?
Un chatbot inteligente, tras “conversar” con un adolescente durante días, o semanas, en un momento determinado le “recomienda” que mate a sus padres ¿debe la sociedad permitir que esto suceda?
Entre estos dos extremos se situarán miles de escenarios diferentes, millones ¿cómo elegimos lo que es mejor en cada caso?
La respuesta no es sencilla, pero desde luego, en mi opinión es ridículo plantear que una inteligencia artificial “domine” a las personas… si éstas no desean ser dominadas y hacen lo necesario para controlar el modo en que una IA se comporta.
La cuestión es ¿queremos, como sociedad, ceder la toma de decisiones a sistemas inteligentes? ¿En qué contextos? ¿Con qué objetivos? ¿Con qué límites? ¿En beneficio de quién? Todas estas preguntas son tremendamente relevantes pero, particularmente, me interesa una: ¿quién debe probar, monitorizar y auditar el comportamiento de los sistemas de inteligencia artificial para detectar si su comportamiento es o no aceptable? Diría que sólo hay una respuesta sensata: debe ser una actividad reservada a profesionales competentes, los ingenieros en informática.
Otra cosa no tendría sentido. Recordemos que hace no tanto, en la pandemia, se dio voz en los medios de comunicación a personas que, sin ningún conocimiento ni competencia en el ámbito de la salud pública, declararon abiertamente la guerra a las vacunas. Hubo quienes prestaron su atención a un famoso cantante sólo por el hecho de ser famoso. Las personas sensatas y los gobiernos atendían a los expertos, los médicos.
Ya acabo, respondiendo a la pregunta por la que empezó este escrito ¿es sensato permitir que los sistemas de IA tomen decisiones por nosotros? Al final la respuesta va a ser sencilla, ya lo dijo el letrado, que la sociedad decida, pero por favor, no se confundan, un muñeco es un objeto inanimado, las vacunas salvan vidas, la Tierra no es plana y en lo que respecta a la inteligencia artificial, eviten hacer mucho caso a una persona sólo porque cante bien.
Den voz a los expertos, pregunten a los ingenieros en informática y presten atención a lo que digan. Encárguenles el diseño, construcción, prueba, monitorización y auditoría de los sistemas de IA en beneficio de la sociedad.
José García Fanjul
Presidente Consejo Asesor Tecnológico
Fundación ITD
