Miren Jasone Ramírez-Ayerbe

El trabajo de Miren Jasone Ramírez-Ayerbe se centra en la denominada inteligencia artificial explicable, una disciplina que trata de arrojar luz sobre una de las grandes paradojas que plantea el avance de la IA: cuanto más potentes y precisos son determinados algoritmos, más difícil puede resultar comprender las razones que hay detrás de sus decisiones. «Nuestro objetivo es poder explicar las decisiones que toman algoritmos complejos», señala Ramírez-Ayerbe, actualmente se acaba de incorporar a la Technical University of Munich (Alemania) como profesora asistente de Investigación Operativa e Inteligencia Artificial, tras completar una estancia como investigadora posdoctoral en la Universidad de Montréal (Canadá).

Graduada en Matemáticas y Física por la Universidad de Sevilla, se doctoró en 2024 por esta misma universidad y fue entonces, gracias a su supervisor de tesis, cuando comenzó a decantarse por la investigación: «Creía que eso era para gente muy brillante, pero él me hizo ver que había más trabajo y constancia. Y me enamoré de la investigación en ese momento».

Para explicar la trascendencia de su campo de estudio, la investigadora pone como ejemplo decisiones de la inteligencia artificial que afectan directamente a la vida de las personas. «Cuando un algoritmo decide si te dan un préstamo o no, este va a analizar millones de datos y va a decidir que te lo rechazan. Esta decisión puede ser muy precisa, pero muy compleja y no podemos saber el porqué». Algo similar puede suceder en ámbitos como la selección de personal, donde un sistema automatizado puede descartar un currículum sin que quien lo utiliza sea capaz de explicar las razones de esa decisión.

Es precisamente ahí donde intervienen las matemáticas. «Mediante la optimización matemática, nosotros calculamos cuáles son los mínimos cambios que debería hacer el individuo para que la decisión hubiera sido favorable», explica. Su investigación, sin embargo, no se limita a ofrecer explicaciones para casos individuales. Ramírez-Ayerbe ha extendido estas herramientas a situaciones más complejas en las que se analiza el comportamiento del algoritmo sobre grupos de personas. «Vamos más allá del caso individual y también analizamos cómo se comporta globalmente, lo que permite auditar los algoritmos y ver si están siendo injustos con ciertos colectivos».

El objetivo es desarrollar modelos matemáticos suficientemente generales para utilizarlos en escenarios diversos, incluidos aquellos en los que los datos evolucionan en el tiempo o existe incertidumbre. «Cada vez más utilizamos algoritmos complejos que afectan al individuo en situaciones de alto riesgo y alto impacto. Estos algoritmos pueden ser muy precisos, pero necesitamos que sean explicables y transparentes si queremos adoptar sus decisiones».

Para Ramírez-Ayerbe, esa exigencia de transparencia debe avanzar al mismo ritmo que la propia inteligencia artificial. La capacidad de procesar millones de datos permite construir sistemas cada vez más precisos, pero también incrementa su complejidad hasta el punto de que, advierte, puede llegar un momento en el que «ni siquiera el modelador sepa entender por qué se ha tomado esa decisión».