“El objetivo de las matemáticas es abrir las cajas negras de la inteligencia artificial”

Paula Gordaliza Pastor explica cómo emplea la probabilidad, la estadística matemática y la teoría del transporte óptimo para detectar, controlar y corregir los sesgos presentes en los algoritmos de inteligencia artificial. Su investigación propone métodos para reparar bases de datos afectadas por variables sensibles como el sexo, la raza o la edad, buscando un equilibrio entre la equidad y la precisión de los modelos. Ante la creciente utilización de algoritmos para conceder créditos, seleccionar personal o recomendar tratamientos médicos, Gordaliza destaca la necesidad de desarrollar sistemas justos, fiables, interpretables y robustos que permitan abrir las «cajas negras» de la inteligencia artificial y reforzar la confianza de la sociedad en esta tecnología.

Gordaliza ha sido galardonada con uno de los Premios de Investigación Matemática Vicent Caselles 2023 por sus aportacione

Paula Gordaliza Pastor explica cómo emplea la probabilidad, la estadística matemática y la teoría del transporte óptimo para detectar, controlar y corregir los sesgos presentes en los algoritmos de inteligencia artificial. Su investigación propone métodos para reparar bases de datos afectadas por variables sensibles como el sexo, la raza o la edad, buscando un equilibrio entre la equidad y la precisión de los modelos. Ante la creciente utilización de algoritmos para conceder créditos, seleccionar personal o recomendar tratamientos médicos, Gordaliza destaca la necesidad de desarrollar sistemas justos, fiables, interpretables y robustos que permitan abrir las «cajas negras» de la inteligencia artificial y reforzar la confianza de la sociedad en esta tecnología.

Gordaliza ha sido galardonada con uno de los Premios de Investigación Matemática Vicent Caselles 2023 por sus aportaciones al aprendizaje automático equitativo y por establecer fundamentos matemáticos que permiten analizar y corregir los sesgos algorítmicos.