“La inteligencia artificial no tiene ninguna moralidad detrás”

Marc Serramià Amorós explica su investigación sobre sistemas multiagente y ética de la inteligencia artificial. Su trabajo desarrolla modelos capaces de generar normas para que varios agentes inteligentes actúen de acuerdo con valores humanos previamente definidos, de forma similar a como los límites de velocidad protegen la vida por encima del deseo de llegar antes a un destino. El investigador advierte de que los sistemas de inteligencia artificial se limitan a optimizar fórmulas matemáticas y, por tanto, necesitan mecanismos que eviten decisiones inesperadas o dañinas.

Serramià ha recibido el premio Investigadores Jóvenes Informáticos 2023 por sus contribuciones al desarrollo de una inteligencia artificial compatible con los valores humanos y las normas sociales. Entre los grandes retos pendientes destaca la alineación de los algoritmos, la mitigación de sesgos, la explicación

Marc Serramià Amorós explica su investigación sobre sistemas multiagente y ética de la inteligencia artificial. Su trabajo desarrolla modelos capaces de generar normas para que varios agentes inteligentes actúen de acuerdo con valores humanos previamente definidos, de forma similar a como los límites de velocidad protegen la vida por encima del deseo de llegar antes a un destino. El investigador advierte de que los sistemas de inteligencia artificial se limitan a optimizar fórmulas matemáticas y, por tanto, necesitan mecanismos que eviten decisiones inesperadas o dañinas.

Serramià ha recibido el premio Investigadores Jóvenes Informáticos 2023 por sus contribuciones al desarrollo de una inteligencia artificial compatible con los valores humanos y las normas sociales. Entre los grandes retos pendientes destaca la alineación de los algoritmos, la mitigación de sesgos, la explicación de las decisiones automatizadas y la regulación de aplicaciones de alto riesgo, especialmente en ámbitos militares.