Investigan evitar algoritmos discriminan mujeres

(ANSA) - BARCELONA 15 MAY - La exclusión de las mujeres en la recogida de datos biomédicos, como síntomas distintos de un ictus respecto a los hombres, lleva a errores de los algoritmos, que tratan ahora de ser evitados a través de estudios como los que lleva a cabo el biomédico italiano Davide Cirillo.
    "Lo que vemos en las investigaciones biomédicas es que las diferencias entre los dos sexos son muy evidentes. El desconocimiento de estas diferencias, como los síntomas del ictus, que son distintas entre hombres y mujeres, puede tener consecuencias catastróficas", dijo el experto en una entrevista con ANSA.
    Síntomas más conocidos como parálisis facial o dolor en el brazo suceden en hombres y mujeres, pero los síntomas de las mujeres pueden ser también otros, como náusea, cansancio, dolor de cabeza, que "han sido estudiados mucho menos y, por tanto, es más difícil para un médico reconocerlos", señaló.
    Así que "si se usan estos datos para entrenar la Inteligencia Artificial (IA) te dirá que es muy probable el dolor en el brazo como indicador de un ictus, pero esto no será así para todas las personas".
    Es lo que se conoce como el bias, o error sistemático, de un algoritmo.
    Ahora que se está debatiendo en la UE la regulación de la IA "no hay que olvidarse de los problemas relacionados con el bias", advirtió.
    Cirillo, nacido en Roma hace 38 años, participa desde el Centro Nacional de Supercomputación de Barcelona (BSC) en proyectos de investigación que solucionen este error, sobre el que ha escrito, junto con colaboradores internacionales, el primer libro científico de este tema, "Sex and gender Bias in Technology and AI" (Editorial Elsevier).
    "Estamos trabajando en técnicas estadísticas y de machine learning que permiten detectar y mitigar el bias", apuntó, subrayando que en el sector de la IA "hay mucha investigación sobre la 'explicabilidad', es decir, técnicas que permiten entender por qué un algoritmo toma las decisiones que toma, cuáles son las variables más importantes que el modelo está teniendo en consideración".
    Por ahora muchos de estos modelos son "cajas negras", es decir, muy difícil de entender y, por ende, propensos a errores.
    Cirillo pone en práctica las diferencias en los indicadores de ictus entre hombres y mujeres en un proyecto europeo llamado "AI-SPRINT", sobre el ictus, a través de relojes inteligentes que recogen información sobre la actividad cardiaca de personas sanas y de personas que sufrieron un ictus con el objetivo de "crear modelos de IA para proporcionar un mejor cuidado de la salud". (ANSA).
    Leggi l'articolo completo su ANSA.it