Claves para que la IA no sea edadista: vigilar los sesgos, diseño más inclusivo y hacer auditorías
Expertos creen que es posible detectar los sesgos edadistas con el foco y formación adecuados
Esta semana la Inteligencia Artificial (IA) ha mucho que hablar después de que el Papa León XIV alertase de sus peligros en su primera encíclica y tras la aprobación de un proyecto de ley por parte del Gobierno de España para "buen uso y gobernanza" de la IA con multas de hasta 35 millones. Un asunto sobre el que 65YMÁS lleva tiempo alertando y que además puede suponer peligros adicionales para las personas mayores ya que, según los expertos, lejos de ser una herramienta neutra, la IA está contribuyendo a amplificar la discriminación por edad en diversos ámbitos debido a sus sesgos edadistas.
Frente a esta realidad, los expertos consultados por 65YMÁS urgen a tomar medidas y apostar por un enfoque más ético y humano en el diseño y desarrollo de esta tecnología, abogando por la inclusión de diversos perfiles de desarrolladores, la supervisión humana y auditorías, así como la participación de los mayores para poder evitar los sesgos edadistas. Distintos especialistas insisten en que no se trata de un simple error técnico, ni de un mal funcionamiento puntual del algoritmo. "Más bien, la IA actúa como un espejo amplificado de las estructuras sociales preexistentes y lo copia", destaca la investigadora del Centro Internacional sobre el Envejecimiento (CNIE) Irene Lebrusán Murillo. Para combatir este problema, los expertos llaman a abordar tres aspectos clave: los datos con los que aprende la máquina, las decisiones de diseño de los desarrolladores y la propia invisibilidad de las personas mayores tanto en la sociedad como en el mundo tecnológico.
Hacer visibles a los mayores invisibles
Uno de los puntos de dolor que apuntan los expertos es que la Inteligencia Artificial se entrena con datos históricos de poblaciones más jóvenes y poco diversas, marginando con frecuencia a las personas mayores. Para solucionar este vacío, Vânia de la Fuente-Núñez (@DrVdelaFuente), experta en envejecimiento y una de las redactoras del informe Edadismo en la Inteligencia Artificial de la Organización Mundial de la Salud (OMS) propone garantizar la recuperación de datos sobre personas mayores, lo que implica la "forzar un sobremuestreo si un grupo en particular está subrepresentado".
En este sentido, propone más transparencia y la creación de "cooperativas de datos", que ya está surgiendo en países como Suiza, en las que se establecen estándares sobre cómo se recopila la información y empodera al ciudadano para que tenga voz y decida "sobre la información que se utiliza" y a quién se le da acceso. Estas cooperativas podrían asegurar que se recogen datos adecuados sobre las personas mayores y que se utilizan de forma beneficiosa. De la Fuente propone además fomentar la participación de los mayores en el diseño de estas tecnologías. "Esto significa que no basta con incluir a un único perfil de persona mayor, sino que se debe abarcar la diversidad real del colectivo, incluyendo a hombres, mujeres y personas con diferentes realidades o discapacidades", sugiere.
Más ética y diversidad entre los creadores
Un reciente estudio de la Universitat Oberta de Catalunya (UOC) ha demostrado que, si bien la IA generativa evita el sexismo, todavía discrimina por edad. La investigadora Mireia Fernández-Ardèvol explica que esto sucede porque los creadores tienen más interiorizado que el sexismo es incorrecto frente al edadismo. De ahí que para ella la solución pase por que las empresas que diseñan y programan estas herramientas incorporen "mayor justicia social y acaben con el edadismo en sus sistemas". Para ello propone corregir los sesgos con "datos diversos, auditorías éticas y una responsabilidad activa en el desarrollo tecnológico".
En esta misma línea, Andrea Rosales, autora del estudio pionero sobre Edadismo generativo: cuando la IA generativa refuerza los estereotipos de edad, también de la UOC, coincide en la urgencia de diversificar el perfil de los creadores, alertando de que "entre los equipos que crean las aplicaciones debería haber un cierto nivel de diversidad para que desde el origen se tuvieran en cuenta diferentes perspectivas". Frente a la creciente integración de la IA en la vida diaria, Rosales destaca que hace falta "mucha pedagogía sobre los algoritmos para que la sociedad en general sea más consciente de a qué nos enfrentamos".
Crear auditorías de algoritmos y supervisión humana
Laura Rosillo, experta en Gestión de la Edad, sugiere también "hacer continuamente auditorías a los algoritmos" para detectar los posibles casos de edadismo y "montar equipos de desarrollo de inteligencia artificial intergeneracionales". Además, aboga por alimentar los modelos "con bases de éxito de talento sénior para romper el prejuicio de correlación entre innovación y juventud" en ámbitos como los RRHH. Mientras la tecnología madura, Rosillo recomienda a las empresas "forzar el sesgo" de forma positiva, introduciendo instrucciones que exijan explícitamente a la IA valorar las "ventajas de la contratación de talento sénior", para que no excuyan automáticamente a los perfiles de más edad, además de la siempre necesaria supervisión humana.
Por su parte, Marisa Cruzado, coordinadora del Libro Blanco del proyecto IA+Igual llama por empezar a formar grupos de trabajo multidisciplinares que acompañen a los técnicos programadores y aporten conocimientos "desde el punto de vista normativo, de protección de datos, de igualdad, y también sobre edadismo", creando certificaciones que garanticen que son tecnologías inclusivas. "No hay que tenerle miedo a la IA, sino empezar a tomárse este asunto en serio y crear sellos y auditorías que acrediten al ética de estas tecnologías". En la misma línea, Eduardo César Garrido, profesor de Comillas ICADE y experto en IA se suma a la petición de "una acreditación o un sello que asegure que la IA no tiene sesgos edadistas". Además, defiende que las organizaciones pueden optar por utilizar modelos de IA de código abierto y pasarles sus propios "refinamientos técnicos para evitar este tipo de sesgos", logrando así una inteligencia Artificial propia y controlada.
Más seguridad y protección frente a la discriminación
Desde una perspectiva de impacto social, Richard Benjamins, CEO y cofundador de OdiseIA, organización centrada en el impacto ético de la IA que ha trabajado con colectivos como los mayores, apunta a que las empresas desarrolladoras deben centrar sus esfuerzos técnicos en crear guardrails o "medidas de seguridad". Se trata de límites en la programación pensados "para que el sistema no haga nada mal, para que no insulte" y para frenar respuestas explícitamente dañinas o discriminatorias. Si una vez detectado el sesgo la empresa no consigue solucionarlo y la herramienta no funciona bien para un colectivo, Benjamins defiende que la compañía "debe tomar la decisión ética de no lanzarla".
Desde la Cátedra en Innovación en Servicios Sociales y Dependencia de la UNED, su director el Antonio López, autor de la investigación Vulnerabilidad digital, inteligencia artificial y prácticas coercitivas añade que para evitar la exclusión tecnológica de las personas mayores "la clave está en codiseñar las aplicaciones para tener en cuenta las necesidades de las personas mayores, y sus características". Para López, resulta fundamental "la participación, que permita poner sobre la mesa las necesidades reales" de los usuarios. En este sentido, fuentes de Google destaca el papel fundamental del feedback ciudadano, ya que "el propio usuario tiene la capacidad de decir si el resultado que está obteniendo le gusta, no le gusta o identificar algún problema". Como ejemplo de buena práctica frente a la discriminación, sugiere que el usuario interactúe con la máquina dándole órdenes claras: "quiero que me generes este documento, pero no me incluyas, por ejemplo, sesgos de edad o de sexo".
Los mayores piden que se les tenga en cuenta
Por último, las principales organizaciones de personas mayores reclaman una participación activa en el diseño de la Inteligencia Artificial para garantizar un desarrollo tecnológico responsable, señalan desde la Plataforma de Mayores y Pensionistas (PMP) al exigir "aplicar buenas prácticas en el uso de estas herramientas en términos de ética" y recalcan que "la inteligencia artificial sólo será socialmente aceptable si se desarrolla con plenas garantías de equidad, transparencia y respeto a los derechos fundamentales", evitando específicamente casos de discriminación por raza, género o edad. En esta misma línea, José Luis, presidente la Confederación Española de Organizaciones de Mayores (CEOMA) defiende que se creen "sellos de certificación o proyectos orientados a auditar algoritmos para ver si tienen un comportamiento ético".
Desde la Confederación Estatal de Asociaciones y Federaciones de Alumnos y Exalumnos de los Programas Universitarios de Mayores en España (CAUMAS), que ya ha trabajado entrenando y corrigiendo bases de datos algorítmicas, concluyen que la IA, "adecuadamente dirigida, puede ser una herramienta de utilidad inclusiva", pero insisten en que "siempre se compruebe" su funcionamiento para asegurar que los derechos de los más vulnerables queden protegidos.
En este sentido, desde Fundación Matia, han desarrollado herramientas basadas en la Inteligencia Artificial para detectar el edadismo en texto e imágenes. Y señalan que uno de los mayores retos durante el proceso de creación fue que los desarrolladores tuvieron que "enseñar" previamente a la IA qué era el edadismo para conseguir que la herramienta respondiera sin connotaciones, ni sesgos propios". Y concluyen la IA puede ser "parte del problema" o una solución útil para combatir el edadismo "si se trabaja con criterios claros, se revisa y ajusta el enfoque durante el proceso, y se incorpora supervisión humana, mirada ética y sensibilidad hacia el edadismo".
