¿Es posible eliminar por completo la discriminación y la desigualdad en la IA?

En la sociedad actual dominada por la evolución en las distintas disciplinas del conocimiento y los adelantos tecnológicos destaca de manera particular la introducción de la llamada Inteligencia Artificial en la vida de las personas, y digo en la vida porque esta nueva tecnología la encuentras hasta en la sopa, aunque no seamos conscientes de ello en muchas ocasiones. También son archiconocidos los problemas de discriminación que se producen a raíz de los distintos sesgos inherentes a los algoritmos que se construyen y que ya están analizados y categorizados, por lo que no voy a entrar en plantear situaciones y ejemplos que se pueden encontrar en miles de artículos y noticias que tratan esta cuestión. En mi caso quería hacer una reflexión sobre la viabilidad de eliminar de forma total la posibilidad de introducir cualquier atisbo de discriminación en las diferentes aplicaciones y uso que te ofrece la IA.

 

Partiendo sobre la base de que estos sistemas avanzados están construidos por personas o empresas no exentas de poseer prejuicios, estereotipos o, cuando menos, objetivos particulares, gustos y preferencias, se antoja complicado conseguir la objetividad absoluta. Es cierto que desde la aparición de los primeros algoritmos de IA con aplicaciones interesantes para el ser humano se ha avanzado de manera considerable en la disminución de errores motivados por cualquier tipo de sesgo, con especial incidencia en aquéllos que pueden provocar desigualdades y discriminación (al principio todo parecía orientado a personas de raza blanca con cierto status económico y social, ya que respondía al perfil de los propios creadores de esta tecnología). Evidentemente estamos hablando de una discriminación indirecta sin un deseo o intención previa, pero real. En muchos casos podría tratarse de un tipo de discriminación por asociación o simplemente por error del propio algoritmo por hacer inferencias o extrapolaciones, que desde un punto de vista matemático / estadístico serían correctas, pero desde el punto de vista de trato igualitario no cumple las expectativas.

 

Y aquí reside el problema que en mi opinión hace harto complicada la erradicación completa de la discriminación. Si la mayoría de estos sistemas se basan en el procesamiento de muestras reales (con los que se entrenan) y/o datos estadísticos, y resulta que esos datos ya están "pervertidos" desde la óptica de la igualdad (por ejemplo, horas de baja por maternidad o paternidad, sueldo medio de los trabajadores, niveles de productividad, opiniones sobre el servicio ofrecido etc... suelen perjudicar a las mujeres en mayor medida que a los hombres por distintos factores ya comentados como prejuicios, estereotipos, genética, costumbre / herencia histórica...). Por otro lado, hacer "conscientes" a esos algoritmos de IA de este hecho para equilibrar el posible sesgo discriminatorio introducido puede conducir a falsificar la obtención de los resultados con lo que dejarían de ser precisos (algo similar al principio de incertidumbre del método científico introducido por el hecho de medir).

En definitiva, no bastaría con hacer un reset en la mentalidad de la sociedad para borrar todos esos estereotipos y prejuicios adquiridos, sino también en los propios datos históricos almacenados sobre los que opera la tecnología para partir de una situación de inexistencia de desigualdad y discriminación. Si lo primero es difícil de conseguir, lo segundo me parece aún más. Por ello creo que, en tanto en cuanto no lleguemos a esa situación ideal de partida, resulta imprescindible que el control, tanto de los datos o muestras que se utilicen para el entrenamiento de estos modelos de IA como de la interpretación de los resultados obtenidos, estén siempre bajo la tutela de los organismos competentes de materia de igualdad de trato y no discriminación, además de realizar otro tipo de supervisión para garantizar cuestiones de seguridad, privacidad, moralidad o ética. Quizá esto no suponga una solución inmediata al problema pero sí ayude a constituir una base sobre la que construir y evolucionar la tecnología.