Viernes, 16 de noviembre de 2018

La sexista Inteligencia Artificial de Amazon

0

El gigante tecnológico desarrolló un programa de Inteligencia Artificial para agilizar el reclutamiento de empleados. Solo había un problema: el programa se volvió sexista.

Fuente: Alphr

Por Kevin Martínez (IBT) | 26 de octubre de 2018

En 2014, Amazon desarrolló una herramienta de Inteligencia Artificial (IA) con el propósito de facilitar el proceso de reclutamiento de empleados. Esta herramienta fue creada para analizar los currículos de cientos de aplicantes y seleccionar los mejores, sin embargo, la herramienta resultó tener un gran defecto: discriminaba a las aplicantes del sexo femenino.

La compañía se dio cuenta de este problema en el 2015 e intentó corregirlo, pero al no poder garantizar que se había eliminado el sesgo en contra de las mujeres, la empresa decidió abandonar el proyecto y “despedir” a la herramienta.

De acuerdo a fuentes dentro de Amazon, el problema fue que los desarrolladores utilizaron los currículos de empleados de los últimos diez años para entrenar a la IA, pero debido a que la mayoría de los empleados de Amazon son hombres, la IA concluyó que era más preferible contratar hombres que mujeres, especialmente en las áreas de carácter técnico y desarrollo de software.

La compañía se dio cuenta de esto debido a que la herramienta debía calificar los currículos en una escala de uno a cinco dependiendo del potencial del aspirante, pero a partir de 2015 la IA empezó a penalizar los currículos que contenían la palabra “mujer” o cualquiera de sus variantes, independientemente de su preparación, y les asignaba una menor calificación a los currículos que mencionaban instituciones educativas exclusivas para mujeres.

Esta situación deja en evidencia dos de los más grandes problemas actuales de la industria tecnológica: la gran desigualdad de género que aún existe en la industria y la dificultad de crear una Inteligencia Artificial imparcial.

Actualmente, las mujeres representan solo el 20% de la fuerza laboral en las áreas de ciencias, tecnología, ingeniería y matemáticas. La falta de mujeres en estos sectores no se debe a una falta de habilidad o a diferencias en el aprendizaje como a algunos les gustaría creer, sino a falta de oportunidades y ambientes laborales tóxicos.

En compañías como Apple, Facebook y Google las mujeres representan menos del 25% de la fuerza laboral en el ámbito técnico y en Amazon solo una mujer ocupa uno de los 18 puestos ejecutivos más importantes de la compañía. Con figuras como estas no resulta sorprendente que la Inteligencia Artificial creada por Amazon haya desarrollado tendencias sexistas.

Porcentaje de empleados de acuerdo al género de las empresas de tecnología más importantes del mundo. (Fuente: Reuters)

Por otro lado, el fracaso de esta herramienta también deja en evidencia lo difícil que es crear una Inteligencia Artificial libre de sesgos.

En los últimos años, otros casos como el algoritmo para detectar criminales que discriminaba a las personas de color o el chatbot de Microsoft que se volvió racista y sexista en menos de 24 horas ya habían demostrado que uno de los problemas más grandes a los que se enfrentarán los desarrolladores de IA será encontrar una manera de entrenar a los programas de IA para que no tengan sesgos en un mundo sesgado.

 

Todos los comentarios son revisados previo a su publicación. No serán aprobados los comentarios que contengan ataques y ofensas personales; agresiones racistas, sexistas o discriminatorias en general; ni publicidad o spam.