Esta situación abre un debate ético y legal sobre el uso de algoritmos para buscar nuevo personal. ¿Puede una inteligencia artificial decidir mejor que una persona al contratar? ¿Qué ocurre cuando una máquina es incapaz de predecir o detectar ciertas aptitudes de una persona, junto a otras variables, que la harían el candidato perfecto para el puesto de trabajo?

Los límites de la inteligencia artificial

La Ley de Derechos Civiles de 1964 de Estados Unidos prohíbe tomar de decisiones en la contratación que discriminen por sexo o raza. La preocupación que existe a día de hoy es que algunos algoritmos sean capaces de potenciar la parcialidad del pensamiento de una persona, obvio está, hablando de aquella encargada del proceso de contratación.

Un ejemplo de un algoritmo que practicaba la discriminación fue retirada por Amazon en el año 2018 porque, según la agencia Reuters, filtraba currículums atendiendo a pasadas contrataciones y acababa discriminando a las mujeres.

Hoy, la ciudad de Nueva York quiere actualizar las reglas por las que se rige una contratación laboral. La ley exigiría que las compañías que utilicen algún algoritmo para ampliar su plantilla puedan ser auditadas para asegurar una completa imparcialidad en cuanto a la discriminación.

El uso de algoritmos en otros ámbitos de la vida esta siendo puesto en cuestión, sobre todo a raíz de las informaciones recibidas sobre la manipulación mediante fake news en las redes sociales, o el uso o venta de datos de los usuarios en otros servicios sin su pleno conocimiento.

Tal es la preocupación que, en Estados Unidos, más de una docena de ciudades ha prohibido la posibilidad de que el gobierno haga uso de tecnologías de reconocimiento facial. Otras leyes quieren reducir el poder de los algoritmos y de la inteligencia artificial en la toma de decisiones, mientras que la preocupación crece por evitar la discriminación de aquellos más marginalizados debido a la situación de crisis económica que ha dejado la pandemia de la COVID-19.

¿Cómo puede un algoritmo discriminar o ser parcial?

La pregunta es simple: ¿los algoritmos previenen la discriminación y la parcialidad o la aumentan? Como en muchos otros ámbitos, existen dos bandos diferenciados que apoyan o rechazan el uso de la inteligencia artificial en procesos tan sensibles como la contratación laboral.

Muchos esperan que los algoritmos sean capaces de ayudar a los humanos a superar nuestros propios prejuicios y realizar un proceso de selección más imparcial, sin tener en consideración nuestras propias debilidades, pasado o aprendizajes erróneos. Pero, como ya comentamos en el artículo relacionado con el machine learning, cualquier variable que no se haya predicho puede provocar unos efectos inesperados e incluso amplificar nuestros propios prejuicios hasta límites insospechados.

Por mucho que la inteligencia artificial nos ayude a tomar decisiones, al final, tomamos una parte considerable en la contratación. No es tan sencillo como hacer que todo el proceso sea analizado por un algoritmo. Los argumentos que defienden que solo la IA puede tomar parte en ello se caen por su propio peso. Para poder entender cómo un algoritmo puede discriminar a un demandante de empleo, es necesario ir paso a paso y comprender el análisis en su conjunto con estos ejemplos.

Envío de un currículum. Las tecnologías predictivas ayudan en la primera etapa, ya desde que participan para crear la vacante del puesto de trabajo en cualquier espacio online. La IA ayuda al demandante de empleo a enviar su currículum a las ofertas que más encajen con su perfil o con su historial más reciente. Esto no se distancia mucho de las recomendaciones personalizadas debido a la creación de nuestro «molde», tal y como mostró de manera muy acertada el documental The Social Dilemma de Netflix.

Anuncio destacado. Algunos empleadores utilizan un sistema para impulsar sus puestos vacantes y destacarlos entre la competencia. Estos sistemas, que también funcionan por algoritmos, pueden discriminar con predicciones superficiales. ¿Por qué? Por lo mismo que hacemos clic en un vídeo recomendado de YouTube, porque calculan quién es la persona más propensa de visitar ese anuncio, pero no si será el más capacitado para el trabajo. Indirectamente, estos algoritmos pueden hacer que se discrimine por sexo o por raza, mostrando los anuncios a unos u a otros dependiendo del perfil y amplificando prejuicios.

Sin derecho al olvido. A ninguno de nosotros nos gustaría que se tomasen demasiado en cuenta los errores de nuestro pasado, pero algunos algoritmos analizan este hecho basándose en que ellos estarían más capacitados para ser imparciales en este punto. Cuando el empleador está intentando encaminar su mentalidad a algo más diverso e inclusivo, es posible que, con la instalación de esta IA, esté haciendo precisamente lo contrario.

Gamificación. El tema de la gamificación es un asunto complejo, y existen herramientas que aseguran medir la resiliencia, productividad y rendimiento de una persona, pero sin tener en cuenta otras muchas variables que pueden afectar al todo de una persona, cambiando por completo todos los esquemas que se forman de ella. Al igual que en otros pasos, la diferenciación entre personas de alto y bajo rendimiento puede llevar a la discriminación dentro del mismo puesto de trabajo con datos que provienen de prejuicios racistas, sexistas o de cualquier otra forma de discriminación que no se vea a simple vista.

No hay una sola respuesta para el uso de la inteligencia artificial en una contratación. Las tecnologías que se usan en la actualidad son muy nuevas y falta mucha investigación para aclarar si existe discriminación indirecta por parte de ellas, incluso si hay personas que afirman que ayudan a evitarla. Por desgracia, nada es tan sencillo

Fuente:https://inmario.com/2021/03/12/algoritmos-en-la-contratacion-laboral-una-batalla-etica-y-legal/