Después de unos minutos de silencio, Karim Akhlal se dio la vuelta. El joven de unos veinte años había ingresado a la agencia de empleo en busca de un trabajo de medio tiempo, pero el personal lo había ignorado desde su llegada. Sintiéndose incómodo, cerró la puerta detrás de él.
Aunque difícil de probar, Karim Akhlal podía adivinar el motivo del trato que recibió ese día. Como holandés marroquí, a menudo tuvo que lidiar con la discriminación en el mercado laboral. A veces por su apariencia (barba teñida, negra), a veces la mención de su nombre bastaba para un rechazo, según sus propias palabras.
Fuera de la agencia de empleo, Akhlal había decidido: voy a mostrar cómo se debe hacer el reclutamiento y la selección de personal. Ahora, más de quince años después, Akhlal, que ahora tiene 39 años, tiene su propia oficina, ubicada en una biblioteca reconvertida en Hoofddorp. Con su start-up Recrout, fundada en 2015, quiere hacer el mercado laboral ‘más justo’. Cuestiones como ‘origen, color y olor’ ya no deberían jugar un papel en el reclutamiento y selección de personal. Akhlal quiere lograr eso con la ayuda de la inteligencia artificial (IA).
Detrás de la silla en la oficina de Akhlal hay dibujos de un árbol frutal y una casa, dibujados por su hija Nora, de 7 años. Su plantilla, nueve empleados en total, está repartida por todo el mundo. “India, Mauricio, Ucrania…”, resume Akhlal. Nunca ha visto a algunos de los desarrolladores de software en la vida real, solo a través de la pantalla.
El software que vende Recrout gira en torno a la determinación de las competencias de los solicitantes. A los solicitantes de empleo se les presenta un cuestionario, que da como resultado puntajes que determinan el grado en que alguien tiene aptitud para ciertas habilidades como el liderazgo y la concentración. Luego, la computadora predice qué candidato se ajusta mejor a la vacante que tiene una empresa.
Recrout ciertamente no es la única empresa holandesa que ofrece tecnología de IA para procesos de reclutamiento y selección. Por ejemplo, está TextKernel, un jugador más importante en el mercado de la tecnología de reclutamiento, con más de 200 empleados y oficinas en los Países Bajos, Alemania, Francia y los EE. UU. la empresa utiliza aprendizaje profundo, donde la computadora aprende a reconocer patrones en los currículos y puede colocar fácilmente la información en un archivo grande. Esto le da al reclutador una visión general rápida de los posibles candidatos. Además, según el director Gerard Mulder, el software está capacitado «para entender lo que está escrito», incluso si alguien se expresa con otras palabras de significado similar, o incluso en un idioma diferente. Por ejemplo, ya no importa si alguien se registra como enfermero o enfermero enfermero para ser filtrado por la computadora.
O tome como ejemplo a Recruitee y RecruitNow, dos empresas que lanzaron sus primeras herramientas de inteligencia artificial en los últimos meses que los reclutadores pueden usar para escribir descripciones de puestos. También hay partidos como el estadounidense HireVue, que fabrica un software de video que se puede usar para evaluar las reacciones verbales y no verbales de un candidato durante la entrevista. Luego, el empleador recibe al candidato más adecuado en bandeja de plata desde la computadora.
‘en auge’
Por lo tanto, la aparición de la tecnología y los algoritmos de autoaprendizaje en los procedimientos de aplicación no es nueva. Sin embargo, este desarrollo se está acelerando, ve Akhlal. “La IA es en auge. Necesitamos ser conscientes de que no va a desaparecer y pensar en cómo podemos usarlo para nuestro beneficio mientras mantenemos el control”. Según Janneke Oostrom, profesora de psicología laboral y organizacional en la Universidad de Tilburg, el uso de la IA «sin duda» mejora la eficiencia en el reclutamiento y selección de personal. Por ejemplo, los sistemas pueden procesar rápidamente una gran cantidad de datos de la solicitud y herramientas como HireVue permiten a los candidatos grabar su solicitud de video en cualquier momento del día y ser evaluados de inmediato.
Pero, ¿realmente la solicitud de empleo será más justa mediante el uso de la IA? Eso es difícil de decir. “Todavía hay poca evidencia de esto”, dice Oostrom. Esto se debe principalmente al hecho de que se han realizado pocas investigaciones al respecto. “En el pasado, la atención se centraba principalmente en lo que experimenta el solicitante de empleo durante un procedimiento de solicitud de empleo que utiliza tecnología, y no si también funciona para predecir el comportamiento laboral futuro”.
Según Oostrom, los solicitantes tienen una sensación de injusticia más rápidamente en un procedimiento de solicitud de este tipo que cuando una persona revisa los currículos y realiza la entrevista. “No sabes cómo te juzgan. Con un procedimiento de aplicación humano tienes esa idea. Si bien se sabe con precisión que las personas tienen prejuicios, conscientes e inconscientes”.
El segundo punto es que no todas las empresas son capaces de explicar exactamente cómo funciona su tecnología. “Entiendo que afirmen que su algoritmo predice algo”, dice Oostrom. “Pero, ¿cómo se forma y construye? A menudo, esto es tan complejo que incluso el reclutador que comienza a trabajar con la tecnología, o el candidato que solicita un trabajo, no tiene idea”. Ella cree que las empresas harían bien en enviar el software de selección al Comité de Asuntos de Pruebas de los Países Bajos (COTAN), que puede proporcionar una respuesta definitiva sobre la calidad.
Lea también: Cómo la inteligencia artificial está poniendo en riesgo 300 millones de empleos
Cuando se da rienda suelta a la inteligencia artificial sin que quede claro en qué se basan las elecciones, las cosas pueden salir muy mal. Por ejemplo, Amazon eliminó su herramienta de aplicación de IA en 2015 porque se había dado cuenta de que los candidatos masculinos son más adecuados que las mujeres. La empresa de contratación de videos HireVue, que afirma ser capaz de predecir el comportamiento laboral futuro en función de las reacciones no verbales, fue el poste de washington llamado “pseudociencia” por los expertos. No solo sería dudoso que las expresiones faciales pudieran usarse para decir algo sobre las habilidades de alguien, la tecnología también perjudicaría a las personas nerviosas, a las personas que hablan en un idioma que no sea su lengua materna o a las personas con discapacidades (visuales). La compañía descartó las críticas como «desinformadas» en una respuesta.
En su oficina, el director de Recrout, Akhlal, califica de «justificable» la preocupación por la falta de transparencia sobre la tecnología. Las pruebas que utiliza han sido aprobadas por el COTAN mencionado por Oostrom. El algoritmo no ha sido (todavía) aprobado: «una auditoría externa es, de hecho, una tarea pendiente para nosotros».
Si depende de Akhlal, AI no se hará cargo de todo el trabajo del reclutador. “Como empleador, no debe confiar ciegamente en los resultados. Debería verlo como una primera herramienta de selección, después de lo cual una empresa puede entablar una conversación con un candidato que el sistema haya encontrado adecuado. El solicitante ya ha pasado el primer momento de selección en el que puede surgir un prejuicio sobre el color de la piel o el pañuelo”.
‘Llamar a la bocina’
Gerard Mulder de Textkernel también dice que tiene cuidado con el uso de IA en su tecnología. Toca otra preocupación sobre los algoritmos de autoaprendizaje: en la UE, las empresas están sujetas a una estricta legislación de privacidad de datos, lo que plantea la cuestión de si una empresa tiene suficientes datos de los solicitantes para entrenar el modelo lo suficiente. «A menudo son los reclutadores quienes incorporan sus propias ideas en el algoritmo, por lo que aún pueden ocurrir sesgos humanos».
Debido a la creciente atención por la inteligencia artificial, Akhlal también ve nuevas partes «enganchadas» que desarrollan tecnología de reclutamiento con la ayuda de la IA. “A los inversores les encanta”, dice. Según él, las empresas tecnológicas holandesas existentes son muy conscientes de que hay lados oscuros en la IA, pero un «carreras de ratas. Tenemos que mantenernos sobrios, lo que es realmente relevante para el objetivo que buscamos y lo que es un truco?” Según Akhlal, ahora se vuelve «aún más importante» que empresas como Recrout puedan demostrar al mundo exterior lo que dicen.
Mulder no teme que la proliferación de tecnología de reclutamiento de IA tenga un efecto negativo en su empresa, porque los excesos pueden ocurrir con más frecuencia que en Amazon. “Por supuesto, aún se desconoce el límite de lo que la IA puede hacer. También es cada vez más fácil crear herramientas utilizando software existente como ChatGPT. Pero antes de que la tecnología de contratación se utilice realmente, primero debe cumplir con muchas reglas, incluidas las de las propias organizaciones”.
“La inteligencia artificial ciertamente tiene el potencial de hacer que el mercado laboral sea más justo”, piensa el profesor Oostrom. Cuándo y cómo la IA tiene éxito, «sigue especulando». Según ella, un proyecto de ley ya aprobado que obliga a los empresarios a registrar por escrito el método de trabajo de reclutamiento y selección para promover la igualdad de oportunidades puede suponer un «gran cambio» en el mundo de la selección. “Las empresas de tecnología de reclutamiento pronto también tendrán que poder demostrar que su software previene la discriminación”.
Akhlal está convencido de que puede. Aunque también apuesta por un mercado laboral sin discriminación sin que Recrout haya desarrollado la tecnología decisiva para ello. “Si mi hija Nora entra pronto en un mercado laboral justo y yo he contribuido a ello, mi misión habrá tenido éxito”.
Una versión de este artículo también apareció en el periódico del 23 de mayo de 2023.