por Contenidos
Los beneficios que brindan la inteligencia artificial y el aprendizaje automático están bastante bien establecidos. La tecnología puede ayudar a las empresas a automatizar procesos, adquirir conocimientos a través del análisis de datos e interactuar con clientes y empleados. Y puede ayudarlos a satisfacer las necesidades de un mercado en constante cambio, optimizar los costos operativos y mantenerse competitivos en un mundo digital cada vez más acelerado.
El papel de los recursos humanos en la comprensión y mitigación del sesgo de la IA
Hoy en día, muchos de los principales proveedores de la nube incluso ofrecen capacidades de inteligencia artificial dentro de sus paquetes de servicios, lo que democratiza la tecnología para las empresas que, de otro modo, tendrían dificultades para pagar costosos ingenieros de inteligencia artificial y científicos de datos internos.
Para los equipos de RR.HH., el valor de la inteligencia artificial es innegablemente claro. Cuando una sola publicación de trabajo da como resultado cientos o incluso miles de solicitantes, revisar manualmente cada currículum es una tarea monumental y, a menudo, poco realista. Al aprovechar la inteligencia artificial y las tecnologías de aprendizaje automático, los equipos de recursos humanos obtienen la capacidad de evaluar candidatos a gran escala y hacer recomendaciones de contratación mucho más eficientes.
Las ramificaciones del sesgo inducido por la IA en los recursos humanos son significativas
Si bien la IA ofrece beneficios bastante obvios para los grupos de recursos humanos, también presenta algunos desafíos bastante serios y posibles trampas. Con cualquier sistema de inteligencia artificial, uno de los aspectos más difíciles (pero críticos) que debe abordar directamente es asegurarse de que esté libre de sesgos.
Esto es particularmente crucial para los sistemas de inteligencia artificial para recursos humanos, ya que cualquier sesgo inducido por la inteligencia artificial puede llevar a las empresas a discriminar a los candidatos calificados, a menudo sin saberlo.
¿Recuerda cuando Amazon tuvo que abandonar su sistema de inteligencia artificial para la revisión de currículums hace varios años porque penalizaba a las candidatas? Es un ejemplo perfecto, aunque desafortunado, del poder de los datos de entrenamiento. En ese momento, la mayoría de los empleados de Amazon eran hombres, por lo que el algoritmo que impulsaba el sistema de inteligencia artificial entrenado en datos de la compañía era asociar aplicaciones exitosas con palabras orientadas a las personas.
Al hacerlo, el modelo simplemente pasó por alto a las candidatas bien calificadas. La lección: si los datos utilizados para entrenar sus modelos de IA están distorsionados, el sistema de IA distribuido también estará distorsionado. Y seguirá reforzando ese prejuicio de forma indefinida.
Tanto los sistemas de IA subcontratados como las culturas corporativas requieren una mirada más cercana
En el caso de Amazon, el sistema de inteligencia artificial para la selección de currículums se construyó internamente y se entrenó con los datos de los candidatos al puesto de la empresa. Pero la mayoría de las empresas no tienen los recursos para crear sistemas internos de inteligencia artificial para sus departamentos de recursos humanos. Por lo tanto, los equipos de recursos humanos están subcontratando cada vez más a proveedores como Workday o Google Cloud. Desafortunadamente, con demasiada frecuencia, también subcontratan su debida diligencia.
Es más importante que nunca que los equipos de recursos humanos reconozcan la tremenda responsabilidad que conlleva la subcontratación de cualquier implementación de IA. No acepte e implemente ciegamente los modelos de su proveedor de inteligencia artificial. Usted y sus equipos deben revisar repetidamente los sistemas para asegurarse de que no estén sesgados. Tienes que preguntarte constantemente:
- ¿Qué fuentes de datos (o combinación de fuentes de datos) se utilizan para entrenar los modelos?
- ¿Qué factores específicos utiliza el modelo para tomar sus decisiones?
- ¿Los resultados obtenidos son satisfactorios o hay algún problema? ¿Es necesario apagar temporalmente el sistema y volver a evaluarlo?
Por lo tanto, es esencial revisar cuidadosamente los datos de entrenamiento, particularmente dentro de los sistemas de IA subcontratados. Pero ese no es el único requisito para mitigar el sesgo: los datos sesgados provienen de entornos laborales sesgados.
Por lo tanto, sus equipos de recursos humanos también tienen el deber de evaluar cualquier sesgo o problema injusto dentro de su organización. Por ejemplo, ¿los hombres tienen más poder que las mujeres en la empresa? ¿Qué conducta cuestionable se ha considerado aceptable durante mucho tiempo? ¿Se les da a los empleados de grupos subrepresentados todas las oportunidades para tener éxito?
La diversidad, la equidad y la inclusión de la cultura de su empresa son absolutamente relevantes cuando se incorpora la IA, porque guía cómo se implementarán los sistemas y los resultados de la IA. Recuerde, la IA no sabe que está sesgada. Depende de nosotros resolverlo.
Tres mejores prácticas para aprovechar la IA de manera justa y sin prejuicios
En última instancia, los equipos de recursos humanos deben poder comprender lo que sus sistemas de inteligencia artificial pueden y no pueden hacer. Ahora, sus equipos de recursos humanos no tienen que ser expertos en tecnología o comprender los algoritmos que impulsan los modelos de IA.
Pero necesitan saber qué tipos de sesgos se reflejan en los datos de entrenamiento, cómo los sesgos están integrados en las culturas corporativas y cómo los sistemas de inteligencia artificial perpetúan esos sesgos.
A continuación, se muestran tres mejores prácticas tácticas que pueden ayudar a sus equipos de recursos humanos a aprovechar la tecnología de inteligencia artificial de manera justa e imparcial.
- Compruebe el sistema de inteligencia artificial con regularidad. Ya sea que sus sistemas se construyan internamente o se subcontraten a un proveedor, revise periódicamente los datos recopilados para entrenar los modelos y los resultados producidos. ¿Es el conjunto de datos lo suficientemente grande y variado? ¿Incluye información sobre grupos protegidos, incluida la raza y el género? No dude en apagar el sistema para cambiar de rumbo si los resultados no son satisfactorios.
- Comprender la cadena de suministro de datos. Cuando confía en sistemas de inteligencia artificial subcontratados, reconoce que los datos de capacitación pueden reflejar el sesgo del proveedor o el sesgo de los conjuntos de datos de terceros. Mantén tus ojos abiertos.
- Use IA para aumentar, no reemplazar. Las capacidades de la IA están avanzando rápidamente, pero la realidad es que la IA aún no se ha gestionado. Debido a los riesgos involucrados, los equipos de recursos humanos deben aprovechar la inteligencia artificial para aumentar su función, no reemplazarla. Los seres humanos aún tienen que tomar decisiones finales sobre contratación y recursos humanos.
Con la ayuda de la inteligencia artificial, los equipos de recursos humanos pueden descubrir desigualdades comerciales
Sus equipos de recursos humanos están en una posición única para aprovechar la tecnología de inteligencia artificial de manera justa e imparcial porque ya están bien versados en problemas sistémicos de prejuicio e inequidad.
Reconozca la responsabilidad que requieren los sistemas de inteligencia artificial y trabaje constantemente para comprender cómo se forman y producen resultados.
Cuando se hace correctamente, la IA ayudará a sus equipos de recursos humanos a descubrir sesgos en lugar de perpetuarlos, mejorará la eficiencia y la eficacia de las tareas de recursos humanos y promoverá las carreras de candidatos dignos y empleados estimados.
Crédito de la imagen: rodnae productions; pexel; ¡gracias!
