Cómo conseguir una IA ética en los RRHH

Los equipos de recursos humanos están adoptando cada vez más las aplicaciones de inteligencia artificial (IA) para ayudar a la contratación, la gestión del rendimiento, y la sucesión y asignación de tareas. Y todo ello ha desencadenado la necesidad de desarrollar normas de cumplimiento. Pero, como la tecnología ha avanzado más rápido que la normativa, las organizaciones se han encargado de autoevaluar la eficacia de sus aplicaciones de IA. Aunque eso está a punto de mejorar.

Con más regulaciones por delante por parte de los profesionales de RRHH, entender y guiar la tecnología IA en la dirección correcta será primordial para su éxito.

Nuevas normas

La Unión Europea ha propuesto un marco normativo que obliga a las organizaciones a cumplir con nuevas normas para adoptar la inteligencia artificial.
Según la propuesta, los sistemas de IA de alto riesgo requerirán supervisión humana y unos requisitos y medidas adecuados para que los usuarios entiendan cómo funciona el sistema.
Los sistemas de IA en RRHH harán recomendaciones que afectan a millones de personas y se encargará de influir en cuestiones personales como: ‘¿Voy a conseguir este trabajo o no?’ ‘¿Voy a conseguir este ascenso o no?’ ‘¿Voy a tener acceso a la formación adecuada?’. Y por eso se señala a los RRHH como de alta responsabilidad y, por tanto, de alto riesgo.
Aunque todavía no sabemos cuándo adoptará la UE el reglamento propuesto, las normas de cumplimiento van a ser más estrictas. Corresponde a las organizaciones considerar el riesgo y operar de forma ética, tanto si ya utilizan sistemas de IA, como si están pensando en adoptarlos.
Probando y supervisando la tecnología, desarrollando un profundo conocimiento de su funcionamiento y aumentando la transparencia sobre su utilización, los equipos de RRHH pueden beneficiarse de los sistemas de IA a la vez que protegen a su gente.

La gestión de riesgos de la IA en los RRHH de hoy en día

HireVue, una empresa de tecnología, es un ejemplo de una organización que está innovando rápidamente, pero que a su vez, está deteniendo el avance de la IA debido a la preocupación por los derechos humanos fundamentales.
La organización utilizaba antes la IA para evaluar visualmente la capacidad de contratación de un candidato durante entrevistas por vídeo. Tras reconocer que los datos no verbales apenas contribuían a la capacidad de predicción de la IA y la creciente preocupación por la posibilidad de que la tecnología contribuyera a un posible sesgo de género y racial, HireVue eliminó las expresiones faciales como factor en sus algoritmos. Las normas y regulaciones de cumplimiento basadas en el riesgo pueden ayudar a evitar estos problemas.

Categorizar correctamente los datos que recopila la IA

En Cornerstone, hay revisiones continuas de la calidad de los datos, así como del funcionamiento de los algoritmos, y se utiliza más de un tipo de cálculo para reducir el riesgo de sesgo.
Esta práctica nos proporciona una revisión humana y nos permite trabajar en la precisión del algoritmo. Si de repente nos damos cuenta de que la gente rechaza la salida del algoritmo en un porcentaje elevado, sabemos que algo va mal y podemos investigar.
El sistema de Cornerstone permite al equipo abordar de forma proactiva los problemas de riesgo y seguridad.

Preguntas que hay que hacer al examinar los sistemas de IA

Mientras que empresas como Cornerstone y HireVue están desarrollando IA directamente para los equipos de RRHH, muchos subcontratan herramientas a proveedores. Hacer estas preguntas puede ayudar a reducir el riesgo y mantener el cumplimiento:

• ¿Quién construyó la tecnología? ¿Cómo y de dónde provienen los datos?

Entender dónde y cómo se desarrolla la tecnología de IA puede permitir a los equipos de RRHH investigar el marco ético de su proveedor. Y saber de dónde provienen los datos puede darles más confianza y control sobre los resultados.

• ¿Qué controles y equilibrios existen para reforzar el recurso ético?

Preguntar al proveedor sobre sus controles y equilibrios proporciona a los equipos de RRHH la confirmación de que se están asociando con una organización comprometida con el uso ético. Conocer el proceso de pruebas del proveedor también les permite saber qué pruebas se realizan durante el desarrollo.

• ¿Cómo voy a utilizar la tecnología?

Si los equipos de RRHH se limitan a aceptar todas las recomendaciones del algoritmo, podrían no reconocer las desviaciones en los resultados. Se debe supervisar la tecnología de forma continuada. Los usuarios que la utilicen deben estar capacitados para identificar los sesgos.

• ¿Cómo utilizarán mis empleados la tecnología para detectar el sesgo?

Los usuarios deben observen los resultados de la IA y preguntarse: “¿cuál es la relación?”. Aunque no se pueda explicar en detalle cada recomendación individual, se puede exponer la lógica que hay detrás del sistema en su conjunto de una manera que todos lo entiendan.

La importancia de supervisar el algoritmo de la IA

Tanto los proveedores como los usuarios tienen un papel que desempeñar para garantizar que el uso de la IA sea ético y conforme a la normativa. Los proveedores deben probar la tecnología en busca de sesgos a lo largo del desarrollo, pero no hay forma de garantizar que vaya a ser 100% perfecta. Por eso, los usuarios también tienen la responsabilidad de seguir supervisando la tecnología de forma continua. Pueden producirse desviaciones que son muy difíciles de prever, por lo que es necesario probar la tecnología a medida que se construye, y supervisar la tecnología a medida que se utiliza.

Con más regulaciones por delante por parte de los profesionales de RRHH, entender y guiar la tecnología IA en la dirección correcta será primordial para su éxito.

Fuente: https://www.observatoriorh.com/opinion/como-conseguir-una-ia-etica-en-los-recursos-humanos.html