La amenaza invisible del ‘compliance’ digital

No existe conciencia en las empresas de que ese software tan moderno y aparentemente inocente para gestionar al personal les está poniendo en la diana de la AESIA

La recién creada Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), escondida entre unos propósitos que —con gran marketing— se ven más que loables, se prepara sin prisa pero sin pausa, agazapada pacientemente, a comenzar la cacería.

Lo vimos en su momento con la AEPD, que comenzó siendo aquel chaval pánfilo de la escuela al que era posible ignorarle y pegarle una colleja a la vez sin que tal paradoja quebrase la lógica infantil, y que acabó convirtiéndose en el matón del barrio con el que al cruzarte te temblaban las canillas y acababas dándole el bocadillo del recreo y el par de monedas del bolsillo que tu madre te había dado como paga semanal para comprar un Donut a la salida.

Con la AESIA, la historia se repite. Ahí está. Casi nadie lo sabe, pero ahí está. Escondida en tierras gallegas, y a la espera de encontrar una sede con propósito de permanencia, va dedicando su pequeño presupuesto a incrementar paulatinamente su plantilla y a elaborar notas informativas en su web. Al menos, es lo que muestra… por ahora. Porque llegará un momento en que, como ocurrió con la AEPD, deberá subsistir gracias a lo recaudado por las sanciones que vaya imponiendo, y habrá un nuevo matón en el barrio.

¿Y las víctimas? Pues las habrá de todo tipo: desarrolladores de sistemas de IA, empresas que implementan internamente software basado en IA, fabricantes que incorporan la IA a sus productos… No importa si son entidades grandes o pequeñas startups.

Muy probablemente los desarrolladores tomen conciencia más pronto que tarde del tsunami de obligaciones que les impone el Reglamento Europeo de IA (AI Act) y lo acaben introduciendo en su proceso productivo, pues es algo esencial para su negocio y supervivencia. Sin embargo, las empresas que van a implementar en sus procesos internos el uso de la IA, especialmente en lo relativo a la gestión de los recursos humanos, están más preocupados por no quedarse atrás y subirse ya al tren de esta nueva tecnología para poder gritar en LinkedIn que son modernas, disruptivas e innovadoras, que por cumplir obligación y normativa alguna.

Y es que, a decir verdad, no existe conciencia en las empresas de que ese software tan moderno y aparentemente inocente para gestionar al personal les está poniendo en la diana de la AESIA. No importa si la herramienta está diseñada para mejorar la situación laboral de los empleados, ni si permitirá la adopción de decisiones más justas, ni si posibilitará reconocimientos personales o mejoras en el ambiente de trabajo. Porque para el Reglamento Europeo de IA, y para la AESIA como organismo responsable de asegurar su cumplimiento en España, se concibe la IA como un peligro. Es irrelevante si se plantea su uso con una finalidad loable y plausible; siempre y en todo caso es un riesgo.

Es incontestable que la moda de usar programas basados en tecnología con IA ha llegado a las empresas para quedarse. Podemos hablar de herramientas destinadas a los procesos de selección de personal, que facilitan el análisis de los currículums para elegir o descartar candidatos. Podemos hablar de sistemas de control y gestión de emociones de los empleados que pretenden mejorar su bienestar en el trabajo. Podemos hablar de programas que ayudan a mandos intermedios o superiores en la organización de turnos o ritmos de trabajo. Podemos hablar de software que facilite la toma de decisiones a los responsables de recursos humanos en cuestiones tan sensibles y relevantes como las promociones profesionales o los incrementos retributivos.