Los controles de la IA laboral deben adaptarse a las consecuencias de los errores

Las organizaciones deberían adaptar las medidas de protección de la IA laboral al daño potencial de un resultado incorrecto, en lugar de aplicar una política uniforme. La redacción rutinaria puede requerir solo comprobaciones puntuales, mientras que el trabajo asistido por IA que afecte al empleo, las finanzas, los clientes o los datos regulados necesita una revisión humana trazable y procesos de aprobación más estrictos.

Los errores se convierten en decisiones empresariales

El riesgo principal no es únicamente que la IA generativa produzca información falsa. El problema aparece cuando los empleados tratan un resultado verosímil como si fuera una autoridad y lo incorporan a procesos relevantes sin comprobar las fuentes primarias. El artículo menciona como ejemplo el caso de abogados estadounidenses sancionados en 2023 después de presentar documentos legales con citas inventadas por ChatGPT, una muestra de cómo un resultado no verificado puede llegar a un entorno de alto riesgo.

Las organizaciones también necesitan saber qué información introducen sus empleados en los servicios de IA. Los datos personales, financieros o corporativos sensibles pueden generar riesgos de privacidad, cumplimiento y seguridad al entrar en una plataforma externa, especialmente cuando el personal utiliza herramientas que la empresa no ha aprobado ni supervisado.

Controles basados en las consecuencias

Una instrucción universal para verificar cada respuesta de IA puede hacer perder tiempo en tareas de bajo riesgo y, al mismo tiempo, ofrecer una estructura insuficiente para las decisiones importantes. La alternativa propuesta es una supervisión escalonada: la lluvia de ideas interna, los primeros borradores y el apoyo a la investigación pueden recibir una revisión más ligera, mientras que las decisiones laborales, el trabajo financiero y los contenidos dirigidos a clientes requieren aprobación formal, supervisión continua y criterio humano responsable.

Este enfoque depende de identificar dónde se utiliza ya la IA, localizar las herramientas no aprobadas y ofrecer alternativas autorizadas. Las normas deben establecer con claridad qué sistemas puede utilizar el personal, qué datos puede introducir y quién conserva la responsabilidad cuando un resultado asistido por IA es incorrecto.

La regulación eleva las exigencias

El artículo señala que los requisitos de transparencia de la Ley de IA de la UE son aplicables desde el 2 de agosto de 2026 y obligan a las organizaciones incluidas en su ámbito a abordar las interacciones con la IA, el contenido generado o manipulado y la alfabetización del personal en materia de IA. Según el texto, las infracciones de esos requisitos de transparencia pueden acarrear multas de hasta 15 millones de euros o el 3 % del volumen de negocios anual total. El RGPD y los requisitos pertinentes de la FCA pueden añadir obligaciones cuando la IA procesa datos personales.

La formación debe reflejar el trabajo real

La investigación de MetaCompliance citada en el artículo concluyó que el 40 % de los responsables de seguridad de la información teme que los empleados compartan información sensible con plataformas de IA generativa, mientras que el 68 % identifica a los empleados como el mayor riesgo cibernético de su organización. También señala que el 81 % considera que la formación de concienciación sobre seguridad fracasa porque es demasiado genérica para resultar relevante.

La respuesta recomendada es una formación específica para cada función, vinculada a decisiones reales e integrada con rutinas para comprobar las fuentes y reconocer el sesgo de automatización. Estas medidas no pueden eliminar las alucinaciones, pero sí hacer explícita la responsabilidad de verificar y ayudar a las organizaciones a detectar dónde un resultado inexacto podría incorporarse a un proceso empresarial.

Ilustración editorial generada con IA; no es una fotografía documental.

Fuente: What happens when AI is confidently wrong in the workplace?