Las nuevas obligaciones de transparencia exigen saber dónde utilizamos IA, con qué datos y bajo la responsabilidad de quién.
La inteligencia artificial ha entrado en las empresas sin esperar a una decisión formal de la dirección.
Lo ha hecho a través de los asistentes de redacción, los generadores de imágenes, las transcripciones automáticas, los sistemas de atención al cliente y las funcionalidades incorporadas dentro del CRM, el ERP, las plataformas de marketing o las herramientas de productividad.
En muchas organizaciones, la IA ya redacta documentos, resume reuniones, clasifica información, prepara propuestas comerciales, responde consultas e interviene en procesos internos. Sin embargo, una parte significativa de estos usos no aparece en ningún inventario corporativo, no dispone de un responsable identificado y funciona sin criterios comunes de supervisión.
Esta distancia entre el uso real y el control empresarial adquirirá una nueva dimensión el próximo 2 de agosto, cuando empezarán a aplicarse las obligaciones de transparencia del artículo 50 del AI Act europeo.
La Comisión Europea acaba de publicar las directrices que aclaran su alcance. El principio que las articula es comprensible: las personas deben poder saber cuándo interactúan con determinados sistemas de inteligencia artificial o cuándo están expuestas a contenidos artificiales que pueden parecer auténticos.
Trasladar este principio a la realidad de una empresa, sin embargo, requiere mucho más que añadir un aviso al pie de una pantalla.
Antes de informar, es necesario saber qué está pasando
Imaginemos a una empresa que incorpora un asistente virtual a la web. El proyecto se contrata desde el departamento de marketing o atención al cliente y el proveedor se encarga de la configuración técnica.
Paralelamente, el equipo comercial utiliza herramientas generativas para preparar ofertas. Recursos humanos redacta comunicaciones con un asistente. Administración procesa documentos con una aplicación que incorpora funciones de IA. Varios profesionales crean textos, presentaciones o imágenes desde cuentas individuales.
Es posible que todas estas actividades sean legítimas y útiles. También es posible que la dirección no disponga de una visión completa sobre las herramientas utilizadas, los datos que se introducen, los proveedores que las procesan o los resultados que acaban llegando a clientes, trabajadores y colaboradores.
Ésta es la primera cuestión que plantea el nuevo escenario regulador. Una empresa difícilmente puede ser transparente sobre un sistema que no sabe que está utilizando.
Por eso, el primer paso no consiste en redactar una política genérica. Consiste en elaborar una fotografía fiable del uso real de la IA dentro de la organización.
¿Qué cambia a partir del 2 de agosto?
Las directrices europeas diferencian entre las obligaciones de los proveedores que desarrollan o comercializan sistemas de IA y las de las organizaciones que los utilizan.
Los proveedores de sistemas interactivos tendrán que garantizar que las personas sean informadas cuando estén interactuando directamente con una IA, salvo en los casos en que esta circunstancia sea evidente por el contexto. También se establecen requisitos para que determinados contenidos generados o manipulados artificialmente incorporen marcas técnicas que faciliten su detección.
Para las empresas usuarias, las obligaciones son especialmente relevantes cuando se publican deepfakes, se utilizan sistemas de reconocimiento emocional o categorización biométrica, o se difunden textos generados con IA sobre asuntos de interés público sin una revisión humana efectiva y una responsabilidad editorial identificable.
Esto no significa que cualquier texto, fotografía o borrador elaborado con asistencia de IA deba etiquetarse automáticamente.
La obligación dependerá del tipo de sistema, la finalidad del contenido, el grado de manipulación, la intervención humana y el papel que desempeña la empresa dentro de la cadena de valor. Precisamente por eso, aplicar la misma norma a todas las herramientas y todos los contenidos sería insuficiente.
Es necesario entender cada caso de uso.
La supervisión humana no puede ser simbólica
La revisión humana ocupa una posición central dentro de ese debate.
Una persona que recibe un contenido generado, le mira durante unos segundos y pulsa el botón de publicar no representa necesariamente un mecanismo efectivo de supervisión. Revisar implica comprender el resultado, contrastar su información, detectar posibles errores, corregirlos y asumir la responsabilidad editorial sobre el contenido final.
El mismo principio puede aplicarse a otros procesos empresariales. Si una herramienta prioriza oportunidades comerciales, filtra candidaturas, recomienda una decisión o responde a un cliente, la organización debe determinar quién valida el resultado, qué límites tiene el sistema y qué ocurre cuando la recomendación es incorrecta.
La tecnología puede intervenir en el proceso, pero la responsabilidad no puede quedar disuelta entre el software, el proveedor y el usuario que lo ha ejecutado.
Cuando nadie sabe quién responde del resultado, el problema supera el ámbito regulador. Se convierte en una debilidad de gestión.
El trabajo que las empresas deberían empezar ahora
Una revisión responsable debería empezar identificando todas las herramientas que incorporan inteligencia artificial, incluidas las funcionalidades integradas en aplicaciones que la empresa ya tenía contratadas.
A partir de aquí, hay que entender qué personas tienen acceso, qué datos utilizan, quién es su proveedor y en qué procesos se genera un resultado que llega a clientes, trabajadores, candidatos, proveedores o público general.
Este mapa permite revisar los avisos de los asistentes y chatbots, los criterios de validación de los contenidos, los contratos con proveedores, la protección de la información, la conservación de registros y la asignación de responsabilidades.
También obliga a abordar la formación de los equipos. Las disposiciones del AI Act relacionadas con la alfabetización en inteligencia artificial son aplicables desde febrero de 2025. Las personas que utilizan estas herramientas deben conocer sus posibilidades, pero también sus limitaciones, riesgos y condiciones de uso.
No se trata de convertir a todos los profesionales en especialistas jurídicos o técnicos. Se trata de proporcionarles el criterio necesario para que sepan qué información pueden introducir, qué resultados deben revisar y cuándo una decisión necesita intervención humana.
Una oportunidad para recuperar el control
El 2 de agosto no empezará el uso empresarial de la inteligencia artificial. Comenzará una etapa en la que este uso deberá ser más visible, explicable y responsable.
Las empresas que dispongan de un inventario, normas de uso, responsables identificados y procedimientos de supervisión podrán adaptarse con normalidad. Las que todavía dependan de cuentas individuales, criterios informales y herramientas desconocidas tendrán que reconstruir primero qué está pasando dentro de la organización.
Este ejercicio puede parecer inicialmente una exigencia de cumplimiento, pero también ofrece una valiosa oportunidad. Permite detectar herramientas duplicadas, suscripciones innecesarias, riesgos sobre los datos, procesos sin propietario y automatizaciones que han crecido sin una dirección común.
La transparencia frente al cliente comienza con transparencia frente a la misma dirección.
¿Cómo puede ayudarle Esolvo?
En Esolvo podemos ayudarle a revisar cómo se está utilizando la inteligencia artificial en su organización y convertir esta realidad en un marco de trabajo seguro, comprensible y gobernable.
El análisis puede incluir el inventario de herramientas y procesos, la revisión de los flujos de datos, la identificación de riesgos, la definición de responsabilidades, los procedimientos de supervisión y la formación de los equipos.
Si su empresa ya utiliza IA, pero todavía no dispone de una visión completa sobre dónde, cómo y con qué garantías, éste es un buen momento para poner orden.
Hablemos.
