Les noves obligacions de transparència exigeixen saber on utilitzem IA, amb quines dades i sota la responsabilitat de qui.
La intel·ligència artificial ha entrat a les empreses sense esperar una decisió formal de la direcció.
Ho ha fet a través dels assistents de redacció, els generadors d’imatges, les transcripcions automàtiques, els sistemes d’atenció al client i les funcionalitats incorporades dins del CRM, l’ERP, les plataformes de màrqueting o les eines de productivitat.
En moltes organitzacions, la IA ja redacta documents, resumeix reunions, classifica informació, prepara propostes comercials, respon consultes i intervé en processos interns. Tanmateix, una part significativa d’aquests usos no apareix en cap inventari corporatiu, no disposa d’un responsable identificat i funciona sense criteris comuns de supervisió.
Aquesta distància entre l’ús real i el control empresarial adquirirà una nova dimensió el pròxim 2 d’agost, quan començaran a aplicar-se les obligacions de transparència de l’article 50 de l’AI Act europeu.
La Comissió Europea acaba de publicar les directrius que n’aclareixen l’abast. El principi que les articula és comprensible: les persones han de poder saber quan interactuen amb determinats sistemes d’intel·ligència artificial o quan estan exposades a continguts artificials que poden semblar autèntics.
Traslladar aquest principi a la realitat d’una empresa, però, requereix molt més que afegir un avís al peu d’una pantalla.
Abans d’informar, cal saber què està passant
Imaginem una empresa que incorpora un assistent virtual al web. El projecte es contracta des del departament de màrqueting o d’atenció al client i el proveïdor s’encarrega de la configuració tècnica.
Paral·lelament, l’equip comercial utilitza eines generatives per preparar ofertes. Recursos humans redacta comunicacions amb un assistent. Administració processa documents amb una aplicació que incorpora funcions d’IA. Diversos professionals creen textos, presentacions o imatges des de comptes individuals.
És possible que totes aquestes activitats siguin legítimes i útils. També és possible que la direcció no disposi d’una visió completa sobre les eines utilitzades, les dades que s’hi introdueixen, els proveïdors que les processen o els resultats que acaben arribant a clients, treballadors i col·laboradors.
Aquesta és la primera qüestió que planteja el nou escenari regulador. Una empresa difícilment pot ser transparent sobre un sistema que no sap que està utilitzant.
Per això, el primer pas no consisteix a redactar una política genèrica. Consisteix a elaborar una fotografia fiable de l’ús real de la IA dins de l’organització.
Què canvia a partir del 2 d’agost?
Les directrius europees diferencien entre les obligacions dels proveïdors que desenvolupen o comercialitzen sistemes d’IA i les de les organitzacions que els utilitzen.
Els proveïdors de sistemes interactius hauran de garantir que les persones siguin informades quan estiguin interactuant directament amb una IA, tret dels casos en què aquesta circumstància sigui evident pel context. També s’estableixen requisits perquè determinats continguts generats o manipulats artificialment incorporin marques tècniques que en facilitin la detecció.
Per a les empreses usuàries, les obligacions són especialment rellevants quan es publiquen deepfakes, s’utilitzen sistemes de reconeixement emocional o categorització biomètrica, o es difonen textos generats amb IA sobre assumptes d’interès públic sense una revisió humana efectiva i una responsabilitat editorial identificable.
Això no significa que qualsevol text, fotografia o esborrany elaborat amb assistència d’IA s’hagi d’etiquetar automàticament.
L’obligació dependrà del tipus de sistema, la finalitat del contingut, el grau de manipulació, la intervenció humana i el paper que ocupa l’empresa dins de la cadena de valor. Precisament per això, aplicar la mateixa norma a totes les eines i a tots els continguts seria insuficient.
Cal entendre cada cas d’ús.
La supervisió humana no pot ser simbòlica
La revisió humana ocupa una posició central dins d’aquest debat.
Una persona que rep un contingut generat, el mira durant uns segons i prem el botó de publicar no representa necessàriament un mecanisme efectiu de supervisió. Revisar implica comprendre el resultat, contrastar-ne la informació, detectar possibles errors, corregir-los i assumir la responsabilitat editorial sobre el contingut final.
El mateix principi es pot aplicar a altres processos empresarials. Si una eina prioritza oportunitats comercials, filtra candidatures, recomana una decisió o respon un client, l’organització ha de determinar qui valida el resultat, quins límits té el sistema i què passa quan la recomanació és incorrecta.
La tecnologia pot intervenir en el procés, però la responsabilitat no pot quedar dissolta entre el programari, el proveïdor i l’usuari que l’ha executat.
Quan ningú no sap qui respon del resultat, el problema supera l’àmbit regulador. Es converteix en una debilitat de gestió.
El treball que les empreses haurien de començar ara
Una revisió responsable hauria de començar identificant totes les eines que incorporen intel·ligència artificial, incloses les funcionalitats integrades en aplicacions que l’empresa ja tenia contractades.
A partir d’aquí, cal entendre quines persones hi tenen accés, quines dades utilitzen, qui n’és el proveïdor i en quins processos es genera un resultat que arriba a clients, treballadors, candidats, proveïdors o públic general.
Aquest mapa permet revisar els avisos dels assistents i xatbots, els criteris de validació dels continguts, els contractes amb proveïdors, la protecció de la informació, la conservació de registres i l’assignació de responsabilitats.
També obliga a abordar la formació dels equips. Les disposicions de l’AI Act relacionades amb l’alfabetització en intel·ligència artificial són aplicables des del febrer de 2025. Les persones que utilitzen aquestes eines han de conèixer-ne les possibilitats, però també les limitacions, els riscos i les condicions d’ús.
No es tracta de convertir tots els professionals en especialistes jurídics o tècnics. Es tracta de proporcionar-los el criteri necessari perquè sàpiguen quina informació poden introduir, quins resultats han de revisar i quan una decisió necessita intervenció humana.
Una oportunitat per recuperar el control
El 2 d’agost no començarà l’ús empresarial de la intel·ligència artificial. Començarà una etapa en què aquest ús haurà de ser més visible, explicable i responsable.
Les empreses que disposin d’un inventari, unes normes d’ús, responsables identificats i procediments de supervisió podran adaptar-se amb normalitat. Les que encara depenguin de comptes individuals, criteris informals i eines desconegudes hauran de reconstruir primer què està passant dins de l’organització.
Aquest exercici pot semblar inicialment una exigència de compliment, però també ofereix una oportunitat valuosa. Permet detectar eines duplicades, subscripcions innecessàries, riscos sobre les dades, processos sense propietari i automatitzacions que han crescut sense una direcció comuna.
La transparència davant del client comença amb transparència davant de la mateixa direcció.
Com us pot ajudar Esolvo?
A Esolvo podem ajudar-vos a revisar com s’està utilitzant la intel·ligència artificial a la vostra organització i convertir aquesta realitat en un marc de treball segur, comprensible i governable.
L’anàlisi pot incloure l’inventari d’eines i processos, la revisió dels fluxos de dades, la identificació de riscos, la definició de responsabilitats, els procediments de supervisió i la formació dels equips.
Si la vostra empresa ja utilitza IA, però encara no disposa d’una visió completa sobre on, com i amb quines garanties, aquest és un bon moment per posar-hi ordre.
Parlem-ne.
