La pregunta que frena els equips seriosos
Quan un equip B2B avalua ficar IA al seu suport, la primera objecció gairebé mai és “respon bé?”. És “què podrà veure i fer això amb les meves dades de clients?”. I tenen raó a preguntar-ho: una IA que ignora els permisos interns no és una millora, és una bretxa de seguretat amb bona redacció.
El copilot genèric que llegeix “tot el que hi hagi” pot filtrar a un agent junior informació d’un compte que no li correspon, o executar una acció que ningú va autoritzar. A B2B, això no és un detall: és el motiu pel qual molts pilots d’IA es cancel·len.
RBAC: la IA no hauria de veure més que la persona
El principi és senzill i hauria de ser innegociable: la IA opera dins dels mateixos permisos que la persona que l’usa, no per sobre.
Això és control d’accés basat en rols (RBAC) aplicat també a la IA. Si un agent no pot veure les dades de cert compte, l’assistent tampoc ha d’usar-les per respondre al seu nom. Si un rol no pot executar certa acció, la IA no pot executar-la “per comoditat”. El permís de l’usuari és el sostre, sempre.
A la pràctica, això significa tres regles:
- Lectura delimitada: la IA només accedeix al context que l’usuari té dret a veure.
- Acció delimitada: la IA només proposa accions que el rol de l’usuari podria fer.
- Sense escalades silencioses: la IA mai amplia els seus propis permisos per completar una tasca.
Context per compte, aïllat
A més del rol de l’usuari, hi ha l’aïllament entre comptes. En un entorn multi-tenant, les dades d’un client no poden filtrar-se al context d’un altre, ni tan sols a través de la IA. Elevatia treballa amb context aïllat per organització i residència de dades al cloud UE — algo que detallam a SaaS B2B al cloud europeu i GDPR.
L’assistent, quan ajuda en un cas, ho fa amb el context d’aquell compte i res més. No hi ha un “model que ho ha vist tot” barrejant informació entre clients.
Aprovació humana: el control sobre les accions
Veure dades amb permisos és la meitat. L’altra meitat és què fa la IA amb elles. Aquí el principi d’Elevatia és que la IA proposa, l’humà disposa: les accions amb impacte passen per aprovació abans d’executar-se.
Això converteix la IA en un accelerador, no en un risc autònom. L’agent revisa la resposta o l’acció proposada, veu d’on surt el context, i aprova o corregeix. Desenvolupam aquest model en detall a IA al suport amb aprovació humana.
Traçabilitat: qui, què i quan
Seguretat sense registre és confiança cega. Tot el que la IA proposa i tot el que un humà aprova queda traçat: quin context es va usar, quina acció es va proposar, qui la va autoritzar i quan. Aquesta traçabilitat serveix per auditar, per complir requisits de client i per millorar el sistema amb dades reals en lloc d’intuicions.
Què revisar en avaluar IA al teu suport
Si estàs valorant una solució amb IA, aquestes són les preguntes que separen el seriós de l’arriscat:
- La IA respecta els permisos de l’usuari, o veu més que ell?
- El context està aïllat per compte en multi-tenant?
- Les accions amb impacte requereixen aprovació humana?
- Queda registre auditable del que veu i fa?
- On resideixen les dades?
Si alguna resposta és “no” o “no està clar”, el risc és teu, no del proveïdor.
Prova-ho amb les teves pròpies regles
La millor forma de validar la seguretat és provar-la amb els teus rols i els teus comptes reals en un entorn aïllat. Per això és el pilot: sol·licita el pilot gratuït (~4 setmanes, sense cost) o reserva una demo de 15 minuts.
info@elevatia.io — respondem en espanyol o anglès.