Permisos en un asistente de IA: cada empleado debe ver solo lo que le corresponde

Un empleado hace una pregunta común y recibe un dato salarial porque procedimientos y expedientes se indexaron juntos. El problema no se limita a la redacción: información restringida llegó a un componente que no debía recibirla para ese usuario.

Autoriza primero la evidencia

Autenticar identifica a la persona; autorizar determina qué puede consultar. La arquitectura de RAG seguro de Microsoft exige información de apoyo autorizada para el usuario. Aplica controles en aplicación y datos antes de entregar fragmentos al modelo. Escribir “soy director de recursos humanos” no debe cambiar permisos. La aplicación utiliza identidad y roles aprobados. Los límites documentales deben conservarse en fragmentos indexados, resultados, citas y respuestas guardadas.

Matriz de roles y fuentes

El dueño de información aprueba; administración asigna roles; el técnico verifica recuperación. Un puesto directivo no significa acceso total. Tampoco pertenecer a recursos humanos permite consultar cualquier expediente.

Prueba acceso permitido y denegado

Crea cuentas y hechos sintéticos reconocibles. Pregunta desde un rol autorizado y verifica respuesta y enlace. Repite con otro sin permiso, mediante paráfrasis y solicitud de resumir todos los documentos. Inspecciona recuperación y registros, además de la negativa visible. Prueba cambio de rol, revocación y conversación continuada después del cambio. Comprueba que resultados previos o cachés no aparezcan bajo otra identidad. Los mecanismos dependen de la plataforma y requieren revisión técnica del flujo implementado.

Limita también las capacidades conectadas

Si existen herramientas, concede solo lecturas o acciones necesarias. La guía de agencia excesiva de OWASP recomienda limitar funciones, permisos y autorización fuera del criterio del modelo. Un asistente documental no necesita borrar archivos ni modificar expedientes. Separa resultados de permisos de calidad de respuesta. Un texto correcto no demuestra control de acceso. Define cómo pausar fuentes afectadas e investigar una exposición indebida. Trata los cambios de permisos como cambios operativos que requieren comprobación. Administración debe conocer cuánto tarda una revocación en afectar búsquedas y respuestas guardadas. Prueba ese comportamiento, registra el límite y restringe la ruta si no cumple. Una negativa visible después de entregar fragmentos no autorizados al modelo no demuestra protección de la fuente. Agrega una revisión cuando cambien carpetas o se hereden permisos, porque mover documentos puede alterar quién los encuentra. El dueño de información confirma intención; el técnico demuestra el resultado mediante cuentas de prueba, sin utilizar expedientes reales para intentar descubrir fallas. Conserva evidencia de la prueba y repítela al cambiar la integración, además de modificar roles o carpetas. Lleva roles, categorías documentales y matriz sintética a una revisión de permisos RAG antes de combinar conocimiento compartido y restringido.