«¿Cuánto gana mi jefe?» Una pregunta incómoda para la IA empresarial. La contrapregunta decisiva es: ¿qué documentos puede leer realmente la cuenta que hace esta consulta?
Un posible error empieza mucho antes de la IA.
Imaginemos una empresa ficticia. En una antigua carpeta de personal hay una tabla de sueldos. Durante una migración anterior, la carpeta se compartió con un grupo general de empleados. Ya nadie utiliza el enlace. El acceso compartido sigue existiendo.
Ahora se introduce una búsqueda en el conocimiento empresarial. Si esta fuente está conectada, se puede procesar técnicamente y es accesible para la cuenta que consulta, los fragmentos pertinentes pueden incorporarse a una respuesta. No hace falta superar ninguna barrera de seguridad nueva. La IA hace más visible un antiguo error de permisos.
Este es un ejemplo hipotético. No describe un caso real de un cliente de DAXS ni un comportamiento generalmente garantizado de un producto concreto. Sin una fuente adecuada y la posibilidad de acceder a ella, la IA no puede conocer con fiabilidad la cifra real; un número que aun así proporcione puede ser inventado.
Tres personas, tres situaciones de partida diferentes.
La responsable de personal puede leer el documento para realizar su trabajo. Otra persona no tiene ese derecho y su búsqueda debe excluir la fuente. Una tercera tiene acceso técnico debido a un uso compartido incorrecto con un grupo. En su caso debe corregirse el acceso compartido en sí. El modelo no puede deducir de forma fiable una decisión organizativa equivocada a partir de un prompt.
Una respuesta correcta puede ser una divulgación indebida.
Muchas pruebas de IA evalúan si una respuesta parece correcta y está respaldada por documentos. Con información confidencial también hay que comprobar si esa persona concreta puede ver la fuente. Una respuesta salarial exacta puede revelar indebidamente algo que solo necesita conocer un círculo reducido de la empresa.
A la inversa, negarse a responder tampoco demuestra una protección eficaz. Puede que simplemente no se haya encontrado el documento. Las pruebas de acceso deben abarcar la fuente, el índice de búsqueda, las consultas directas y las formulaciones indirectas. Un único aviso amable como «Estos datos son confidenciales» no constituye una comprobación fiable de permisos.
Los cálculos requieren el mismo cuidado.
El asunto no afecta solo a los sueldos. Un empleado podría preguntar por la tarifa horaria que se factura por su trabajo, las condiciones de un cliente o el margen interno de un proyecto. Estos datos pueden aparecer en ofertas y tablas. Tarifa facturada, margen de contribución y beneficio empresarial son magnitudes distintas; una cifra aislada no permite deducir seriamente el beneficio de una hora de trabajo.
Por eso deben ser correctos tanto los permisos de las fuentes como la calidad de las conclusiones. Ordenar los repositorios confidenciales y revisar profesionalmente los resultados son dos tareas diferentes.
Qué pueden comprobar las empresas antes del piloto.
- Identificar los documentos de personal, financieros y estratégicos y asignar responsables.
- Revisar los permisos efectivos, incluidos grupos, herencia y enlaces para compartir.
- Preparar cuentas de prueba con acceso permitido, bloqueado y accidentalmente demasiado amplio.
- Comprobar que los permisos se apliquen antes de entregar fragmentos al modelo.
- Reflejar las revocaciones de acceso también en índices, cachés, exportaciones y respuestas compartidas.
Para Microsoft Copilot con datos de Microsoft 365, el fabricante describe el uso de contenido dentro de los permisos del usuario. Precisamente por eso deben corregirse los permisos iniciales demasiado amplios antes de la implantación. Otros productos de chat y agentes adicionales deben revisarse según su modelo concreto de datos y cuentas.
Un siguiente paso razonable.
DAXS puede planificar una revisión acotada de seguridad de IA con inventario de fuentes, comprobación de permisos y pruebas negativas documentadas. El objetivo es un estado de implantación verificable: ¿qué fuentes están autorizadas para qué usuarios, qué deficiencias se conocen y quién las corrige?
La página especializada en seguridad de IA y AI Oversharing explica los controles. Para la arquitectura de búsqueda, Conocimiento empresarial y RAG completa el contexto.
Fuentes: Microsoft: datos y permisos · OWASP: divulgación de información sensible.
