Es muy probable que sus empleados usen herramientas de IA no aprobadas. Explicamos un método de 5 pasos para hacer ese uso visible y seguro sin prohibirlo.
Conclusiones clave
Prohibir la IA por completo no suele funcionar. Los empleados pasan a equipos y cuentas personales y se pierde la visibilidad. El camino correcto: ver el uso, definir herramientas aprobadas, proteger los datos sensibles en el prompt y medir el resultado.
- Paso 1: Descubrimiento. ¿Qué herramientas de IA se usan y quién las usa?
- Paso 2: Política. Listas de herramientas aprobadas, restringidas y bloqueadas.
- Paso 3: DLP en prompts. Impedir que los datos sensibles lleguen al prompt.
- Paso 4: Formación. Un mensaje claro en el momento del bloqueo.
- Paso 5: Medición. Informe mensual de uso e incidentes.
¿Por qué Shadow AI es más arriesgado que el Shadow IT común?
En el Shadow IT clásico, el riesgo suele ser un archivo subido al lugar equivocado. Con la IA, el empleado pega datos de forma activa: correos de clientes, cláusulas de contratos, código fuente, tablas financieras. Ese contenido va a los servidores del proveedor. OWASP incluye la divulgación de información sensible entre los principales riesgos de las aplicaciones LLM.
Si un prompt con datos personales va a un proveedor en otro país, surge una cuestión de transferencia internacional bajo el RGPD. Por eso el uso de IA es un tema de cumplimiento, no solo de TI.
Paso 1: Descubrimiento
Primero vea la situación actual. Tres fuentes juntas dan la imagen más precisa.
- Endpoint: Sitios de IA abiertos en el navegador, aplicaciones de escritorio y extensiones.
- Red: Dominios de IA en registros de proxy y DNS.
- SaaS: Aplicaciones de IA conectadas a Microsoft 365 o Google Workspace mediante OAuth.
El resultado es una lista con el número de usuarios y la frecuencia de uso por herramienta. Esa lista es la base de la política.
Paso 2: Política
| Clase | Ejemplo | Regla |
|---|---|---|
| Aprobada | Herramienta de IA con contrato empresarial | Permitida. Las reglas de datos sensibles siguen vigentes. |
| Restringida | Herramientas de chat gratuitas de uso general | Permitida, pero sin datos sensibles. Se muestra un aviso. |
| Bloqueada | Extensiones desconocidas, herramientas con condiciones de conservación poco claras | Acceso bloqueado. |
Los equipos legal, de TI y de negocio deben escribir la política juntos. El NIST AI Risk Management Framework ofrece una estructura para estas decisiones.
Paso 3: DLP en prompts
Es el paso más importante. Incluso en una herramienta aprobada no deben enviarse datos sensibles. El DLP en prompts revisa el texto pegado o escrito antes de enviarlo.
- Detecte patrones como documentos de identidad, IBAN y números de tarjeta.
- Detecte código fuente y claves secretas (API keys).
- Detecte contenido copiado de documentos etiquetados como confidenciales.
- Elija la acción según el riesgo: registrar, avisar, enmascarar o bloquear.
Paso 4: Formación
La pantalla de bloqueo es un momento de formación. Muestre en un mensaje corto por qué se bloqueó, qué herramienta está aprobada y cómo pedir una excepción. Así se reduce la probabilidad de que los usuarios pasen a equipos personales.
Paso 5: Medición
- Usuarios con herramientas no aprobadas (debe bajar).
- Porcentaje de uso de herramientas aprobadas (debe subir).
- Número y tipo de eventos de datos sensibles bloqueados.
- Solicitudes de excepción y tiempo de aprobación.
Control de Shadow AI con Moftgate
El módulo de Gobernanza de IA de Moftgate lista el uso de IA en cada endpoint. Las políticas DLP impiden que los datos sensibles lleguen al prompt o muestran un aviso. El módulo SSPM muestra los permisos OAuth de las aplicaciones de IA conectadas a su SaaS. Los prompts y registros se quedan en su propia infraestructura.
Conclusión estratégica
El objetivo no es detener la IA, sino usarla de forma segura. La política sin visibilidad no basta, y las herramientas aprobadas sin control de prompts tampoco.
Investigadores e ingenieros de seguridad de Moftgate Threat Labs especializados en prevención de fugas de datos (DLP), protección de endpoints y soberanía de datos on-premises.
Respuestas de expertos a las preguntas clave de profesionales
¿Qué es Shadow AI?
Herramientas de IA que los empleados usan sin aprobación de TI o seguridad. Incluye herramientas de chat, extensiones del navegador y aplicaciones de IA conectadas a SaaS.
¿Debo bloquear ChatGPT por completo?
Normalmente no. Una prohibición total empuja a los usuarios a equipos personales. Es más eficaz definir herramientas aprobadas y proteger los datos en el prompt.
¿Enviar datos personales a una IA incumple el RGPD?
Depende. Hay que evaluar la base jurídica, la información al interesado y las reglas de transferencia internacional. Decida con su equipo legal.
¿Cómo se detecta Shadow AI?
Vigile endpoint, red y SaaS juntos. Sitios del navegador, aplicaciones de escritorio, extensiones y conexiones OAuth dan la imagen completa.
Fuentes autorizadas y estándares regulatorios
- •OWASP Top 10 for LLM Applications ↗(Riesgos de aplicaciones LLM, incluida la divulgación de información sensible.)
- •NIST AI Risk Management Framework ↗(Marco para gestionar el riesgo de la IA.)
- •Regulation (EU) 2024/1689 (EU AI Act) ↗(Reglamento europeo de inteligencia artificial.)
- •Kişisel Verileri Koruma Kurumu ↗(Guías de la autoridad turca de protección de datos sobre IA.)