Alguien de legal pegó un contrato en ChatGPT. Alguien de ventas subió un Excel de clientes a Copilot. Alguien de soporte le pidió a Claude que “resumiera estos tickets”. Nadie lo aprobó. Nadie lo anotó. Eso es Shadow AI: inteligencia artificial que ya corre en la empresa, fuera del inventario de security y sin AI governance.
En Chile se ve todos los días. No porque los equipos sean irresponsables. Porque la herramienta es gratis, responde en español y llega antes que cualquier política.
Shadow AI no es “usar IA”. Es usarla sin dueño
Hay una diferencia aburrida y útil:
- Un chatbot o un agente con contrato, tenant y logs es un sistema. Se puede atacar, medir y gobernar. Ver qué es un LLM pentest.
- ChatGPT, Gemini o Copilot en la cuenta personal, con un PDF de clientes pegado en el prompt, no es un sistema. Es un agujero con interfaz amable.
El segundo caso no aparece en el CMDB. No pasa por compras. No deja evidencia para un auditor. Y el dato ya salió: a un proveedor extranjero, a un modelo que retiene contexto, a un historial que el CISO no puede borrar.
Eso no es un “riesgo emergente de AI”. Es filtración de información con un onboarding de treinta segundos.
Por qué las empresas en Chile lo tienen y no lo ven
Tres razones, ninguna glamurosa:
- El atajo gana al ticket. Esperar a TI por una licencia enterprise tarda. Pegar el texto en chatgpt.com no.
- Security todavía mira endpoints y cloud, no prompts. El DLP del correo no lee lo que alguien copia a una pestaña.
- No hay gobierno de IA, o hay un PDF de “principios éticos” que nadie abre. AI governance no es un manifiesto. Es saber quién puede mandar qué dato a cuál modelo.
Mientras tanto el directorio pregunta por “la estrategia de IA” y marketing ya publicó el asistente. Las dos cosas pueden ser verdad a la vez. Shadow AI vive en el medio.
Qué se rompe cuando nadie gobierna el uso de AI
No hace falta un jailbreak sofisticado. El daño típico es más seco:
- PII y secretos en el prompt. RUT, pólizas, cláusulas, dumps de CRM. Sale de Chile sin un registro que puedas mostrar.
- Respuestas que se vuelven proceso. Un junior copia el output a un cliente. Nadie revisó alucinaciones ni sesgo. El riesgo ya no es solo confidencialidad: es calidad operativa.
- Agentes y plugins por la puerta de atrás. Extensiones, GPTs custom, MCP en el laptop del desarrollador. Ahí Shadow AI deja de ser “un chat” y pasa a ejecutar.
Si el único control es “prohibido usar ChatGPT”, vas a tener Shadow AI igual. Solo que nadie te va a contar.
Tres señales de que ya está pasando
No necesitas un scanner caro para olerlo:
- En las entrevistas de offboarding aparece “usaba ChatGPT para redactar”.
- Hay más de una tarjeta de crédito de área pagando Copilot o Claude, y seguridad no está en la conversación.
- Legal pregunta si “podemos poner IA en el contrato” y nadie sabe qué IA ya está en los contratos.
Si reconoces dos, el inventario ya está desactualizado. El siguiente paso no es un framework de 40 controles. Es listar usos, marcar cuáles tocan datos personales o sistemas productivos, y decidir cuáles se oficializan y cuáles se cortan.
Qué hacer esta semana (sin un comité de AI)
Empieza estrecho. AI governance que no se opera no existe.
- Inventario honesto: qué modelos, qué cuentas (personal vs corporativa), qué datos se pegan. Encuesta anónima si hace falta. Mentir en el Excel no reduce el riesgo.
- Un canal aprobado: una cuenta enterprise con SSO, retención y DLP, o un producto interno con logs. Si no das una alternativa usable, Shadow AI gana.
- Regla simple de datos: nada de clientes, pacientes ni secretos en herramientas sin contrato. Eso se comunica en una página, no en un webinar.
Cuando el uso ya es un producto (chatbot, copiloto con tools), deja de ser Shadow AI y pasa a superficie de ataque. Ahí corresponde un pentest de IA, no otro taller de “uso responsable”.
Qué significa para tu cumplimiento (Chile)
Shadow AI es un problema de security y de evidencia. Si un trabajador filtró datos personales a un LLM no autorizado, la pregunta de la Ley 21.719 no es si “el modelo es seguro”. Es si tenías medidas de seguridad y si puedes demostrarlas.
La Ley 21.663 y la ANCI empujan a gestionar riesgo cibernético con inventario y controles, no con una política en un drive. Un ChatGPT shadow no va a aparecer en tu informe de incidentes hasta que un cliente o un periodista lo descubra. Tarde.
ISO/IEC 42001 y NIST AI RMF sirven para ordenar el gobierno de IA. No sustituyen saber qué está pasando en las laptops de Santiago el martes a las 18:40.
Si quieres pasar de “prohibido ChatGPT” a un uso que se pueda auditar y atacar como producto, el pilar es pentesting de IA en Chile y Latam. Para ver alcance sobre tu stack, agenda una demo.
Más en IA
Siete patrones de prompt injection en chatbots y agentes (directo, RAG, tools/MCP) y controles que sí bajan el riesgo en producción.
Un pentest web no cubre tu asistente de IA. Qué es un LLM pentest, qué se prueba en chatbots y agentes en Chile y Latam, y cuándo encargarlo.
Cómo dar acceso de agentes de IA a sistemas reales sin perder control de identidad, herramientas ni evidencia de qué se ejecutó.