Shadow AI : reprendre la main sur les outils d'IA des salariados Wait, I need to correct that: the translation should be into Spanish, so the output should be: Shadow AI: recuperar el control de las herramientas de IA de los empleados

¿Qué es el shadow AI y hasta dónde llega en su empresa?

El shadow AI designa el uso de herramientas de IA por parte de los empleados sin validación ni supervisión de la empresa o del departamento de TI [32]. Es la versión en IA del shadow IT [32]. Una fuente lo describe como un uso «no regulado ni aprobado» de la IA por parte de los empleados [3], y otra califica la IA generativa como la «primera aplicación shadow del mundo laboral» [5].

Qué aspecto tiene en la práctica:

• una cuenta personal de ChatGPT abierta con una dirección de Gmail [28];
• cuentas personales de IA generativa y extensiones no validadas por la DSI [25];
• herramientas de IA usadas en dispositivos personales para trabajar [7].

El fenómeno avanza porque responde a una necesidad: ganar eficiencia [33].

Lo que permiten afirmar las cifras

Nuestro expediente incluye una única medición de carácter académico. Según un estudio publicado en Cairn, solo el 20 % de los encuestados utiliza exclusivamente las herramientas que ofrece su organización [2]. El extracto disponible no precisa ni la muestra ni la fecha: retengan el orden de magnitud, no una estadística generalizable.

Circulan otras dos cifras, pero proceden de blogs cuya metodología no hemos podido verificar:

• el 68 % de los empleados franceses utilizaría la IA sin informar a su jerarquía [22];
• 8 de cada 10 empresas perderían el control de su IA [21].

Estas dos cifras no miden lo mismo que el estudio académico. No son comparables entre sí y no sustituyen a un diagnóstico interno: solo una cartografía de sus usos dirá dónde se encuentran.

¿Qué riesgos hace correr la IA no autorizada a la empresa?

El shadow AI expone a la empresa a tres familias de riesgos: jurídicos (RGPD, AI Act), técnicos (fallos de seguridad, datos fuera de su perímetro) y operativos (alucinaciones). La mayoría de las fuentes disponibles son contenidos de editores o consultoras. Identifican estos riesgos sin cuantificarlos de forma verificable.

• RGPD, fallos de seguridad, alucinaciones. Son los tres riesgos que destaca un contenido de la empresa Koul dedicado al shadow AI [22].
• Cumplimiento del AI Act. Un contenido de Adequacy presenta el shadow AI como fuente de riesgos de seguridad y de cumplimiento respecto al AI Act [36]. Los extractos disponibles no detallan las obligaciones afectadas ni las sanciones.
• Exposición de los datos. El shadow AI escapa a las políticas de seguridad de datos [40]. Una obra sobre la inteligencia híbrida señala que, sin una arquitectura adecuada, los usos de IA pueden exponer a la empresa a riesgos [4]. El editor Olfeo habla de «riesgos mayores» para las empresas afectadas [17].
• Punto ciego de la gobernanza. Un profesional de la IA empresarial soberana y resiliente describe el shadow AI como un punto ciego que encuentra a lo largo de todo su proceso [6].

Un sobrecoste del 15 % que hay que manejar con cautela

En Europa, el coste medio de un incidente de IA superaría en un 15 % el de una violación de datos clásica (Microsoft, 2024) [40]. Esta cifra la difunde SoSafe, un actor comercial de la concienciación en seguridad. El estudio original no figura en nuestro expediente y no hemos podido verificarlo. Debe leerse, por tanto, como un orden de magnitud no confirmado, no como un dato de referencia para un presupuesto o un argumentario interno.

¿Por qué no basta con prohibir las herramientas de IA?

Prohibir las herramientas de IA no basta: la prohibición desplaza los usos sin eliminarlos. Según un artículo de Solutions Numériques & Cybersécurité, las prohibiciones solo han trasladado los usos fuera del perímetro visible de la DSI, lo que hace el shadow AI aún más difícil de controlar [35]. Un empleado bloqueado en su puesto profesional puede pasar a un dispositivo personal, y entonces la DSI pierde toda visibilidad. Una fuente universitaria señala, además, que los empleados ya utilizan herramientas de IA en sus dispositivos personales para trabajar [7].

Encuadrar en lugar de prohibir. Varias fuentes van en este sentido, con formulaciones parecidas:

• el reto no es prohibir la IA, sino encuadrarla y hacerla gobernable [38];
• hay que retomar el control sin caer en la trampa de la prohibición estéril [21];
• hay que hacerlo sin frenar la innovación [22][23].

Estos contenidos proceden sobre todo de consultoras y editores, que tienen interés en vender soluciones de encuadre. Aun así, su convergencia con el análisis de [35] es clara.

El bloqueo selectivo tiene su lugar, siempre que vaya acompañado. Un caso descrito por una consultora ilustra el equilibrio: bloquear las herramientas públicas para un puesto mediante las reglas del cortafuegos, y al mismo tiempo formar a la colaboradora en el módulo de IA integrado en el software interno de gestión documental [31]. El bloqueo solo funciona si va acompañado de una alternativa validada y de formación. Los controles técnicos (trazabilidad, alerta ante una exfiltración, marcado de documentos sensibles) completan el dispositivo [23].

Un reto de gestión del cambio. Un análisis publicado en Cairn recuerda que la generalización de las herramientas de IA generativa implica «un verdadero cambio» para la empresa, del que el shadow AI, uso no regulado ni aprobado, es uno de los síntomas [3]. Tratarlo únicamente como una infracción equivale a ignorar ese cambio.

Esa es la lógica de Oupi: un único marco seguro para todos los usos de IA del equipo, en lugar de suscripciones personales dispersas.

¿Cómo detectar y cartografiar los usos de IA realmente existentes?

Para detectar el shadow AI, primero hay que establecer quién utiliza qué herramientas de IA y, después, cruzar ese diagnóstico con tres rastros técnicos. El método consiste en cartografiar los usos existentes identificando qué colaboradores usan qué herramientas [12], y en compartir el resultado con los equipos, ya que la cartografía va de la mano de la sensibilización [11].

Para la parte técnica se recomiendan tres puntos de control [26]:

• Los accesos a cuentas de terceros: ¿a qué servicios externos dan acceso las credenciales o cuentas de la empresa?
• Las exportaciones de datos a servicios externos: ¿qué datos salen del sistema de información y hacia qué destino?
• Los plugins y extensiones instalados en los puestos de trabajo: ¿qué módulos están presentes en los navegadores y en los equipos?

Estos controles apuntan a los usos que no aparecen en el catálogo oficial de aplicaciones. Una cuenta personal de IA generativa abierta con una dirección de Gmail es el ejemplo típico [28]. Las prohibiciones sin visibilidad no ayudan: solo han desplazado los usos fuera del perímetro visible de la DSI [35].

Si estas verificaciones manuales no bastan, las plataformas de detección identifican los usos reales, incluidos los que escapan a los circuitos tradicionales, y ayudan a medir la exposición de la organización [20]. En el ámbito de la red, un editor de ciberseguridad destaca un enfoque SSE (Secure Service Edge) para asegurar los usos de IA [17].

Precaución de lectura: la mayoría de estas recomendaciones proceden de actores comerciales, editores, proveedores o consultoras [11][12][17][20][26]. Ninguna de estas fuentes demuestra la eficacia comparada de los métodos o las herramientas. Ofrecen una guía de método que debe contrastarse con su propio entorno, pero no equivalen a un benchmark independiente.

¿Qué herramienta de IA validada proponer para sustituir las suscripciones personales?

La respuesta más eficaz es una oferta interna validada por la DSI, que dé a los empleados una alternativa segura a sus suscripciones personales. Las fuentes consultadas van en esta dirección: recomiendan ofrecer IA internas seguras y validadas por la DSI, junto con reglas claras sobre los datos (uso, almacenamiento, compartición) [29]. Estas recomendaciones proceden de medios especializados y consultoras, no de una autoridad reguladora.

El punto de partida está bien identificado: el shadow AI pasa sobre todo por cuentas personales, sin validación ni marco de la empresa [15]. Una cuenta de ChatGPT abierta con una dirección de Gmail es el ejemplo típico [28].

Los criterios de una herramienta validada

Una herramienta de sustitución debe cubrir dos exigencias:

• Una configuración mediante reglas precisas: algunas plataformas de IA generativa permiten configurar los usos según reglas definidas [23];
• Garantías sobre los datos: algunas plataformas aseguran que los datos no se almacenarán ni se usarán para entrenar los modelos [23].

Estos puntos deben verificarse en cada solución considerada, tanto contractual como técnicamente.

El posicionamiento de Oupi

Oupi propone un único marco seguro para todos los usos de IA del equipo, en lugar de una dispersión de suscripciones personales. Para una DSI, el interés es reunir usos fragmentados entre varias cuentas individuales en un punto de entrada único que pueda validar y supervisar.

Esta oferta no lo resuelve todo: debe acompañarse de las reglas de uso y los controles técnicos descritos en la siguiente sección. Pero sin una alternativa creíble, la prohibición por sí sola solo ha desplazado los usos fuera del perímetro visible de la DSI [35].

¿Qué reglas, formaciones y controles técnicos poner en marcha?

Cuatro palancas sostienen el enfoque: reglas sobre los datos, un marco coconstruido con los equipos, una formación operativa y controles técnicos. Salvo el estudio gubernamental [1], estas recomendaciones proceden de fuentes no primarias (editores, consultoras, medios especializados). Son prácticas recomendadas, no estándares probados.

Reglas claras sobre los datos. Se trata de definir qué puede utilizarse, almacenarse y compartirse con una herramienta de IA [29]. Para que el marco se adopte, el estudio gubernamental sugiere organizar talleres que coconstruyan la calidad del trabajo con la IA y anticipen sus transformaciones, y después construir un marco de confianza basado en la claridad [1].

Formación operativa. La concienciación no se limita a recordar la carta de uso. Un editor recomienda formar a los equipos para detectar riesgos, adoptar una higiene de prompts, verificar los resultados propuestos y no copiar y pegar sin criterio [27]. Otro añade la seguridad digital y el cumplimiento del RGPD [29].

Controles técnicos. Un medio especializado cita varios dispositivos: herramientas de gobernanza automatizada, marcado de documentos sensibles, trazabilidad y alertas ante la exfiltración de información [23]. Menciona también plataformas de IA generativa configurables según reglas precisas, o que garantizan que los datos no se almacenan ni se usan para entrenar los modelos [23]. Desde el lado de la DSI, un editor de seguridad preconiza un enfoque SSE para asegurar los usos de IA [17]. Estos controles exigen saber quién usa qué, de ahí el interés de la cartografía previa [11].

Estas tres palancas se apoyan más fácilmente en un marco único que en suscripciones personales dispersas: es la lógica de Oupi, que reúne todos los usos de IA del equipo en un único marco seguro.