Shadow IT, deuda técnica y sobrecostes: 3 riesgos que pone de manifiesto el Product Builder
Justine SARRE, Manager en Converteo, lidera la propuesta de valor en torno a la inteligencia artificial y los datos dentro de la consultora. Especialista en Product Management aplicado a la IA, dirige el diseño y el despliegue de productos innovadores basados en datos para impulsar la transformación de las áreas digitales y de negocio.
Puntos clave
- Combatir la proliferación del shadow IT: no permitas que tus equipos utilicen sus herramientas y suscripciones personales en los sistemas de información de la empresa. Proporciona un entorno de trabajo oficial y seguro para evitar el tratamiento no supervisado de datos sensibles.
- Anticipar la deuda técnica de las aplicaciones generadas: no consideres que un prototipo exitoso es un producto listo para producción. Evalúa la calidad de la arquitectura y la seguridad del código generado por IA antes de que acumule vulnerabilidades invisibles.
- Controlar el consumo de las API para gestionar los costes: no concedas acceso ilimitado a modelos de pago sin supervisión. Establece límites de solicitudes y mecanismos de seguimiento del consumo para evitar desviaciones financieras derivadas de prototipos mal diseñados.
La otra cara de la creación de productos mediante IA
La nueva accesibilidad de las herramientas de generación de código y de los agentes inteligentes ha democratizado la capacidad de desarrollar soluciones dentro de las organizaciones. Un profesional de producto, ventas o marketing puede generar ahora un prototipo funcional en cuestión de horas, sin recurrir a los equipos de ingeniería.
Esta rapidez de ejecución ofrece una ventaja indudable en términos de agilidad para validar una necesidad o reducir los riesgos asociados a un caso de uso. Sin embargo, esta facilidad de acceso oculta vulnerabilidades estructurales. La capacidad de crear interfaces no implica necesariamente dominar las normas de seguridad, la gestión de redes o la optimización de costes.
En las grandes organizaciones y los sectores regulados, esta falta de un marco definido se convierte en el principal obstáculo para la inversión. La facilidad de desarrollo genera una serie de riesgos que las empresas tienen dificultades para controlar, lo que bloquea el paso del prototipo a una escala industrial.
Riesgo 1: La explosión del shadow IT y la fuga de datos
El primer riesgo importante reside en la proliferación de iniciativas paralelas que se llevan a cabo sin el conocimiento de los departamentos de informática. Al no disponer de acceso a las herramientas más recientes o al verse frenados por procesos internos de validación considerados demasiado lentos, algunos empleados eluden las normas oficiales.
Algunos profesionales utilizan sus ordenadores personales y sus propias suscripciones para realizar sus tareas con los modelos de IA que prefieren. Este comportamiento, motivado a menudo por la búsqueda de una mayor eficiencia, expone directamente los sistemas de información de la empresa.
Esta informática paralela genera consecuencias críticas:
- La fuga de información confidencial: envío de archivos de clientes, bases de datos financieras o código fuente propietario a herramientas de uso general sin garantías de que los datos no se reutilicen.
- La pérdida de control sobre la propiedad intelectual: componentes de software estratégicos alojados en cuentas personales o servidores de terceros que no figuran en el inventario de la empresa.
- El incumplimiento normativo: tratamiento de datos personales sin registro ni verificación de los requisitos del RGPD o de las certificaciones de seguridad, como la norma ISO 27001.
ESQUEMA: El mecanismo de fuga de datos del shadow IT
(El empleado elude los controles)
(Ausencia de cláusulas de confidencialidad)
Riesgo 2: La acumulación de deuda técnica invisible
El segundo peligro está relacionado con la calidad intrínseca de las aplicaciones y los scripts generados por IA. Cuando un perfil que no es desarrollador diseña una solución, se basa en una lógica visual y funcional, pero generalmente no tiene visibilidad sobre la estructura del código generado.
La IA genera grandes cantidades de código, a veces sobre bases frágiles y sin respetar los principios de arquitectura de software. Mientras el prototipo sea utilizado por un número reducido de usuarios para tareas sencillas, la solución parece funcionar correctamente. Es durante el paso a una escala mayor o los intentos de integración cuando aflora la deuda técnica.
Esta deuda invisible se manifiesta en tres deficiencias recurrentes:
- La fragilidad de la arquitectura: componentes mal integrados, dependencias de software obsoletas y ausencia total de documentación técnica.
- La inseguridad de los flujos de datos: gestión deficiente de las claves de acceso a las API, formularios vulnerables a ataques de inyección y ausencia de controles de acceso.
- La falta de comprensión de la herramienta por parte de su propio creador: cuando la aplicación presenta un error, la persona que la ha creado no comprende la causa del fallo ni sabe cómo solucionarlo.
Poner estas soluciones en producción sobre una base inestable genera dependencias entre aplicaciones que pueden resultar peligrosas y que los desarrolladores no podrán mantener posteriormente.
Riesgo 3: Los sobrecostes y la ineficiencia presupuestaria
El tercer riesgo es de carácter financiero. El acceso a los modelos de lenguaje y a las plataformas de creación se basa, en su mayor parte, en tarifas según el consumo (coste por solicitud o por volumen de datos procesados).
Un prototipo mal diseñado puede provocar rápidamente un consumo presupuestario excesivo. Si la lógica de las llamadas a las API no está optimizada —por ejemplo, al repetir solicitudes masivas para tareas sencillas o al enviar innecesariamente todo el historial de datos con cada instrucción—, la factura puede aumentar de forma exponencial.
TIPO DE SOLICITUD
IMPACTO FINANCIERO
(Procesamiento específico)
(Céntimos por llamada)
(Contexto sobrecargado)
(Exceso presupuestario)
A esta gestión inadecuada de las solicitudes se añade el riesgo de duplicación de aplicaciones. Sin un inventario global de las iniciativas, varios departamentos de una misma empresa pueden acabar contratando herramientas idénticas o pagando dos veces por desarrollar un agente que otro equipo ya ha creado.
| Riesgo | Causa principal | Consecuencia para la organización |
|---|---|---|
| Shadow IT | Herramientas internas que los equipos de negocio consideran lentas u obsoletas | Fuga de datos confidenciales e incumplimiento del RGPD o de la norma ISO 27001 |
| Deuda técnica |
Código generado por IA sin control arquitectónico | Vulnerabilidades de seguridad y aplicaciones imposibles de mantener o evolucionar |
| Sobrecostes | Solicitudes a las API mal estructuradas y duplicación de herramientas | Consumo presupuestario excesivo e imprevisto y suscripciones innecesarias |
El callejón sin salida de las prohibiciones estrictas ante la urgencia de la gobernanza
Ante la acumulación de estos tres riesgos, la reacción instintiva de muchos departamentos de informática consiste en aplicar una política de prohibición estricta. En la práctica, esta estrategia de cierre total resulta ineficaz.
Prohibir el uso de herramientas de IA o bloquear el acceso a las plataformas de creación no acaba con estas prácticas: simplemente las empuja aún más hacia la clandestinidad. Los empleados siguen utilizando sus dispositivos personales, lo que aumenta el nivel de riesgo para la empresa y, al mismo tiempo, impide que la organización aproveche los beneficios de la innovación.
Por tanto, el objetivo no es frenar el interés por la creación de prototipos, sino superar esta fase de experimentación sin control. La facilidad de desarrollo exige diseñar una nueva forma de gobernanza capaz de establecer límites claros sin obstaculizar la rapidez de ejecución de los equipos.
FAQ
¿Cómo detectar la presencia de shadow IT relacionado con las herramientas de Product Builder?
El análisis de los registros de conexión de red (logs de proxy), el seguimiento de los gastos asociados a suscripciones SaaS no registradas y la realización de entrevistas periódicas con los responsables de las áreas de negocio permiten identificar las herramientas que realmente se utilizan en el día a día.
¿Por qué el código generado por IA acumula tanta deuda técnica?
Las herramientas de generación de código buscan producir un resultado inmediatamente funcional que responda al prompt del usuario. No tienen en cuenta el contexto global de los sistemas de información, los requisitos de seguridad específicos de la empresa ni las necesidades futuras de mantenimiento del código.
¿Cuál es el papel del departamento de informática ante estos nuevos riesgos?
El departamento de informática debe evolucionar su enfoque: pasar de una función de control y bloqueo a una función de asesoramiento interno. Su misión consiste en definir el marco de seguridad, proporcionar herramientas autorizadas y acompañar a los equipos de negocio en la creación de sus aplicaciones.