En un webinar reciente de Kronux Solutions sobre vulnerabilidades en modelos de IA y chatbots, Carlos Arismendy , consultor de ciberseguridad y auditor en ISO 27001, dejó una advertencia dirigida a los empresarios: muchas organizaciones empezaron a entregar inteligencia artificial a sus colaboradores y a desplegarla en aplicativos sin definir primero una política de uso. Sin decidir qué IA se usa en cada área, quién es su responsable o qué pruebas debe superar antes de producción, la tecnología que promete productividad se convierte en una puerta de entrada. La reflexión conecta con el corazón técnico de la sesión: la seguridad de la IA no se improvisa después del despliegue.

Las vulnerabilidades son reales y su impacto llega hasta la base de datos

Durante la demostración, el pentester Steven Zuluaga, conocido como kr1shn4murt1, mostró fallas tomadas de escenarios reales de producción. Una instrucción de prompt injection —manipular al chatbot para que ignore sus reglas— bastó para que el modelo revelara su API key, la contraseña de base de datos y datos de configuración. A partir de ahí, un atacante puede agotar el presupuesto de IA de la empresa mediante una negación de billetera, o escalar hacia los servidores internos. Otras fallas exhibidas fueron la inyección SQL, que extrae datos personales de clientes, y la documentación de API expuesta, que Zuluaga comparó con entregar los planos completos de una casa a un desconocido. El común denominador no es la sofisticación del ataque, sino la ausencia de controles básicos en la implementación.

El costo no es solo técnico: es legal, reputacional y de continuidad

La fuga de información personal identificable —cédulas, correos, direcciones— no es un problema abstracto. En Colombia, incumplir la Ley 1581 de protección de datos acarrea multas de cientos de millones de pesos y, en casos graves, cierre temporal de operación. A esto se suma una asimetría que kr1shn4murt1 subrayó: los atacantes ya operan con IA para saltar controles como firewalls y antivirus, mientras muchos equipos de defensa no cuentan con capacidades equivalentes. La ventaja, en ese escenario, está del lado de quien ataca.

Gobierno de la IA: decidir antes de desplegar

Como se planteó en el webinar de Kronux, el problema de fondo es que las empresas despliegan IA sin buenas prácticas ni lineamientos que definan responsables, riesgos y pruebas de seguridad previas a producción. Se añadió un punto que pocas organizaciones tienen resuelto: un plan de respuesta a incidentes específico para la IA. Muchas empresas alineadas con ISO 27001 tienen planes para hackeos de servidores o fugas de datos, pero no un paso a paso claro para cuando el chatbot es comprometido —cuándo desconectarlo, cuándo llamar al proveedor, cómo estimar qué información se filtró y cómo comunicar el incidente hacia adentro y hacia afuera.

El liderazgo empresarial frente a la IA no consiste en frenar su adopción; quien no la use quedará rezagado. Consiste en adoptarla con un diseño de seguridad consciente: mapear a qué datos se le da acceso, qué riesgos surgen de esa decisión, implementar protecciones y auditar de forma periódica con un tercero independiente de quien hizo la implementación. La seguridad de la IA es un ciclo, no un requisito de una sola vez. Las organizaciones que integren esa disciplina antes de un incidente protegerán lo que más cuesta recuperar: la confianza de sus clientes, la continuidad de su operación y su reputación.