Ayer por la mañana fui a una nueva edición de las jornadas de ciberseguridad de Secure&IT en Madrid con una idea bastante clara: escuchar cómo las empresas están usando la inteligencia artificial para defenderse mejor y complicarles la vida a los ciberdelincuentes. Era una expectativa razonable. La IA se ha convertido en una de las grandes promesas del sector y parecía lógico pensar que buena parte de la conversación giraría en torno a sus nuevas capacidades defensivas.
Pero la jornada dejó una lectura bastante más profunda. Lo que se está moviendo no es solo una capa tecnológica más sobre los sistemas de siempre. Es el propio marco mental de la ciberseguridad. La velocidad del cambio, la sofisticación de los ataques y la entrada de nuevas herramientas basadas en algoritmos están obligando a las empresas a repensar desde cómo parchean software hasta cómo anticipan amenazas. La sensación allí, escuchando a los ponentes, era clara: no estamos ante una simple actualización de herramientas, sino ante un cambio de época.
Francisco Valencia, director general de Secure&IT, a quien ya pude entrevistar hace un tiempo, puso esa idea sobre la mesa nada más empezar con una frase especialmente gráfica: “Siempre hemos dicho que en ciberseguridad estamos un paso por detrás del cibercrimen y ahora estamos 10 pasos por detrás del cibercrimen”. La afirmación sorprendía por su crudeza, pero también ayudaba a ordenar la conversación. Mirar de frente esa desventaja, sin vender falsas certezas, quizá sea el primer paso para entender lo que viene.
La ciberseguridad esperaba una aliada, pero el cibercrimen también la ha encontrado
La clave está en que la IA no ha cambiado solo las herramientas disponibles, sino el equilibrio de la partida. Valencia lo planteó con crudeza porque, desde su punto de vista, los ciberdelincuentes han cogido carrerilla mientras muchas compañías siguen intentando decidir cómo usar la IA de forma segura, útil y gobernada. Esa diferencia de ritmo explica buena parte del diagnóstico. Los atacantes no necesitan resolver todos los debates internos de una organización, ni justificar cada despliegue, ni esperar a que exista una política corporativa perfecta. Les basta con probar, automatizar y explotar lo que funcione.
El ponente empezó abordando una de las piezas más inquietantes de ese nuevo escenario: los Dark LLM. Los LLM, o grandes modelos de lenguaje, son la capa técnica que impulsa aplicaciones como ChatGPT, Copilot o Gemini: sistemas capaces de interpretar instrucciones, ayudar a programar o resolver tareas complejas. Las compañías que los desarrollan introducen límites, filtros y guardarraíles para impedir usos dañinos, tanto por seguridad como por los criterios éticos con los que diseñan estos sistemas. Los Dark LLM, como FraudGPT y WormGPT, parten de una lógica mucho más peligrosa: ofrecer capacidades parecidas, pero sin esas barreras.
Lo interesante es que esta lógica no depende siempre de crear un modelo nuevo desde cero. Valencia también habló del jailbreak, una forma de intentar esquivar los límites de una IA convencional mediante instrucciones cuidadosamente construidas. No es simplemente pedirle a un sistema que haga algo prohibido, sino envolver esa petición en un contexto que lo empuje a responder donde debería detenerse. En la práctica, el resultado puede ser parecido: capacidades de un modelo potente puestas al servicio de usos que las grandes compañías tratan de bloquear.
Ese salto se entiende muy bien cuando pasamos de la herramienta al engaño. Durante años hemos asociado muchas campañas de fraude a mensajes torpes, masivos y fáciles de detectar, pero la IA permite cambiar la escala sin renunciar a la personalización. El CEO de Secure&IT lo resumió con una frase muy clara: “Yo no necesito mandar el spam del nigeriano a 20 millones de personas diciendo que me he enamorado de 20 millones a ver quién pica. Lanzo el mismo correo a 20 millones, pero a cada uno le digo lo que quiere oír”. Ahí está la diferencia: el ataque puede seguir siendo masivo, pero ya no tiene por qué parecer genérico.
Durante la presentación apareció también un término que me llamó especialmente la atención: malware polimórfico. Puede sonar muy técnico, incluso más propio de una conversación entre analistas que de un artículo para entender qué está pasando, pero ayuda a aterrizar algo importante. Ya no hablamos solo de un programa malicioso que entra en un ordenador e intenta repetirse en otros equipos con el mismo comportamiento. Se trata de algo bastante más sofisticado: una amenaza capaz de llegar a una máquina, leer el entorno, identificar qué defensas tiene delante y generar una versión adaptada a ese escenario concreto.
La consecuencia para los equipos de seguridad es evidente: si cada máquina recibe una variante distinta, detectar patrones, relacionar señales y reconstruir el ataque se vuelve mucho más difícil. Ya no se trata solo de encontrar un archivo malicioso y seguir su rastro por la red. En un escenario donde “el virus de cada ordenador es distinto”, la campaña puede tener un mismo objetivo, pero dejar huellas diferentes en cada equipo. Y cuando las huellas cambian, el análisis deja de ser lineal.
Secure&IT dedicó sus jornadas de ciberseguridad de este año a analizar cómo la IA está cambiando el sector
El mensaje de Valencia sobre la automatización fue uno de los más claros de la jornada: la IA está quitando tiempo a la defensa. Durante años, las empresas han contado con cierto margen entre la detección de una vulnerabilidad, la creación de un exploit y su explotación real. Ese margen podía ser imperfecto, pero existía. Permitía organizar análisis, priorizar parches y actualizar sistemas cada cierto número de meses. La frase que mejor condensa el cambio es directa: “Hasta ahora el tiempo era un arma para defendernos y ahora el tiempo ya no es un arma para defendernos”.
La consecuencia es muy práctica. Si antes una organización podía hacer análisis de vulnerabilidades cada varios meses y planificar actualizaciones con cierta calma, ese esquema empieza a quedarse corto. Según los expertos, una herramienta de IA puede buscar una vulnerabilidad, identificarla, preparar la vía de ataque y ejecutarla en cuestión de minutos. Cuando “ahora ya no pasa tiempo”, actualizar tarde ya no es solo una mala práctica: puede significar que la defensa llega después de que el ataque haya ocurrido. El diagnóstico ya marca el terreno y prepara la pregunta de fondo: cómo se defiende una organización cuando la vieja ventana de reacción se está cerrando.
Otro punto de la jornada me dejó pensando porque apunta a un tipo de amenaza menos visible, pero con un enorme potencial de daño: las filtraciones que nunca ocurrieron. Hasta hace no tanto, fabricar una base de datos falsa, masiva y lo bastante creíble como para hacerla pasar por información robada era técnicamente mucho más complejo. Ahora, con IA, ese escenario empieza a estar mucho más cerca de quienes quieren causar daño. Hablamos de generar registros sintéticos, empaquetarlos como si procedieran de una empresa o de un organismo público y dejar que la sospecha haga el resto. Porque el problema no es solo si la brecha existió, sino el daño reputacional que puede producirse mientras se demuestra que nunca ocurrió.
A medida que la IA se integra en las empresas, el perímetro también cambia. Ya no hablamos solo de proteger servidores, portátiles o cuentas de correo, sino de proteger los datos que alimentan a los modelos y los agentes que empiezan a tomar decisiones o proponer acciones. En la jornada apareció ahí una idea especialmente relevante: el envenenamiento de datos. Si un sistema de IA se apoya en documentos internos para resumir, decidir o detectar un ataque, alterar esos documentos puede cambiar la respuesta del propio sistema. El ataque, en ese caso, no va contra la interfaz, sino contra la información que la IA considera fiable.
Hugo Llanos, de Secure&IT, subrayó durante su ponencia que el sector industrial todavía tiene mucho margen para mejorar su seguridad
No es ningún secreto que muchas personas se apoyan ya en la inteligencia artificial para trabajar mejor, estudiar, resumir documentos, escribir con más claridad o resolver tareas que antes llevaban mucho más tiempo. De hecho, buena parte de la revolución que estamos viviendo no consiste en que la IA haya aparecido de la nada, sino en que el acceso a estas herramientas se ha democratizado de forma masiva. La tecnología no nació ayer, pero ahora está en el navegador, en el móvil y en servicios que cualquiera puede probar en cuestión de minutos. Y ahí empieza una tensión nueva para las empresas: lo que para un empleado puede ser una ayuda inmediata, para la organización puede convertirse en una zona ciega.
Ese es el terreno del Shadow AI. El problema no es que un trabajador quiera ser más productivo, sino que use herramientas de IA que quedan fuera de la órbita de control de la compañía. Puede ocurrir al resumir un informe, pegar fragmentos de un documento interno, consultar datos de un cliente o pedir ayuda para preparar una presentación con información sensible. Valencia lo explicó desde una preocupación muy concreta: cada empleado puede tener “la suya”, su propia inteligencia artificial, incluso pagada por él mismo, y eso hace mucho más difícil saber qué información sale, a qué servicio llega y bajo qué condiciones se procesa.
Roberto Pérez, de Bitdefender, mostró un ejemplo práctico del uso de PHASR durante la jornada
En ese esfuerzo por repensar la defensa, una de las propuestas que me pareció interesante fue PHASR, de Bitdefender, presentada por Roberto Pérez. La idea no pasa por bloquear herramientas de forma indiscriminada, sino por reducir la superficie de ataque según el comportamiento real de cada usuario. El ejemplo de PowerShell lo explica bien: es una herramienta legítima de Windows, muy útil para administradores y equipos técnicos, pero también muy aprovechable por atacantes en técnicas de Living off the Land, donde se abusa de funciones ya presentes en el sistema. Si una persona de Recursos Humanos no la necesita para su trabajo diario, restringirla en ese perfil concreto puede cerrar una puerta sin afectar a quienes sí deben usarla. Es solo un ejemplo, y seguramente hay muchos otros fuera de esta jornada y de este artículo, pero apunta a una idea relevante: si el ataque se vuelve más adaptativo, la defensa también tiene que aprender a serlo.
La jornada no me dejó la sensación de que exista una respuesta sencilla para todo esto. El director general de Secure&IT lo resumió con una advertencia sensata: no hay “una solución mágica ni única”, ni un botón capaz de volver inmune a una organización frente a las estrategias basadas en IA. Sí dejó, en cambio, un panorama bastante claro de cómo los ciberdelincuentes han sabido moverse rápido para aprovechar estas herramientas y de cómo aquel “paso” de desventaja del que se hablaba antes se ha convertido ahora en una brecha mucho más grande. Quedan muchas preguntas abiertas, pero una conclusión parece difícil de esquivar: la ciberseguridad que servía hasta hace poco ya no basta por sí sola. Reducir esa distancia exigirá cambios técnicos, organizativos, jurídicos y culturales que van mucho más allá de una sola herramienta.
Imágenes | Xataka
-
La noticia
“Estamos 10 pasos por detrás del cibercrimen”: Francisco Valencia, CEO de Secure&IT, sobre el desafío de los ataques con IA
fue publicada originalmente en
Xataka
por
Javier Marquez
.
🔥 Ver noticia completa en Xataka.com 🔥
