Los CAPTCHA se habían convertido en una herramienta excelente para luchar contra los bots. Hasta que llegó ChatGPT Agent

Los CAPTCHA se habían convertido en una herramienta excelente para luchar contra los bots. Hasta que llegó ChatGPT Agent

En 2003 un joven guatemalteco llamado Luis von Ahn publicóun singular estudiojunto a dos compañeros de la Universidad Carnegie Mellon y un investigador de IBM. Aquel proyecto describía un test automatizado que era fácil de resolver para los humanos pero prácticamente insuperable para los sistemas de inteligencia artificial.

Esos investigadores llamaron a ese testCAPTCHA.

El concepto era sencillo y se centraba en la ya célebre paradoja de Moravec: hay cosas que los humanos hacemos sin esfuerzo —como resolver los puzzles visuales que nos proponen los CAPTCHA— pero que las máquinas no logran resolver.

En Xataka

Luis von Ahn, de Duolingo: las certificaciones y las conversaciones llegarán pronto

La idea resultó ser una de esas de una entre un millón. Von Ahnacabó creandouna versión mejorada a la quellamó reCAPTCHAque no solo verificaba que eras humano: lo hacía ayudando aentrenar y perfeccionar sistemas OCR. Esa otra idea complementaria fue otro singular momento "Eureka!" de von Ahn, y de hecho acabó convirtiéndole en millonario en 2009, el año en que Google decidió comprar su servicio. Luego se dedicaría a otro proyecto igual de llamativo (o quizás más):Duolingo.

Una evolución vertiginosa (y jugosa)

Mientras lo hacía, los CAPTCHA siguieron creciendo y evolucionando. Poniéndoselo cada vez más difícil a unas máquinas que poco a poco planteaban que quizás esos test ya no eran tan válidos. De aquellos CAPTCHA básicos acabamos pasando a reCAPTCHAs de todo tipo en los que los puzzles visuales no solo desafiaban la capacidad de abstracción de las máquinas, sino que también ayudaban a entrenar ya no sistemas OCR, sino sistemas de visión artificial para reconocer mejor coches, autobuses, pasos de cebra o, cómo no, bocas de incendios.

Pero los sistemas de visión y de inteligencia artificial también mejoraban, y esa lucha entre estos tests (CAPTCHA viene de Completely Automated Public Turing tests to tell Computers and Humans Apart) y las máquinasse volvía más y más interesante. Era unsingular juego del gato y el ratón con los spambots, y cuando algún sistema de IA lograba superar un CAPTCHA o cualquiera de sus variantes, los puzzles se volvían más y más difíciles.

La historia se ha vuelto a repetir.

Lo hizo este viernes. Fue entonces cuando un usuario de la comunidad r/OpenAI en Redditpublicó capturasdeChatGPT Agentsuperando sin aparentes problemas uno de los reCAPTCHAsmás populares y utilizados hoy en día en internet. Se trata del sistemaTurnstilede Cloudflare, que presenta una pequeña caja con el texto "I'm not a robot" ("No soy un robot") para que hagas clic en él. Parece muy simple y sencillo, pero no lo es tanto para las máquinas.

Como señalan en Cloudflare, esta variante de ReCAPTCHA analiza diversas señales como el movimiento del ratón, el tiempo que tardamos en hacer clic, la "huella digital" de nuestro navegador, la "reputación" de nuestra IP o algunos patrones de ejecución JavaScript. Con ellas determina si el usuario es un ser humano o es sospechoso de ser un bot. Y si hay sospecha, el sistema presenta tras ese primer CAPTCHA otro en el que sí tenemos que resolver algún tipo de puzzle visual.

La IA no sabe si es humana, solo intenta operar como tal

Lo curioso aquí es que el agente IA de OpenAI resolvió el problema de una forma obvia: viendo lo que había en pantalla para actuar en consecuencia, algo que no había sido nada fácil hasta ahora. El agente incluso iba narrando en tiempo real lo que iba haciendo, y mientras realizaba ese paso mostraba el siguiente texto:

"El enlace está insertado, así que ahora voy a hacer clic en la casilla «Verificar que eres humano» para completar la verificación en Cloudflare. Este paso es necesario para demostrar que no soy un bot y poder continuar con la acción".

O lo que es lo mismo:la máquina estaba autocalificándose como un ser humano. Es algo insólito, pero quizás no del todo extraño teniendo en cuenta que 1) la IA no sabe realmente lo que dice y 2) ha sido entrenada para hablar (y actuar, al menos de forma limitada) como un ser humano. Operator, la anterior IA agéntica de OpenAI, lo pasabarealmente malcon estos sistemas.

¿Significa esto que los CAPTCHA están amenazados de muerte? Probablemente no. Esta no es más que una batalla más de esa guerra entre los bots y los CAPTCHA. Una que por ejemplo ya vimosotra victoria de la IAen octubre de 2024 pero que no supuso la debacle de este tipo de pruebas de verificación de usuarios.

Como señalanen Ars Technica, los sistemas CAPTCHA no han parado de evolucionar. De aquellos textos borrosos y deformados pasamos a reCAPTCHA en los que debíamos resolver puzzles visuales de todo tipo que últimamente nos obligan no ya a identificar semáforos, sino a colocar una imagen en una orientación concreta —un sistema cada vez más popular llamadoArkose Matchkey— o a tener que identificar algún elemento de una imagen que no concuerda en ella.

De hecho, los CAPTCHA más recientes ya no son tanto una forma de evitar que los bots superen esa barrera como de ralentizarlos tanto que realizar ataques de fuerza bruta con bots no compense.

CAPTCHAS no como barrera, sino como freno de bots

Un artículode los responsables de Arkose Labs, creadores de Matchkey, dejaba claro que "no hay un CAPTCHA completamente impenetrable", y que con su propuesta lo que pretendían era "Introducir una medida disuasoria económica o a prueba de costes para el comportamiento malicioso de los bots". O lo que es lo mismo: que desarrollar un bot que superase esos CAPTCHA fuese tan costoso queno valiese la pena.

En Xataka

Si la pregunta es si la IA es ya tan buena como la inteligencia humana, la respuesta es: resuelve este puzzle

Así pues, no deberíamos preocuparnos mucho por si los agentes de IA pueden superar esta prueba, porque a buen seguro aparecerán CAPTCHAs que sigan suponiendo una barrera casi infranqueable para estos sistemas. Es precisamente el mismo concepto con el que trabajael test ARC-AGI 2, que mide la comprensión visual y el razonamiento abstracto de los sistemas de IA y que es tan complicado que los mejores modelos de IA, que además son carísimos, no superan más que en un 4% de los casos en el mejor de los casos (o3-preview).

¿Llegará un momento en que esos agentes de IA logren superar cualquier CAPTCHA que le pongamos delante? Puede ser, desde luego, y será entonces cuando tengamos que enfrentarnoscómo convivir con las máquinasen una era en la que internet ya no logre diferenciar quién es humano y quién no.

En Xataka |Duolingo inaugura una nueva era: cuando el talento humano ya no es imprescindible

-
La noticiaLos CAPTCHA se habían convertido en una herramienta excelente para luchar contra los bots. Hasta que llegó ChatGPT Agentfue publicada originalmente enXatakaporJavier Pastor.