Lo que no se cuenta sobre la escritura de las IA

Lo que no se cuenta sobre la escritura de las IA

En “Más que palabras”, el profesor John Warner invita a pensar la escritura en la era de la Inteligencia Artificial

Cuando John Warner estaba en tercer grado, su maestra le dijo a la clase que “escribieran una lista de instrucciones para hacer un sándwich de mantequilla de maní y mermelada”. Una vez que terminaron, ella repartió todo lo que podrían necesitar para hacer uno e instruyó a los estudiantes a seguir las instrucciones al pie de la letra. “Así fue como”, escribe Warner, “me encontré con los nudillos sumergidos en un frasco de mantequilla de maní cremosa de la marca Centrella”. Resultó que no había escrito nada sobre usar un cuchillo.

En More Than Words: How to Think About Writing in the Age of AI (Más que palabras: cómo pensar sobre la escritura en la era de la IA), Warner utiliza esta anécdota para ilustrar que el acto de escribir no se trata simplemente de la producción de palabras, sino que es un proceso complicado y profundamente humano que implica una relación entre el pensamiento, la memoria, la intención y el lenguaje. ChatGPT y otros modelos de automatización de lenguaje de gran escala, o LLMs —erróneamente a veces llamados IA— pueden producir palabras, pero no pueden hacer nada más.

El incidente de la mantequilla de maní no es el único ejemplo de la escuela primaria que Warner, un profesor universitario de escritura con una larga trayectoria, utiliza para hablar sobre escritura y tecnología. Los cambios tecnológicos han impactado durante mucho tiempo la forma en que producimos el lenguaje, dice Warner, pero estos no alteraron el hecho de que el pensamiento humano permanece en el núcleo de esa producción.

Warner tenía, según admite, una caligrafía terrible, y solo fue su introducción a la máquina de escribir en el verano después del quinto grado lo que le permitió “capturar [sus] pensamientos a una velocidad cercana a la que ocurrían”. Me puedo identificar. Cuando era niño, la dislexia me hacía difícil formar letras claras a mano, pero con la invención de los teclados, poco a poco construí una nueva relación con la escritura. Décadas después, cuando tenía 38 años, adopté las aplicaciones de transcripción por voz. Para mí, esa fue la verdadera revolución tecnológica, y de hecho redacté esta reseña hablando a mi teléfono y dejando que el programa lo capturara. Pero las palabras que estás leyendo ahora aún transmiten mi pensamiento. La tecnología no rompe la conexión entre pensamiento y palabra. ChatGPT, argumenta Warner, hace algo completamente distinto, y eso no es escribir.

Warner admite que los LLMs pueden producir algo que parece escritura, incluyendo ensayos de composición universitaria completamente aceptables, y pueden hacerlo a una velocidad notable. Pero la mera generación de lenguaje, argumenta, no es escritura. A pesar de eso, escribe: “Veo a ChatGPT como un aliado. Si ChatGPT puede hacer algo, entonces probablemente ese algo no necesita ser hecho por un ser humano. Muy posiblemente no necesite ser hecho, punto”.

Warner busca articular qué es lo que hacen los humanos cuando escribimos, y por qué importa. En su trabajo anterior, destrozó la utilidad del ensayo de cinco párrafos, ya sea como forma de escritura o como herramienta de escritura. Si los LLMs pueden producir ensayos de cinco párrafos bastante buenos, eso es solo una señal de que no vale la pena escribirlos. E incluso cuando los modelos generan algo aceptable —en un momento dado, Warner le pide a ChatGPT que escriba “un soneto shakespeariano sobre la belleza de un Chevrolet Corvette”— los resultados son simplemente el producto de “juntar cosas imitando un estilo”, siguiendo reglas, desvinculados del pensamiento real y basados únicamente en probabilidades. ChatGPT puede describir el dormitorio de un niño, pero no puede describir el dormitorio de la infancia de Warner, porque ese proceso comienza en su mente.

La escritura humana es “irregular, rara y desordenada”, especialmente cuando utilizamos la escritura como una forma de entender algo. La escritura en las aulas debería reflejar este desorden, alejándose del resultado —ensayos formulaicos que los estudiantes pueden, si quieren hacer trampa, producir sin hacer ningún esfuerzo real— y enfocándose en el proceso. Él prescribe comenzar no con labores de escritura mecánicas, sino construyendo una apreciación por el lenguaje antes de pedir a los estudiantes que escriban los tipos de cosas que realmente debemos escribir, por ejemplo, recomendaciones sobre si a una persona determinada podría gustarle o no una película, un proceso que demuestra que “no hay dos escritores que produzcan el mismo escrito, incluso si trabajan a partir de material similar”.

En la reflexión final, Warner luego pide a sus estudiantes que hablen sobre su proceso, una tarea imposible de “subcontratar a ChatGPT, porque [este] no tiene conocimiento de los pensamientos de los estudiantes”. Todo esto tiene la intención de enseñar al estudiante a igualar la escritura con el pensamiento, no con la acción de poner palabras en una página.