De acuerdo con Financial Times, la decisión de posponer de manera indefinida el lanzamiento del modo adulto de ChatGPT se basa, entre otras razones, en la dificultad técnica asociada al entrenamiento de los modelos de inteligencia artificial para filtrar contenido ilícito, como la bestialidad o el incesto, así como en la imprecisión de los sistemas de verificación de edad, cuyo margen de error supera el 10 por ciento. Estos desafíos técnicos y regulatorios han llevado a la empresa tecnológica OpenAI a cancelar por tiempo indefinido este proyecto, cuyos planes iniciales preveían habilitar a usuarios adultos verificados para acceder a contenido erótico dentro del chatbot.
Tal como reportó Financial Times y lo retomó el medio especializado Engadget, el modo adulto para ChatGPT se presentó públicamente en octubre del año pasado, tras el anuncio de OpenAI sobre un nuevo sistema de control de edad en su chatbot. La compañía diseñó este control para que la plataforma identificase automáticamente si la persona con la que interactuaba era menor de edad, con el objetivo de limitar el acceso a conversaciones con contenido sensible solamente a usuarios verificados como adultos.
A pesar de que originalmente el lanzamiento de este modo estaba planeado para diciembre del año anterior, OpenAI pospuso dos veces la puesta en marcha de la función. Según consignó Financial Times citando fuentes familiarizadas con el desarrollo, estos retrasos respondieron a la decisión de la empresa de concentrar esfuerzos en otras características consideradas más prioritarias, mientras que, en paralelo, aumentaban las preocupaciones internas sobre la viabilidad y pertinencia del modo adulto.
Los motivos de la suspensión se vinculan tanto a consideraciones técnicas como éticas y comerciales. La dificultad más relevante corresponde al aprendizaje de los modelos, ya que aquellos entrenados previamente para evitar contenido sexual explícito presentaron complicaciones para gestionar las nuevas directrices, dificultando la generación del contenido erótico autorizado y la correcta eliminación de manifestaciones ilegales.
De acuerdo con lo publicado por Financial Times, el sistema de control de edad carece de suficiente precisión, con una tasa de fallo que ronda el 10 por ciento. Esto implica que un número considerable de usuarios menores podría llegar a tener acceso al modo adulto, lo que contraviene el compromiso de OpenAI de proteger a este grupo demográfico de contenidos que se consideran inapropiados.
Engadget detalló que la estrategia inicial de la compañía contemplaba desarrollos tecnológicos capaces de que la inteligencia artificial gestionara con autonomía la validación de edad, asegurando una experiencia diferenciada para los usuarios adultos frente a los menores. No obstante, la falta de confianza en la fiabilidad de estos controles y el riesgo de que los sistemas no pudieran identificar todos los intentos de acceso no autorizado motivaron una revisión profunda del lanzamiento.
La cancelación indefinida del modo adulto también está influida por cuestionamientos planteados por empleados e inversores, quienes evaluaron el proyecto tanto a la luz de los valores y la misión de OpenAI, centrada en el desarrollo de inteligencia artificial beneficiosa para la sociedad, como en la viabilidad de la propuesta desde la perspectiva de negocio. Financial Times recogió el argumento de que el alineamiento entre el producto y los objetivos sociales de la empresa resultó insuficiente en el contexto de los riesgos asociados a la exposición de población vulnerable.
El modo adulto, cuyo concepto se anunció hace menos de un año, pretendía ser una función adicional dentro de ChatGPT, reservada exclusivamente para usuarios mayores de edad tras verificación. Su implementación encontró notables obstáculos, debido a que los algoritmos entrenados para bloquear material explícito ofrecían resultados contradictorios cuando se intentaba adaptar su comportamiento para permitir contenido erótico controlado, generando discrepancias y errores en el filtrado.
Según destacaron fuentes citadas por Financial Times, entre las principales complicaciones se contaba la imposibilidad técnica de separar el contenido erótico autorizado de los comportamientos ilegales en los resultados generados por la inteligencia artificial, lo que exponía tanto a la empresa como a sus usuarios a riesgos legales y regulatorios significativos.
La combinación de imprecisiones curriculares en la verificación de edad y la dificultad de controlar con exactitud la generación de textos responde a limitaciones actuales del aprendizaje automático en materia de moderación de contenidos, recogió Engadget. Al encontrarse con un margen de error superior a uno de cada diez casos en la identificación de edad, OpenAI optó por reevaluar la continuidad del desarrollo ante posibles consecuencias legales y reputacionales.
Asimismo, según lo reseñaron los medios que dieron seguimiento al caso, el cambio de prioridades dentro de OpenAI priorizó el desarrollo de funciones más alineadas con la misión general de la empresa. Así, la compañía comunicó a los equipos implicados y a actores externos la determinación de suspender de forma indefinida cualquier avance o prueba relacionada con el modo adulto de ChatGPT, a la espera de escenarios donde evoluciones técnicas y de cumplimiento normativo permitan recuperar la iniciativa.
Financial Times puntualizó que, de momento, no existe una fecha nueva prevista para retomar ni lanzar la función, dejándola fuera de los planes públicos y operativos de la empresa mientras continúe la revisión y análisis de riesgos en áreas sensibles de contenido.
🔥 Ver noticia completa en Infobae.com 🔥
