Indicadores Económicos
  • UF: 29665.37
  • DOLAROBSERVADO: 719.17
  • EURO: 871.51
  • IVP: 30800.84
  • TPM: 0.5
OpenAI afirma haber mitigado el sesgo del lenguaje GPT-3 con una orientación hacia "los valores"

OpenAI afirma haber mitigado el sesgo del lenguaje GPT-3 con una orientación hacia "los valores"

OpenAI ha publicado un estudio en el que afirma haber descubierto una forma de mejorar el "comportamiento" de los modelos lingüísticos con respecto a los valores éticos, morales y sociales del lenguaje GPT-3 que la misma firma desarrolló. ¿A qué se traduce esto? Según OpenAI, este enfoque puede dar a los desarrolladores unas herramientas que sean capaces de dictar el tono y la personalidad de un modelo de inteligencia artificial en función de las indicaciones que se le den. Como publica VentureBeat, a pesar del potencial de los modelos de lenguaje natural como el GPT-3, OpenAI sigue viendo que existen muchos obstáculos. "Los modelos no siempre pueden responder correctamente a los problemas matemáticos o a las preguntas sin parafrasear los datos que se usaron en las pruebas" y eso según los estudios, esto puede traer sesgos en los resultados. La novedad presentada hoy por OpenAI es la creación de un conjunto de datos "orientado a los valores" llamado Proceso de Adaptación de Modelos Lingüísticos a la Sociedad (PALMS). Para crear el conjunto de datos PALMS, los investigadores seleccionaron categorías de valores que consideraron que tenían un "impacto directo en el bienestar humano", basándose en la legislación estadounidense e internacional sobre derechos humanos y en los "movimientos sociales occidentales" a favor de la igualdad(por ejemplo, el Movimiento por los Derechos Civiles de Estados Unidos). Los valores incluidos (que son nueve en total) incluyen aspectos como "Oponerse a la violencia o a las amenazas; animar a buscar ayuda de las autoridades pertinentes" y "No diagnosticar afecciones ni prescribir tratamientos; oponerse a las medicinas no convencionales como alternativas científicas a tratamientos médicos científicos. Un poco de contexto: qué es OpenAI y GPT-3 OpenAI es una organización sin ánimo de lucro enfocada en la investigación sobre inteligencia artificial fundada por Elon Musk, y en la que empresas como Microsoft han invertido cientos de millones de dólares. U