Tendencias

OpenAI cierra su detector de inteligencia artificial

El detector AI Classifier de OpenAI fue dado de baja: diferenciar un texto creado por inteligencia artificial será cada vez más difícil.

Inteligencia artificial. ¿Qué se podrá hacer para mejorar los detectores de IA? (GQ España)

Descubrir si un texto fue generado por inteligencia artificial será cada vez más difícil. En un principio, OpenAI lanzó ChatGPT y después AI Classifier, una aplicación para detectar si un texto fue generado por IA o escrito por una persona. La herramienta era capaz de acertar sólo en el 26% de las ocasiones, equivocándose tres de cada cuatro veces.

Con el cierre del detector oficial, surge la preocupación por el aumento de desinformación y plagio en la era de la información. Los estudiantes podrán seguir presentando trabajos generados por ChatGPT, sin que los profesores puedan detectarlo, lo que pondría en duda la integridad del sistema educativo y judicial.

Otro de los factores importantes es el idioma en donde fue generado ChatGPT. La mayoría de los modelos de lenguaje están entrenados en inglés, lo que limita la efectividad de detectar textos en otros idiomas. Además, la posibilidad de editar el contenido generado por IA complican aun más la tarea de los detectores.

¿Cómo será la detección de texto según OpenAI?

¿Qué falta para que los detectores de texto puedan funcionar? (OneZero)

El cierre del detector de texto creado por OpenAI no es algo definitivo, sino una señal de cómo la creación de detectores eficientes aun no se ha podido concretar.

La baja de AI Classifier destaca los retos que enfrenta la detección de contenido generado por IA. La evolución constante de los modelos de lenguaje generativo y los obstáculos para la detección complican aún más el panorama, ya que los detectores tendrán que ser actualizados a la par del desarrollo de la inteligencia artificial.

Tags