DetectGPT es un nuevo programa creado para evitar que los alumnos usen ChatGPT para copiar textos. “A algunos les preocupa que los maestros, los lectores de noticias y la sociedad en general se vean inundados con contenido generado por inteligencia artificial, por eso creamos DetectGPT”, indicaron los creadores.
Científicos de la Universidad de Stanford en California, Estados Unidos, inventores de este programa, explicaron que los estudiantes pueden usar modelos de lenguajes grandes (LLM) para realizar tareas escritas, “lo que impide que los maestros sean capaces de evaluar con precisión el aprendizaje de los alumnos”.
DETECTGPT, EFICAZ EN UN 95 POR CIENTO
Sin embargo, con este programa se puede, por primera vez, demostrar que un texto se realizó con inteligencia artificial, pues “tiende a ocupar regiones de curvatura negativas de la función de probabilidad de registro del modelo”.
A partir de esa curvatura se puede juzgar si un texto se generó a partir de un LLM dado. DetectGPT no requiere la formación de un clasificador separado, la recopilación de un conjunto de datos de pasajes reales o generados, o la marca de agua, solamente el texto generado.
Por el momento, DetectGPT no está disponible para que lo utilice cualquier internauta. Sin embargo, los investigadores afirman que DetectGPT es eficaz el 95 por ciento de las veces.
LA RESPUESTA AL CHATGPT
Este nuevo programa se anuncia días después que el robot conversacional ChatGPT, creado por la empresa californiana OpenAI, saliera a la luz y sus creadores anunciaran que logró aprobar los exámenes de entrada de una facultad de derecho estadounidense después de haber redactado una serie de tesis sobre temas como derecho constitucional o fiscalidad.
Este chatbot utiliza enormes cantidades de información de internet para redactar textos que responden a cuestiones simples. “Hemos entrenado un modelo llamado ChatGPT que interactúa de forma conversacional”, explica OpenAI.
“El formato de diálogo permite a ChatGPT responder preguntas de seguimiento, admitir sus errores, impugnar premisas incorrectas y rechazar solicitudes inapropiadas. ChatGPT es un modelo hermano toInstructGPT, que está entrenado para seguir una instrucción en un aviso y proporcionar una respuesta detallada”, añade.
TEMORES A LA IA
El ChatGPT suscita desde su lanzamiento, a finales del año pasado, admiración, pero también temores, en especial en el sector educativo. Algunos resultados fueron tan convincentes que los profesores de varias universidades expresaron su preocupación ante la posibilidad de que los estudiantes se limiten a pedir al poderoso programa informático que trabaje para ellos.
Funcionarios de Nueva York y otras jurisdicciones han prohibido el uso de este robot en las escuelas. Jonathan Choi, profesor de la Facultad de Derecho de la Universidad de Minnesota, presentó a ChatGPT la misma prueba planteada a estudiantes para obtener su diploma. N
