Detector de IA

Un detector de IA es un programa que lee un texto y estima qué tan probable es que lo haya escrito un chatbot como ChatGPT. Lo usan docentes con monografías, editoriales con manuscritos, reclutadores con cartas de presentación. Entre los conocidos están GPTZero y el que viene integrado en Turnitin. En general dan un porcentaje o resaltan oraciones sospechosas, no un sí o no tajante.

La mayoría busca huellas estadísticas. Los modelos de lenguaje tienden a elegir la palabra siguiente más previsible, así que su texto suele salir prolijo y parejo; las personas escribimos con más sorpresas y más variedad de una oración a otra. Algunos detectores son a su vez modelos de IA, entrenados con muchos ejemplos de texto humano y de máquina.

El problema es que esas huellas son débiles. Una edición liviana, una herramienta para parafrasear o simplemente pedirle al chatbot un estilo más informal alcanzan para que un texto de IA pase por humano. Y al revés, se marcan textos humanos: un estudio de 2023 de investigadores de Stanford encontró que detectores populares etiquetaban como escritos por IA una buena parte de los ensayos de personas que no tenían el inglés como lengua materna, porque un vocabulario más simple parece "previsible". Ese mismo año, OpenAI dio de baja su propio clasificador de texto de IA por su baja precisión. El puntaje de un detector es motivo para una charla, nunca una prueba por sí solo.