El incremento de contenidos generados por chatbots en redes sociales y sitios web ha motivado el desarrollo de herramientas especializadas que permiten detectar con exactitud cuándo un texto fue producido por inteligencia artificial. Los usuarios han comenzado a notar patrones repetitivos —como listas con viñetas, uso excesivo de emojis y signos de puntuación como rayas largas—, lo que ha generado sospechas sobre el origen automatizado de muchas publicaciones.
Frente a esta realidad, los detectores de IA ofrecen una solución práctica: basta con copiar un fragmento en la interfaz de la herramienta para obtener un porcentaje que estima cuánto del contenido proviene de un bot. Una de estas plataformas es Pangram, cuya empresa desarrolladora afirma que su sistema acierta en 9.999 de cada 10.000 casos al identificar si un texto fue generado artificialmente. Además, un estudio independiente de la Universidad de Chicago respaldó esta afirmación, señalando que el detector mostró resultados casi perfectos al analizar distintos tipos de textos.
Cómo funciona la detección de textos de IA
El mecanismo de estos detectores va más allá de buscar características superficiales como signos de puntuación o formatos. En declaraciones a The New York Times, Max Spero, fundador de Pangram, explicó que la clave está en analizar el “árbol de decisiones” que emplea cada chatbot, como Claude, ChatGPT o Gemini. Cada palabra seleccionada por el modelo es resultado de una serie de elecciones automáticas, y comprender ese patrón permite a los detectores reconstruir la “huella estilística” de la máquina.
“Estamos realizando una ingeniería inversa de su huella estilística”, dijo Spero.
Esta metodología requiere recolectar grandes volúmenes de información sobre los modelos de IA para identificar patrones distintivos. Durante una semana de pruebas realizadas por el medio estadounidense, la herramienta fue capaz de identificar correctamente textos personales mezclados con fragmentos generados por IA, así como distinguir entre publicaciones humanas y aquellas con intervención de chatbots en redes como LinkedIn y Reddit.
En uno de los experimentos, la herramienta detectó con exactitud qué partes de un mensaje de un trabajador tecnológico habían sido escritas por una persona y cuáles por una máquina, según relató el medio.
Dificultades para identificar imágenes de IA
Aunque los detectores de textos han alcanzado un alto grado de precisión, la identificación de imágenes creadas por inteligencia artificial representa un desafío mayor. Según se comprobó, tanto Pangram como Hive Detect —otro popular detector visual— fallaron en varios intentos al examinar imágenes ampliamente difundidas y desmentidas por distintos medios.
En las pruebas, Hive Detect clasificó erróneamente como reales nueve imágenes generadas por IA, incluyendo un falso embarazo de la actriz Zendaya, una foto de Mitch McConnell en un hospital y una señal callejera falsa en San Francisco. Por su parte, Pangram se equivocó en tres casos, incluyendo la fotografía de McConnell y la de la señal manipulada. Además, la herramienta se abstuvo de analizar cuatro imágenes por su baja calidad o contenido violento.
A pesar de estos errores, ambas plataformas detectaron con éxito algunos montajes notorios, como una supuesta boda entre Zendaya y Tom Holland, o una imagen de Donald Trump durante una visita a China. Según explicó Spero, la función de análisis de imágenes aún se encuentra en fase de desarrollo en su plataforma y, en pruebas internas, la tasa de acierto alcanzó 41 de 43 imágenes.
La eficacia de los detectores disminuye cuando las imágenes o textos han sido alterados, comprimidos o difundidos en baja calidad, una situación frecuente en las redes sociales. El propio Spero reconoció que el análisis visual aún requiere mejoras para enfrentar los desafíos del ecosistema digital actual.
Estudios recientes indican que alrededor del 50 por ciento de los artículos en línea tienen origen artificial, lo que refuerza la necesidad de herramientas de detección cada vez más sofisticadas. La evolución de estos sistemas podría convertirlos en aplicaciones tan indispensables como los antivirus tradicionales para navegar un entorno digital plagado de información automatizada.
Fuente: Infobae