Un estudiante creó un blog falso que engañó a millones de personas

15 de septiembre de 2020

Como un experimento un poco tonto. Así describe Liam Porr la experiencia de crear un blog falso utilizando algoritmos de generación de lenguaje. Porr —quien estudia ciencias de la computación en la Universidad de California, Berkley— configuró un blog y generó varios artículos sobre productividad y autoayuda con los que consiguió engañar a miles de personas y figurar entre las publicaciones más leídas del sitio web especializado en tecnología Hacker News.

El experimento, que sacó adelante en dos semanas, logró poner en alerta a los expertos en inteligencia artificial y fue reseñado por la revista del Instituto de Tecnología de Massachusetts, Technology Review, en un artículo escrito por Karen Hao.

Lo que más le llamó la atención de la experiencia, le contó Porr a la revista, fue que crear el blog y producir los artículos “fue súper fácil, en realidad, lo que fue la parte aterradora”. “Desde el momento en que pensé en la idea y me puse en contacto con el estudiante de doctorado hasta que realmente creé el blog y el primer blog se volvió viral, pasaron quizás un par de horas”, cuenta el estudiante.

 

El experimento 

El laboratorio OpenAI lanzó GPT-3, su modelo de inteligencia artificial de lenguaje más grande y más reciente, en noviembre del año pasado. La empresa basada en San Francisco decidió entregar el algoritmo a investigadores seleccionados que solicitaron una versión beta privada, con el objetivo de recopilar sus comentarios y comercializar la tecnología antes de fin de año.

Por esta razón, Porr envió una solicitud a la empresa para acceder al algoritmo. Para hacerlo, debió completar un formulario con un sencillo cuestionario sobre el uso previsto. Al mismo tiempo, decidió comunicarse con algunos miembros de la comunidad de inteligencia artificial de Berkeley, y así fue como encontró a un estudiante de doctorado que ya tenía acceso. Una vez que el estudiante de posgrado aceptó colaborar con él, Porr escribió un pequeño guión para que lo ejecutara. Le dio a GPT-3 el título y la introducción para una publicación de blog e hizo que generara varias versiones completas. La primera publicación de Porr —la que apareció en Hacker News—, y todas las publicaciones posteriores, se copiaron y pegaron con casi ninguna edición.

Porr decidió hacer las entradas en el blog sobre productividad y autoayuda al ser una categoría muy popular de blogs que no requiere una lógica rigurosa. Según le explicó el estudiante a Technology Review, el truco con el que logró generar contenido sin la necesidad de editar demasiado fue comprender las fortalezas y debilidades de GPT-3. “Es bastante bueno para crear un lenguaje bonito y no es muy bueno para ser lógico y racional”, cuenta.

Los titulares que creó eran sencillos y muy parecidos a aquellos que figuraban como los más leídos en plataformas como Medium y Hacker News: “¿Te sientes improductivo? Tal vez deberías dejar de pensar tanto” o “Audacia y creatividad, cualidades que triunfan sobre la inteligencia”.

Después de dos semanas de publicar artículos casi diarias, Porr abortó el proyecto con una publicación final titulada: “Qué haría con GPT-3 si no tuviera ética”. En el texto, describió su proceso como un ejercicio hipotético. Ese mismo día (3 de agosto de 2020) publicó una confesión más directa en su blog real.

 

La preocupación de los expertos

El ejercicio realizado por Liam Porr confirma la preocupación de los expertos frente a la tecnología que incorpora algoritmos de generación de lenguaje como GTP-3.

Como registra la publicación especializada en teconología, desde que la empresa OpenAI anunció por primera vez GPT-2, hubo especulaciones acerca de qué tan vulnerable era al uso indebido. “En su propia publicación de blog, el laboratorio se centró en el potencial de la herramienta de IA para convertirse en un arma como un productor masivo de información errónea. Otros se han preguntado si podría usarse para producir publicaciones de spam llenas de palabras clave relevantes para engañar a Google”, establece el artículo escrito por Hao.

Las entradas de blog generadas por Liam Porr durante su experimento lograron engañar a miles de personas que pasaron por alto un patrón de escritura un poco extraño y algunos errores ocasionales. Muy pocos lectores alertaron que el contenido podría estar siendo generado por un algoritmo. Para Porr, la gente podría usar esta herramienta para generar una gran cantidad de contenido clickbait. “Es posible que haya una avalancha de contenido mediocre de blogs porque ahora la barrera de entrada es muy fácil”, le dijo a la revista. “Creo que el valor del contenido en línea se reducirá mucho”.