Nuevas pautas sobre el uso de IA generativa para las salas de redacción

En agosto de este año, la Associated Press publicó una guía sobre cómo utilizar herramientas de inteligencia artificial generativa, como ChatGPT, y actualizó su manual de estilo, reflejando una nueva era para las salas de redacción.

Alex Mahadevan explicó en un artículo para Poynter que en dicha guía se enfatiza sobre la importancia de la edición humana y se advierte sobre los numerosos peligros de la inteligencia artificial generativa: su tendencia a "enloquecer" y producir información errónea, la facilidad con la que los actores malintencionados pueden generar desinformación y los problemas de privacidad relacionados con lo que los usuarios introducen en ChatGPT.

De acuerdo con los normas, "AP tiene un acuerdo de licencia con OpenAI, el fabricante de ChatGPT, y aunque el personal de AP puede experimentar con ChatGPT con precaución, no lo utilizan para crear contenido publicable", y "cualquier información producida por una herramienta de inteligencia artificial generativa debe tratarse como material de origen no verificado. El personal de AP debe aplicar su juicio editorial y los estándares de origen al considerar cualquier información para su publicación".

Por ejemplo, un reportero de AP puede utilizar ChatGPT para generar un resumen de un artículo, pero este debe ser editado como cualquier otro contenido antes de su publicación, afirmó Amanda Barrett, vicepresidenta de estándares e inclusión de AP, en una entrevista telefónica.

"Quiero enfatizar que esta es una herramienta que podemos usar, pero no reemplaza la astucia periodística, la experiencia y la capacidad de hacer nuestro trabajo de una manera que conecte con la audiencia", dijo.

La guía de la AP establece un marco para el uso responsable de la inteligencia artificial, e incluye las siguientes recomendaciones:

• "Según nuestras pautas, no modificamos ningún elemento de nuestras fotos, videos o audio. Por lo tanto, no permitimos el uso de la inteligencia artificial generativa para agregar o quitar ningún elemento”.
• "Nos abstendremos de transmitir imágenes generadas por inteligencia artificial que se sospeche o se haya demostrado que son representaciones falsas de la realidad. Sin embargo, si una ilustración generada por inteligencia artificial o una obra de arte es el tema de una noticia, puede utilizarse siempre y cuando se etiquete claramente en el pie de foto".
• "Los periodistas deben ejercer con la misma precaución y escepticismo con los que lo harían normalmente, incluyendo tratar de identificar la fuente del contenido original, hacer una búsqueda inversa para verificar el origen de una imagen y comprobar si hay informes con contenido similar en medios confiables".

La AP ha estado utilizando la inteligencia artificial desde 2014 y ha liderado esfuerzos para ayudar a otras salas de redacción a experimentar con ella. Pero el desarrollo de estos criterios o normas, que comenzó antes del acuerdo de la AP con OpenAI, según Mahadevan, se produce cuando los reporteros, editores y editores se enfrentan a cómo y por qué utilizar herramientas de inteligencia artificial.

"Es un momento realmente interesante en el periodismo", dijo Barrett. "A mí me recuerda al surgimiento de Internet".

Mahadevan propone, a modo de comparación, el ejemplo de ARLNow, un sitio de noticias locales centrado en Arlington, Virginia, y un grupo de sitios relacionados operados por Local News Now. Estos medios han estado utilizando la inteligencia artificial para generar publicaciones en redes sociales, resumir comunicados de prensa y están planeando un boletín matutino. Scott Brodbeck, CEO de Local News Now, dijo que está tratando de no obsesionarse demasiado con los nuevos estándares o directrices y, en cambio, se enfoca en la aplicación.

"Me preocupa menos la ética detrás de esto que la experiencia del lector, se debe empezar por la experiencia del lector y luego seguir desde allí", dijo Brodbeck. "Creo que una vez que superemos la novedad de esto, algunas de las preguntas éticas angustiosas probablemente desaparecerán".

Sin embargo, el autor rectifica que el trabajo de Local News Now con la inteligencia artificial no está en contra de los nuevos estándares de la AP.

Otras organizaciones también están trabajando en diseñar guías y parámetros para las salas de redacción que desean utilizar la inteligencia artificial generativa. The Partnership on AI, una organización sin fines de lucro destinada a abordar el impacto de la inteligencia artificial en diversas industrias, está buscando comentarios sobre un borrador de su Guía de Adquisición y Uso de IA para Salas de Redacción. 

El documento profundiza mucho más en el uso de la inteligencia artificial en la sala de redacción. Y con la contribución de expertos de Gannett, McClatchy y la AP, incluye preguntas para hacer a los desarrolladores antes de invertir en sus herramientas de inteligencia artificial, sugerencias para medir la eficacia del uso de la inteligencia artificial en la sala de redacción y presenta un marco que desglosa las herramientas de inteligencia artificial en categorías.

De acuerdo con la guía, "Esto puede parecer mucho trabajo por adelantado para lo que de otro modo podría ser un proceso sencillo", pero "responder a estas preguntas desde el principio, sin embargo, ahorrará a su sala de redacción mucho tiempo y energía en comparación con descubrir retroactivamente el uso responsable de una herramienta después de adquirirla, entrenarla y usarla".

"Uno de los desafíos que se presentarán para nosotros y para todos los demás es que el panorama cambiará muy rápidamente", señala Barrett.

Si bien la AP aún no tiene métricas para medir el desempeño de sus informes asistidos por inteligencia artificial generativa, un grupo de empleados se reúne cada mes para evaluar los últimos cambios en la tecnología de inteligencia artificial y cómo se podrían moldear las pautas.

"En última instancia, creo que es algo positivo que la gente esté pensando en políticas y ética, pero creo que lo que debería venir primero es ver cómo esto beneficia a los lectores y a nuestra sala de redacción", dijo Brodbeck. "¿Está la inteligencia artificial realmente mejorando las cosas? Si es así, entonces lo haces, si no, entonces no lo haces".