Por Hanaa' Tameez en el sitio web del Nieman Journalism Lab
En los 13 meses transcurridos desde que OpenAI lanzó ChatGPT, las redacciones de todo el mundo han estado experimentando con esta tecnología con la esperanza de mejorar sus productos informativos y sus procesos de producción: cobertura de reuniones públicas, refuerzo de las capacidades de investigación, mejora de las traducciones.
A pesar de todos sus defectos, como la posibilidad de producir información falsa a gran escala y de generar textos de mala calidad, las redacciones están encontrando formas de hacer que la tecnología les resulte útil. En Brasil, un medio ha integrado la API de OpenAI con su periodismo actual para producir un chatbot conversacional de preguntas y respuestas. Conoce a FátimaGPT.
FátimaGPT es la última iteración de Fátima, un bot de fact-checking de Aos Fatos en WhatsApp, Telegram y Twitter. Aos Fatos lanzó por primera vez Fátima como chatbot en 2019. Aos Fatos (“Los Hechos” en portugués) es un medio de noticias de investigación brasileño que se centra en la verificación de hechos y la desinformación.
Bruno Fávero, director de innovación de Aos Fatos, dijo que aunque el chatbot tenía más de 75.000 usuarios en todas las plataformas, su función era limitada. Cuando los usuarios le hacían una pregunta, el bot buscaba en los archivos de Aos Fatos y utilizaba la comparación de palabras clave para devolver una URL (con suerte) relevante.
Fávero dijo que cuando OpenAI lanzó ChatGPT, él y su equipo empezaron a pensar en cómo podrían utilizar modelos de aprendizaje de idiomas en su trabajo. “Fátima era la candidata indicada para eso”, afirmó.
“La IA está arrasando en todo el mundo, y es importante que los periodistas entiendan cómo puede ser perjudicial e intenten educar al público sobre cómo los malos actores pueden hacer un mal uso de la IA”, dijo Fávero. “Creo que también es importante que exploremos cómo puede utilizarse para crear herramientas útiles para el público y que le ayuden a obtener información fiable”.
El pasado mes de noviembre, Aos Fatos lanzó la actualización FátimaGPT, que combina un modelo de aprendizaje de idiomas con los archivos de Aos Fato para ofrecer a los usuarios una respuesta clara a su pregunta con listas de fuentes de URL. Se puede usar en WhatsApp, Telegram y en la web. En sus primeras semanas de prueba, Fávero dijo que el 94% de las respuestas analizadas fueron “adecuadas”, mientras que el 6% fueron “insuficientes”, lo que significa que la respuesta estaba en la base de datos pero FátimaGPT no la proporcionó. No hubo errores de hecho en ninguno de los resultados, dijo.
Le pregunté a FátimaGPT a través de WhatsApp si las vacunas COVID-19 son seguras y me devolvió una respuesta exhaustiva diciendo que sí, junto con una lista de fuentes. Por otro lado, le pedí a FátimaGPT la letra de una canción brasileña que me gusta y me contestó: “Vaya, todavía no sé cómo responder a eso. Tomaré nota de tu mensaje y lo reenviaré internamente porque aún estoy aprendiendo”.
Al principio, a Aos Fatos le preocupaba implantar este tipo de tecnología, sobre todo por las “alucinaciones”, en las que ChatGPT presenta información falsa como verdadera. Aos Fatos está usando una técnica llamada generación aumentada por recuperación, que vincula el modelo de aprendizaje del lenguaje a una base de datos específica y fiable de la que extraer información. En este caso, la base de datos es todo el periodismo de Aos Fatos.
“Si un usuario nos pregunta, por ejemplo, si las elecciones en Brasil son seguras y fiables, hacemos una búsqueda en nuestra base de datos de verificaciones y artículos”, explicó Fávero. “A continuación extraemos los párrafos más relevantes que puedan ayudar a responder a esta pregunta. Ponemos eso en una pregunta como contexto para la API de OpenAI y casi siempre da una respuesta relevante. En lugar de dar una lista de URL a las que el usuario puede acceder -lo que requiere más trabajo para el usuario-, podemos responder a la pregunta que ha formulado”.
Aos Fatos lleva años experimentando con la IA. Fátima es un producto orientado al público, pero Aos Fatos también ha utilizado la IA para crear la herramienta de transcripción de audio por suscripción Escriba para periodistas. Fávero dijo que la idea surgió del hecho de que los periodistas en su propia sala de redacción transcribían manualmente sus entrevistas porque era difícil encontrar una herramienta que transcribiera bien el portugués. En 2019, Aos Fatos también lanzó Radar, una herramienta que utiliza algoritmos para monitorear en tiempo real campañas de desinformación en diferentes plataformas de medios sociales.
Otras redacciones brasileñas también utilizan la inteligencia artificial de forma interesante. En octubre de 2023, el medio de investigación Agência Pública empezó a utilizar la tecnología de texto a voz para leer historias en voz alta a los usuarios. Utiliza IA para desarrollar las narraciones de las historias en la voz de la periodista Mariana Simões, que ha presentado podcasts para Agência Pública.
Por su parte Núcleo, un medio de noticias de investigación que cubre el impacto de las redes sociales y la IA, ha desarrollado Legislatech, una herramienta para supervisar y comprender documentos gubernamentales.
Bruno Fávero, director de innovación en Aos Fatos. (Foto: Cortesía)
El uso de la inteligencia artificial en las redacciones brasileñas es especialmente interesante, ya que la confianza en las noticias en el país sigue disminuyendo. Según un estudio de KPMG para 2023, el 86% de los brasileños cree que la inteligencia artificial es fiable, y el 56% está dispuesto a confiar en esta tecnología.
Fávero dijo que una de las tendencias interesantes en el uso de FátimaGPT es probar sus posibles sesgos. Los usuarios a menudo hacen una pregunta, por ejemplo, sobre el actual presidente Luiz Inácio Lula da Silva, y luego hacen la misma pregunta sobre su rival político, el expresidente Jair Bolsonaro. O, los usuarios harán una pregunta sobre Israel y luego harán la misma pregunta sobre Palestina para buscar sesgos. El siguiente paso es desarrollar FátimaGPT para que acepte enlaces de YouTube, de modo que pueda extraer los subtítulos de un vídeo y contrastar su contenido con el periodismo de Aos Fatos.
Los resultados de FátimaGPT sólo pueden ser tan buenos como la cobertura existente de Aos Fatos, lo que puede suponer un reto cuando los usuarios preguntan sobre un tema importante.
Los resultados de FátimaGPT sólo pueden ser tan buenos como la cobertura existente de Aos Fatos, lo que puede suponer un reto cuando los usuarios preguntan sobre un tema que no ha recibido mucha cobertura. Para evitarlo, el equipo de Fávero programó FátimaGPT para que proporcionara las fechas de publicación de la información que comparte. De este modo, los usuarios saben que la información que están recibiendo puede estar desactualizada.
“Si preguntan, por ejemplo, cuántas personas murieron en el último conflicto palestino-israelí, es algo que cubrimos, pero no con tanta frecuencia”, explicó Fávero. “Intentamos compensarlo formando a [FátimaGPT] para que sea transparente con el usuario y le proporcione todo el contexto posible”.
