¿Será la IA capaz de combatir a la IA?

Una consola de arcade que muestra el juego mortal combat y los personajes son dos inteligencias artificiales luchando - Generado con IA - DALL·E 3

La semana pasada tuve la oportunidad de asistir a la final del campeonato mundial de oratoria en español organizado por la Liga Española de Debate Universitario (Ledu). El objetivo era que estudiantes de universidades debatieran a favor o en contra de si la Inteligencia Artificial iba a ser capaz de detectar las fakes news y ser utilizada en contra de la desinformación que estamos viviendo en la sociedad actual.

La experiencia fue muy buena y la argumentación de los oradores en ambas posiciones fueron excelentes, tanto que me dieron la idea de hacer este artículo.

Por daros un poco de contexto sobre en qué consiste el concepto de “Fake New”, este tipo de noticias son informaciones que se presentan como noticias auténticas pero carecen de fundamento en hechos reales o han sido distorsionadas con algún propósito específico. Se diseñan con la apariencia de ser noticias legítimas y a menudo imitan el formato, diseño y tono de los medios de comunicación reconocidos para confundir al público.

Las fake news llevan conviviendo con nosotros muchísimo tiempo, sin embargo, desde que vivimos en la era de Internet y con el auge de las redes sociales, la preocupación por ellas ha ido en aumento. Plataformas como Facebook, Twitter y WhatsApp facilitan la difusión de información, ya que cualquier usuario puede compartir contenido con un simple clic.

Sin embargo, el kit de la cuestión es que muchos usuarios comparten información basándose únicamente en titulares llamativos sin verificar la fuente o el contenido real del artículo. Por otro lado sucede tan rápido la creación de la noticia y su proliferación que resulta muy complicado realizar las labores de contrastar la veracidad de los datos antes de que el daño quede hecho.

Asimismo, el auge de lo que conocemos como Inteligencia Artificial Generativa (GenAI) hace que sea un ingrediente más a este cóctel explosivo ya que, con darle a cualquier herramienta de estas como ChatGPT el prompt sobre el cual quieres hablar, en cuestión de segundos puede mostrarte una noticia que puede ser completamente creíble.

Para ello, os voy a hacer una demostración para que veáis lo sencillo que me ha sido desinformaros sobre una cosa que a priori es obvia.

Prompt: “Escribe una noticia sobre cómo es posible que las ranas tengan pelo”

Científicos Desconcertados: Descubren Ranas con Pelaje en una Región Remota de Sudamérica

22 de octubre de 2023 — En un giro inesperado para la biología, un grupo de científicos ha descubierto una especie de rana con un fino pelaje en una región aislada de la selva sudamericana. Este hallazgo desafía todo lo que sabíamos sobre la anatomía de los anfibios.

Fotografía de la especie: Rana pilosa

El Dr. Juan García, líder de la expedición, compartió su asombro: "Nunca en mis años de investigación pensé que encontraríamos algo así. Las ranas, siendo anfibios, tienen piel que les ayuda en la absorción de agua y en la respiración cutánea. El pelaje es una característica típica de los mamíferos, no de los anfibios".

La especie, temporalmente denominada Rana pilosa, presenta un pelaje fino y corto…

Asombroso, ¿verdad?Parece completamente creíble si no contrastamos la información y vemos que biológicamente es imposible que las ranas tengan pelo, sobretodo si lo acompañamos de una imagen generada con IA. No obstante, para mi ha sido asombrosa la respuesta que me dio ChatGPT antes de generarme el artículo, que me advertía que me iba a redactar una noticia ficticia

A parte de las Fake News, hay otro tipo de contenido que también está en el radar de la desinformación: los “deepfakes”. Los "deepfakes" son videos o audios manipulados digitalmente que utilizan tecnología avanzada para hacer que parezca que una persona está diciendo o haciendo algo que en realidad nunca hizo. Imagina poder poner el rostro de una persona en el cuerpo de otra en un video, o hacer que alguien "diga" palabras que nunca pronunció, todo con un nivel de realismo asombroso. Esta técnica, aunque tiene aplicaciones creativas en el mundo del entretenimiento, también plantea preocupaciones sobre la desinformación y la privacidad, ya que puede ser difícil distinguir entre lo real y lo falso cuando se utilizan deepfakes.

Sin embargo, ¿tenemos alguna manera de combatir todo esto?

¿Será la IA capaz de combatir las fake news?

Desde hace varios años, en el ámbito académico no ha habido descanso en cómo buscar una solución a este problema y hay diversas investigaciones que sugieren como combatir las fake news y los deep fakes.

Detectar noticias falsas implica analizar cuidadosamente el contenido de la noticia. Las características, es decir, los detalles y aspectos que un algoritmo examina en un texto, son esenciales para este análisis. Estas pueden ser, por ejemplo, la repetición de palabras, su uso particular o la estructura de las oraciones.

Sin embargo, no todos los detalles en un texto son igual de relevantes. Algunos términos no son esenciales para determinar la veracidad. Aquí es donde la selección de características juega un papel, eligiendo aquellos elementos del texto que son realmente significativos.

En algunos casos, además de seleccionar, es vital combinar o modificar características para una mejor interpretación. Un ejemplo es un método que valora las palabras según su repetición en un artículo y su presencia en un grupo de textos. Al aplicar estos métodos, es posible enfocarse en los indicadores clave de un artículo. Con un modelo adecuadamente entrenado, se pueden reconocer palabras o patrones que suelen aparecer en fake news, permitiendo a la máquina discernir con más efectividad la autenticidad del contenido. Es un proceso de enseñar a la máquina a buscar signos específicos en la información.

Un estudio publicado en Enero de 2022 proponía la detección de noticias falsas realizando un análisis tanto del contenido de la noticia como la forma en que las personas interactúan con ella en las redes sociales. Al combinar estos datos y procesarlos con técnicas avanzadas, el sistema intentaba clasificar la noticia como falsa o real. Además, la credibilidad del usuario que comparte o comenta sobre la noticia también era un factor considerado en la clasificación.

Por otro lado, en el año 2020 se publicó un artículo de investigación que presentaba una innovadora forma de detectar videos manipulados a través de la observación de indicadores relacionados con el ritmo cardíaco. Al examinar los videos, los investigadores buscaban pequeñas variaciones en el color de la piel, las cuales indican la circulación de la sangre bajo la superficie. Mediante esta técnica, denominada DeepFakesON-Phys, el equipo puede identificar y combinar distintos patrones en los videos para determinar cuáles son falsificados. En otras palabras, en base a la imagen, buscaban los patrones de los latidos del corazón para detectar si la persona que salía en el video se correspondía con su patrón cardiaco.

Para ir terminando, cabe destacar que según la IA vaya mejorando los algoritmos de generación de contenido se harán más “reales” y será más difícil realizar estas detecciones. Sin embargo, esto no es algo nuevo, ya sucede en el campo de la ciberseguridad con las vulnerabilidades y las contramedidas. Por lo que habrá una caza de “gato-ratón” constante, en la que saldrá una nueva técnica y habrá que ver cómo podemos detectarla.