
Hace un par de días, en mi momento de scroll de redes sociales, llegó a mis ojos un tweet escrito por una influencer española que me dejó bastante impresionada. En la publicación, la influencer denunciaba que había recibido un link anónimo con unas fotos suyas modificadas mediante herramientas de inteligencia artificial.

Desgraciadamente, este hecho no es la primera vez que sucede, durante principios de este año, varias influencers y streamers han denunciado la aparición de videos pornográficos generados sin su consentimiento.
Este tipo de manipulaciones de videos realmente inexistentes es conocido en el mundo tecnológico como deepfake. Un deepfake es una técnica de manipulación digital que utiliza inteligencia artificial (IA) para crear videos, imágenes o audios falsos que parecen auténticos. La palabra deepfake proviene de la combinación de deep learning (aprendizaje profundo), que se refiere a una subárea de la inteligencia artificial, y fake (falso).
Sin embargo, este tipo de distorsiones no son las únicas que podemos encontrar en la red; otra de las problemáticas que enfrentamos en nuestra sociedad digital podría ser la proliferación de noticias falsas o desinformación, que ha aumentado con el crecimiento del uso de la inteligencia artificial en la generación de contenido.
Aunque esto tampoco es nada novedoso, las llamadas fake news también formaron parte del escándalo de Cambridge Analytica allá por el año 2018.
Así que, como diría Shakespeare en esta época digital en la que vivimos. "¿Real o no real? Esa es la cuestión".
Te preguntarás, ¿hay alguna manera de saber si un dato (vídeo u otro tipo de información) o es generado con IA?
La verdad es que de momento no se ha encontrado con la solución para este problema. Actualmente, desde diversas instituciones, se están realizado investigaciones para la creación de herramientas que con propia IA puedan combatir a la IA. Ejemplos de ello podrían ser procesadores de imagen que se fijan en la manera de pestañear de una persona, en los píxeles de las imágenes o, incluso, en el reconocimiento de patrones de la persona que sale en el vídeo no real con respecto a vídeos suyos reales. Sin embargo, tecnológicamente sigue siendo complicado.
Una potencial solución a este desafío consistiría en establecer una forma de rastrear y dar trazabilidad al recorrido de los datos en internet. Al igual que cuando navegamos por una página web podemos determinar si el sitio es seguro o confiable, mediante un certificado de confianza que ha sido instalado, sería interesante contar con la capacidad de certificar la autenticidad de la información. Esto garantizaría su veracidad y verificación, e incluso se podría certificar si la información proviniera de una fuente generada por inteligencia artificial o por un humano. Para ello, y hablando de dos palabras claves como la trazabilidad y la certificación, la primera tecnología que se me viene a la cabeza es Blockchain.

Además, certificando los datos, se cumplirían alguno de los principios éticos de la IA como, por ejemplo, el de la responsabilidad y rendición de cuentas. De este modo, los creadores de sistemas de IA podrían ser identificados y por lo tanto podrían ser responsables de sus resultados y rendir cuentas por cualquier impacto negativo.
Otro principio que también podría cumplirse sería el de no maleficencia/prevención contra el uso indebido, al dejar traza de quién podría realizarlo, sería más fácil "cazar" a las personas que han generado esta información desde un punto de vista mal intencionado.
No obstante, aunque todo esto parezca muy negro y que no haya una solución ganadora al respecto, también hay una herramienta que puede protegernos: la regulación.
Esta regulación, que está siendo trabajada a nivel europeo, ya plantea una serie requisitos de transparencia en cuanto a información generada por algoritmos de IA generativa. Dichos requisitos se podrían resumir en:
Detectar y hacer transparente cuando el contenido ha sido producido por una IA.
Elaborar el modelo de manera que prevenga la generación de contenido ilegal.
Difundir resúmenes de los datos utilizados para el entrenamiento, protegidos por derechos de autor.
Asimismo, en esta línea, y como buena noticia al respecto, el pasado 22 de Agosto se aprobó el Real Decreto donde se aprobaba el estatuto de la Agencia Española de Supervisión de la Inteligencia Artificial, encargada de supervisar la aplicación de la normativa en materia de Inteligencia Artificial en España.
Finalmente, como decía en mi anterior post, los datos es la mayor fuente de información de los algoritmos de inteligencia artificial. Por ello, mientras aparece una solución a este problema, como humanos digitales que somos no debemos olvidar lo importante que es el tener consciencia de la información que compartimos por internet y debemos velar y ser conscientes de la privacidad de nuestros datos.
Comments