Tecnologías Digitales Avanzadas

Revelando la fachada: el auge de los deep fakes

La IA se ha convertido en una herramienta popular en nuestra vida diaria, incluida la IA generativa que puede crear imágenes, texto o audio. Pero puede ser un arma de doble filo con el auge de los deepfakes, que son difíciles de distinguir de la realidad. Los deepfakes podrían ser catastróficos si se utilizan de forma maliciosa y tener un impacto significativo en la sociedad.

La ilusión de la verdad


A medida que la tecnología y la IA han ido avanzando con rapidez a lo largo de los años,
no hace falta decir que la calidad general ha aumentado enormemente. Sin embargo, esto no es
necesariamente positivo. Según un estudio reciente en el que se diferenciaban imágenes generadas
por IA de las reales, se dice que sólo el 61% de los participantes eran capaces de distinguirlas, lo
que resultaba muy inferior al 85% previsto por los investigadores. Dicho estudio constaba de unos

260 participantes que tenían que distinguir 20 imágenes, en parte procedentes de Google y el resto
de varios programas de IA. El programa de IA dirigió su atención a atributos físicos sutiles como
dientes, ojos y dedos. La dificultad de poder distinguir las imágenes podría ser problemática
debido a las campañas de desinformación que explotan el potencial de la tecnología más allá de la
investigación académica y la legislación.

¿Es la IA realmente inteligente?


A pesar de ser conocida por sus atributos beneficiosos, la IA también puede poseer algunas
desventajas. La Universidad de Waterloo enumera las siguientes:
1. Precisión inferior a la esperada: Los participantes mostraron una precisión del 61% a la
hora de distinguir entre imágenes reales y generadas por IA, un porcentaje
significativamente inferior a las expectativas iniciales de los investigadores.
2. Rápidos avances tecnológicos: El desarrollo de la IA va más rápido que la legislación y
la investigación, lo que da lugar a imágenes más realistas generadas por la IA. Esto plantea
dudas sobre nuestra capacidad para regular y comprender plenamente la tecnología. A
medida que la IA sigue avanzando, es esencial desarrollar marcos éticos y responsables
que puedan seguir el ritmo de su evolución.
3. Amenaza de desinformación: Las imágenes generadas por IA pueden utilizarse
indebidamente para crear contenidos engañosos sobre personajes públicos. Esto supone
una amenaza crítica para las personas y las organizaciones, que requiere esfuerzos de
colaboración para combatir el uso indebido de imágenes generadas por IA y defender la
integridad de la información en la era digital.

Perspectivas y usos de la IA


Según Andreea Pocol, doctoranda en Informática de la Universidad de Waterloo, "la gente
no es tan experta en hacer la distinción como cree". En otras palabras, algunos creen que son
capaces de encontrar estas diferencias entre una imagen generada por la IA y una imagen que
se puede encontrar en Google, cuando son incapaces de hacerlo. Se dice que quienes
participaron en este estudio, aunque prestaron mucha atención a ciertos rasgos físicos para
tratar de identificar contenidos generados por IA, sus conclusiones fueron inexactas en
ocasiones.

Pocol destacó la dificultad de comprender plenamente el posible daño que pueden causar
las imágenes generadas por IA, dado el rápido ritmo al que avanza la tecnología de IA. La
velocidad a la que avanza la investigación académica y la legislación es a menudo incapaz de
seguir el ritmo de esta tecnología en constante evolución. Además, desde que se inició el
estudio a finales de 2022, las imágenes generadas por IA se han vuelto aún más realistas. Estas
imágenes generadas por IA podrían resultar amenazadoras para personajes populares o
destacados, ya que una persona malintencionada podría crear imágenes falsas con el fin de
arruinar su reputación.

Reflexiones finales


A pesar de las muchas ventajas que han creado los avances de la IA, debe utilizarse con cautela.
Las herramientas de que disponen los usuarios hoy en día ofrecen un notable potencial creativo,
pero ese potencial conlleva un importante nivel de responsabilidad. Es tan fácil crear contenidos
engañosos o maliciosos como producir material humorístico o artístico. Por lo tanto, es de suma
importancia evaluar el impacto de los recientes avances en este campo.

Bibliografía


News, N. (2024, March 6). Real Person or Deepfake? Can You Tell? Neuroscience News.
https://neurosciencenews.com/real-person-or-deepfake-can-you-tell/

(2024). Recfaces.com. https://recfaces.com/wp-content/uploads/2022/02/article_deepfake.jpg

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *