Alerta por videos falsos hechos con IA: el caso Macri y cómo detectarlos en tiempos electorales
El sábado 17 de mayo, horas antes de los comicios legislativos en la Ciudad de Buenos Aires, un video manipulado con IA sacudió las redes sociales. En las imágenes, Mauricio Macri parecía dirigirse a los votantes para anunciar una inesperada decisión política: bajar la candidatura de Silvia Lospennato, primera en la lista del PRO, y pedir el voto para el libertario Manuel Adorni. La grabación fue compartida por cuentas asociadas a La Libertad Avanza y replicada por trolls libertarios, alcanzando una masividad inédita: más de 14 millones de visualizaciones.
Aunque el propio Mauricio Macri salió a desmentir el contenido con dureza, denunciando una maniobra de desinformación «burda y fraudulenta», el daño ya estaba hecho. La verosimilitud del montaje, potenciado por la IA generativa, dejó al descubierto una de las amenazas más serias de esta era tecnológica: la manipulación del voto mediante contenidos artificiales imposibles de distinguir a simple vista.
¿Cómo detectar videos falsos hecho con IA?
La tecnología de deepfake avanza con velocidad, pero existen algunas pistas y herramientas online y gratuitas, a las que accedió NEA HOY, que los ciudadanos pueden utilizar para identificar si están ante un contenido manipulado:
-
Movimientos extraños en el rostro o los ojos: Parpadeos poco naturales, miradas fijas, o movimientos faciales desincronizados suelen ser señales de edición.
-
Desfase entre audio y video: Si el movimiento de labios no coincide exactamente con la voz, puede tratarse de un montaje.
-
Textura de la piel y bordes borrosos: Los algoritmos suelen tener dificultades para reproducir piel realista, sobre todo en escenas con poca luz.
-
Repetición de gestos o expresiones: Algunos deepfakes reutilizan expresiones faciales por limitaciones técnicas.
-
Chequeá la fuente: Si el video aparece primero en cuentas anónimas, poco confiables o con historial de desinformación, hay motivos para dudar.
Herramientas online y gratuitas para detectar videos generados con IA
-
InVID: Este sitio web cuenta con un plugin gratuito para navegadores que permite analizar metadatos de videos, hacer búsquedas inversas de fotogramas y detectar signos de manipulación. Se puede acceder en el siguiente enlace: https://www.invid-project.eu/
-
Deepware Scanner: Esta app disponible para Android que permite escanear videos y analizar si contienen signos de haber sido generados con IA. Se puede acceder a ella en el siguiente enlace: https://deepware.ai/
-
Hive Moderation: Es una plataforma especializada en analizar imágenes y videos para detectar deepfakes, utilizada por medios y empresas. Se puede acceder a ella en el siguiente enlace: https://hivemoderation.com/deepfake-detection
-
Reality Defender: Ésta es una herramienta profesional que analiza el contenido audiovisual y evalúa el riesgo de manipulación por IA. Se puede acceder a ella mediante el siguiente enlace: https://www.realitydefender.ai/
Proyecto de ley para limitar los contenidos hechos con IA en campañas políticas: de qué trata
A raíz del escándalo del video falso de Macri, el diputado radical Julio Cobos presentó un proyecto para reformar el Código Nacional Electoral y establecer límites al uso de contenidos generados con IA en campañas políticas.
La iniciativa, respaldada por legisladores de distintas fuerzas —incluyendo UCR, Unión por la Patria y la Coalición Cívica—, propone que las plataformas digitales estén obligadas a eliminar o etiquetar contenidos engañosos en un plazo máximo de 48 horas si afectan la imagen de una persona o la intención de voto.
El texto también establece que, si no pueden eliminar el contenido a tiempo, deberán incluir la leyenda: «Este video/audio/imagen ha sido manipulado y no es auténtico.»
«No podemos resignarnos a que la desinformación contamine las elecciones. Estamos ante un fenómeno inédito que exige respuestas inmediatas», advirtió Cobos, quien calificó a la IA generativa como “un fenómeno inconmensurable e imprevisible”.
Videos hechos con IA: un nuevo desafío para la democracia
El episodio ocurrido en CABA no es aislado: es una advertencia. En un año en el que Argentina celebrará elecciones nacionales, la proliferación de deepfakes podría alterar la voluntad popular y erosionar la confianza en los comicios. Lo que hasta hace poco parecía ciencia ficción hoy es una herramienta real de manipulación masiva.
El desafío es doble: por un lado, exigir a las plataformas digitales mayor control y transparencia sobre estos contenidos. Por otro, educar al electorado en el consumo crítico de la información digital.
Como usuarios, tenemos la posibilidad y la responsabilidad de detener la viralización de videos falsos, denunciarlos y contrastarlos con fuentes confiables antes de compartirlos. La tecnología puede ser aliada o enemiga, pero está en nuestras manos decidir de qué lado juega.
ADEMÁS EN NEA HOY:
OlivIA: una comunicadora entrena una IA para detectar estereotipos y desigualdades de género
