La inteligencia artificial ya puede crear vídeos de personas que nunca dijeron lo que estamos viendo, multiplicar mensajes políticos mediante miles de cuentas automatizadas y poner en duda incluso acontecimientos que realmente sucedieron. ¿Estamos preparados para sus consecuencias?
Hay algo más preocupante que descubrir que el vídeo de un político ha sido creado con inteligencia artificial.
Que el vídeo sea auténtico y ya nadie se lo crea.
Hemos llegado a un punto en el que la tecnología no solo permite fabricar mentiras extraordinariamente convincentes. También permite que una verdad incómoda se desacredite con una frase: «Eso está hecho con IA».
Y esto plantea un problema que va mucho más allá de las herramientas tecnológicas.
¿Qué sucede con una democracia cuando sus ciudadanos dejan de confiar en lo que ven y escuchan?
Para hablar de ello, en un nuevo episodio de NoClub Podcast, Isidro Pérez y Denis Rodríguez conversan con José de la Cruz, director técnico de Trend Micro Iberia y experto en ciberseguridad, sobre el papel que puede desempeñar la inteligencia artificial en las elecciones, las campañas de desinformación y la seguridad de empresas y ciudadanos.
Una conversación que comienza hablando de política, pero termina cuestionando algo bastante más profundo: nuestra capacidad para distinguir la realidad de la ficción.
La inteligencia artificial no inventó la manipulación. La ha puesto al alcance de muchos más
La propaganda política, la desinformación y los intentos de influir en la opinión pública existen desde mucho antes de que aparecieran ChatGPT y las herramientas de inteligencia artificial generativa.
Lo que ha cambiado es la capacidad para producir y distribuir contenido.
José de la Cruz plantea durante la entrevista una idea fundamental:
La inteligencia artificial es un acelerador de las capacidades humanas.
Eso significa que permite hacer más rápido, más barato y a mayor escala lo que antes requería muchos recursos.
Y funciona en ambas direcciones.
Un partido político puede utilizar la IA para analizar información, adaptar mensajes a diferentes públicos o mejorar su comunicación.
Un medio de comunicación puede emplearla para investigar, traducir contenidos y mejorar sus procesos editoriales.
Pero quienes pretendan desinformar también pueden utilizar esas mismas capacidades.
Antes, producir una falsificación audiovisual convincente requería conocimientos técnicos, recursos económicos y tiempo.
Hoy, determinadas herramientas permiten generar contenidos sintéticos con una barrera de entrada mucho menor.
La amenaza no consiste únicamente en que podamos crear mentiras mejores. Consiste en que podemos producirlas y distribuirlas a una escala que antes resultaba mucho más difícil.
Deepfakes: cuando ver algo ya no significa que haya ocurrido
Imagina que, durante una campaña electoral, aparece un vídeo de un candidato realizando unas declaraciones especialmente polémicas.
Su voz coincide.
Sus gestos parecen naturales.
Su rostro es perfectamente reconocible.
El vídeo se comparte miles de veces.
Aparece en grupos de WhatsApp, redes sociales y conversaciones familiares.
Horas después descubrimos que nunca pronunció esas palabras.
Era un deepfake.
Los deepfakes son contenidos audiovisuales creados o manipulados mediante inteligencia artificial que pueden reproducir de manera convincente la apariencia o la voz de una persona.
Y su potencial va mucho más allá de la política.
Durante el podcast, José explica que la suplantación de identidad también representa una amenaza importante para las empresas.
Por ejemplo, alguien podría utilizar una voz o una imagen sintética para hacerse pasar por un directivo y solicitar a un empleado que realice una transferencia económica o facilite información confidencial.
Lo interesante es que José no habla únicamente desde la teoría.
Un vídeo hiperrealista por apenas 200 o 300 euros
Durante la conversación comparte una experiencia relacionada con un evento técnico de ciberseguridad.
Para recrear un escenario ficticio de incidente informático, utilizaron herramientas de inteligencia artificial y fotografías cedidas por compañeros para generar vídeos de supuestos reporteros informando desde una central nuclear en Japón.
El resultado, según explica, era extraordinariamente realista.
Y el coste del ejercicio fue de aproximadamente 200 a 300 euros.
No era una operación de manipulación ni un intento de engañar al público: se trataba de una demostración técnica en un contexto controlado.
Pero sirve para entender la magnitud del cambio.
Si ese tipo de contenido puede producirse con recursos relativamente modestos, ¿qué pueden conseguir organizaciones con presupuestos mucho mayores?
Y, sobre todo, ¿cómo podemos verificar que lo que estamos viendo corresponde a un acontecimiento real?
Miles de bots pueden hacer que una mentira parezca una opinión mayoritaria
Hay otra forma de manipulación que recibe menos atención que los vídeos falsos.
La fabricación artificial de popularidad.
Imagina que una publicación política aparece de repente con miles de comentarios, compartidos y reacciones.
Nuestra primera impresión puede ser que ese mensaje está generando un enorme interés social.
Pero ¿y si una parte importante de esa actividad no procede de personas reales?
Durante la entrevista, José explica cómo la inteligencia artificial puede facilitar la automatización de redes de cuentas y la amplificación de mensajes.
Y aquí aparece una cuestión especialmente interesante.
No es necesario convencer a todo el mundo si primero consigues que parezca que todo el mundo está convencido.
La percepción de popularidad puede influir en la manera en que interpretamos una noticia, un candidato o una propuesta.
Cuando vemos que un mensaje acumula cientos de respuestas favorables, podemos interpretar que representa una opinión social ampliamente compartida.
Pero esa actividad podría estar amplificada artificialmente.
Esto no significa que cualquier publicación viral sea falsa o manipulada. Significa que las métricas de interacción, por sí solas, ya no son suficientes para evaluar el apoyo real a una idea.
Y nos lleva a otra pregunta:
¿Cuánto de lo que consideramos opinión pública es realmente opinión pública?
El dividendo del mentiroso: cuando la inteligencia artificial también sirve para ocultar la verdad
Este es probablemente uno de los conceptos más interesantes de todo el episodio.
José introduce el término inglés liar's dividend, que podemos traducir como el dividendo del mentiroso.
La idea es tan sencilla como inquietante.
Cuando una sociedad sabe que existen herramientas capaces de fabricar vídeos, imágenes y audios realistas, cualquier persona puede aprovechar esa desconfianza para negar una prueba auténtica.
Imagina que aparece una grabación real de un personaje público haciendo unas declaraciones comprometedoras.
En lugar de responder por sus palabras, simplemente afirma:
«Ese vídeo está creado con inteligencia artificial».
No necesita demostrarlo.
Le basta con sembrar la duda.
Una parte de la audiencia estará predispuesta a creerlo porque sabe que los deepfakes existen.
La misma tecnología que permite fabricar pruebas falsas puede terminar debilitando la credibilidad de las pruebas auténticas.
Y eso cambia por completo el problema.
Hasta hace relativamente poco, nuestra preocupación principal era evitar que nos engañaran con información falsa.
Ahora también tenemos que evitar que nos convenzan de que la información verdadera es falsa.
La inteligencia artificial puede hacer que creamos cosas que nunca sucedieron. Pero también puede conseguir que dudemos de cosas que sí sucedieron.
¿Cuál de las dos consecuencias resulta más peligrosa?
¿Estamos entrando en una sociedad que desconfía de todo?
Durante el podcast, Isidro Pérez comparte una reflexión personal.
Explica que ha llegado a un punto en el que, cuando encuentra determinados contenidos en redes sociales, su primera reacción es cuestionar su autenticidad.
Incluso relata una situación en la que interpretó inicialmente como posible contenido manipulado unas declaraciones políticas que después comprobó que eran reales.
Es una reacción comprensible.
Si sabemos que las falsificaciones existen, desarrollar una mirada crítica parece una buena estrategia.
Pero también existe un riesgo.
Que pasemos del exceso de confianza a la desconfianza absoluta.
Y ninguna de las dos posiciones es especialmente saludable.
Creer automáticamente todo lo que vemos nos convierte en objetivos fáciles para la manipulación.
Pero considerar falso cualquier contenido que no encaja con nuestras expectativas también nos hace vulnerables.
El pensamiento crítico no consiste en desconfiar siempre.
Consiste en saber cuándo debemos verificar algo y disponer de criterios para hacerlo.
Porque una sociedad incapaz de ponerse de acuerdo sobre los hechos tiene muchas más dificultades para debatir sobre las soluciones.
¿Puede la propia inteligencia artificial ayudarnos a detectar los engaños?
Aquí aparece una de las paradojas de esta revolución tecnológica.
La misma inteligencia artificial que se utiliza para producir contenidos falsos también puede ayudar a analizarlos.
José explica que las herramientas de IA pueden resultar útiles para estudiar contenidos sospechosos y apoyar los procesos de verificación.
Pero también reconoce una dificultad: no siempre resulta sencillo identificar un deepfake.
Esto es especialmente importante.
Preguntar a un chatbot si un vídeo es auténtico puede ayudarnos a buscar contexto, identificar inconsistencias o localizar información adicional.
Pero su respuesta no constituye una prueba definitiva.
Los modelos de inteligencia artificial también pueden equivocarse.
Por tanto, la verificación debería combinar distintas fuentes y procedimientos.
En la práctica, cuando encontramos información sospechosa, conviene:
- Buscar la publicación o declaración original y comprobar su contexto.
- Contrastar la noticia con fuentes independientes y medios que documenten sus afirmaciones.
- Examinar quién publica el contenido y qué pruebas ofrece.
- Evitar compartirlo mientras existan dudas importantes sobre su autenticidad.
- Utilizar herramientas de inteligencia artificial como apoyo, pero no como árbitros infalibles de la verdad.
La cuestión no es dejar de utilizar tecnología.
Es aprender a utilizarla con criterio.
Los medios de comunicación tienen un nuevo reto: demostrar por qué debemos confiar en ellos
La inteligencia artificial también está transformando el periodismo.
Y durante el episodio surge una reflexión especialmente relevante sobre el papel de los medios de comunicación.
En un entorno donde cualquiera puede generar textos, imágenes, vídeos y audios en cuestión de minutos, ¿qué valor diferencial conserva un periodista?
José propone una respuesta clara: el rigor.
La capacidad de contrastar información, verificar fuentes, interpretar acontecimientos y asumir responsabilidad editorial.
La IA puede ayudar a redactar, traducir, resumir o distribuir noticias.
Pero ninguna de esas funciones sustituye automáticamente el trabajo de comprobar si lo que se está contando es cierto.
Esto abre una oportunidad para los medios que hacen bien su trabajo.
En una sociedad saturada de contenidos, la confianza puede convertirse en un activo todavía más importante.
Eso no significa que los medios tradicionales sean infalibles ni que estén libres de errores o sesgos.
Significa que el valor ya no está simplemente en publicar información, sino en poder justificar por qué esa información merece credibilidad.
Y eso exige transparencia, correcciones cuando sean necesarias y responsabilidad frente a la audiencia.
Las empresas tampoco están fuera de esta amenaza
Aunque buena parte de la conversación gira alrededor de la política, las implicaciones empresariales son enormes.
Un director financiero puede recibir una llamada que parece proceder del CEO.
Un empleado puede encontrarse con una videollamada aparentemente legítima en la que se le solicita información confidencial.
Una empresa puede sufrir una campaña de suplantación de identidad utilizando imágenes o voces de sus responsables.
Y un contenido falso puede dañar su reputación antes de que consiga desmentirlo.
La inteligencia artificial no crea todos estos riesgos desde cero.
Lo que hace es modificar su coste, su velocidad y su capacidad de sofisticación.
Por eso, la ciberseguridad ya no puede entenderse únicamente como un problema del departamento informático.
También afecta a dirección, recursos humanos, administración, comunicación y atención al cliente.
Una medida sencilla, pero importante, es establecer procedimientos de verificación independientes para determinadas operaciones sensibles.
Por ejemplo, una solicitud urgente de transferencia no debería validarse exclusivamente porque llegue acompañada de una voz o un vídeo que parecen pertenecer a una persona conocida.
La confianza personal sigue siendo importante.
Pero las operaciones críticas necesitan controles que no dependan únicamente de reconocer una cara o una voz.
Educación digital: probablemente la inversión más importante que podemos hacer
La entrevista termina con una reflexión que trasciende los deepfakes y las elecciones.
La necesidad de educar a la sociedad en ciberseguridad y pensamiento crítico.
José insiste en que la concienciación debería llegar a todos los públicos, desde los niños hasta las personas mayores.
Porque todos utilizamos tecnología.
Y todos podemos encontrarnos ante una estafa, una noticia manipulada o un intento de suplantación de identidad.
La formación no debería limitarse a enseñar cómo funcionan las herramientas.
También debería ayudarnos a comprender sus limitaciones y sus posibles usos malintencionados.
No se trata de convertir a toda la ciudadanía en especialistas en inteligencia artificial.
Se trata de desarrollar hábitos básicos de seguridad digital y verificación.
Y esto también afecta a las empresas.
Una organización puede invertir grandes cantidades en herramientas avanzadas de ciberseguridad y seguir siendo vulnerable si las personas que trabajan en ella no saben reconocer situaciones sospechosas.
La tecnología puede protegernos. Pero ninguna tecnología sustituye completamente la necesidad de pensar.
Entonces, ¿puede la inteligencia artificial decidir unas elecciones?
No existe una respuesta tan sencilla como un sí o un no.
La inteligencia artificial puede utilizarse para influir en la conversación pública, producir contenidos engañosos, amplificar determinados mensajes o dificultar la identificación de información auténtica.
Eso no significa que una tecnología determine por sí sola un resultado electoral.
Los ciudadanos siguen tomando decisiones y existen muchos otros factores que influyen en el voto.
Pero sería un error minimizar el riesgo.
Porque los efectos de la desinformación no se limitan a conseguir que alguien vote a un determinado partido.
También pueden consistir en desmovilizar, polarizar, confundir o erosionar la confianza en las instituciones y los procesos democráticos.
Y ahí aparece el verdadero desafío.
Quizá la amenaza más importante de la inteligencia artificial no sea que termine pensando por nosotros, sino que dejemos de pensar críticamente porque ya no sepamos en qué confiar.
Una conversación que merece continuar
En NoClub creemos que la inteligencia artificial y la tecnología no pueden analizarse únicamente desde sus posibilidades comerciales o técnicas.
También tenemos que hablar de sus consecuencias sociales, empresariales y políticas.
Por eso, en este capítulo de NoClub Podcast, junto a José de la Cruz, exploramos algunas de las preguntas que van a marcar los próximos años.
¿Cómo identificaremos la información auténtica?
¿Qué responsabilidad deben asumir las plataformas digitales?
¿Cómo pueden protegerse empresas y ciudadanos?
¿Y qué sucederá cuando fabricar una mentira resulte más sencillo que demostrar la verdad?
La conversación no pretende ofrecer respuestas definitivas.
Pretende abrir un debate necesario.
Mira el capítulo completo de NoClub Podcast
Invitado: José de la Cruz, director técnico de Trend Micro Iberia.
Conducen: Isidro Pérez y Denis Rodríguez.
Temas: inteligencia artificial, elecciones, deepfakes, desinformación, bots, ciberseguridad y pensamiento crítico.
Y ahora queremos conocer tu opinión:
¿Qué te preocupa más: que la inteligencia artificial pueda fabricar mentiras convincentes o que podamos utilizarla como excusa para negar verdades incómodas?
Te leemos en los comentarios.
NoClub. Tecnología, inteligencia artificial y negocios. Sin postureo.
