La inteligencia artificial no es el futuro. Es el presente que todavía no sabemos gobernar
Mi análisis de The AI Doc: Or How I Became an Apocaloptimist
Llevo tiempo trabajando con inteligencia artificial, utilizándola prácticamente todos los días y ayudando a empresas a incorporarla a sus procesos. Por eso, cuando vi The AI Doc: Or How I Became an Apocaloptimist —estrenado en España como La IA: ¿optimismo o apocalipsis?— no esperaba descubrir una nueva herramienta ni aprender a escribir mejores prompts.
Esperaba algo bastante más importante: encontrar argumentos para responder a una pregunta que cada vez me hago con mayor frecuencia.
¿Estamos construyendo una tecnología que nos ayudará a vivir y trabajar mejor o estamos desarrollando algo que terminará escapando de nuestro control?
La respuesta del documental no es especialmente tranquilizadora: probablemente ambas cosas.
Dirigido por Daniel Roher y Charlie Tyrell, el documental reúne a investigadores, empresarios, tecnólogos y voces críticas como Sam Altman, Dario y Daniela Amodei, Demis Hassabis, Tristan Harris, Aza Raskin, Yoshua Bengio, Yuval Noah Harari o Karen Hao. Más de cuarenta especialistas que, después de casi dos horas, no consiguen ponerse de acuerdo sobre el futuro de la inteligencia artificial.
Y, curiosamente, esa falta de consenso es una de las principales conclusiones de la película.
Una pregunta tecnológica convertida en algo personal
El punto de partida del documental no es técnico, sino profundamente humano.
Daniel Roher descubre que va a ser padre y comienza a preguntarse si es responsable traer un hijo a un mundo que está acelerando hacia un futuro que nadie parece controlar completamente.
La pregunta puede parecer dramática, pero sirve para bajar la conversación sobre inteligencia artificial del escenario de los congresos tecnológicos a la vida real.
Ya no hablamos únicamente de modelos, algoritmos o capacidad de computación. Hablamos de educación, empleo, desigualdad, creatividad, salud, democracia y poder.
Hablamos del mundo en el que van a vivir nuestros hijos.
Y aquí aparece una de las ideas que más me interesa del documental: ni siquiera las personas que están desarrollando los sistemas más avanzados saben explicar con absoluta certeza hasta dónde pueden llegar.
Los modelos se entrenan utilizando más información de la que una persona podría leer durante varias vidas. Aprenden relaciones que sus propios creadores no siempre pueden interpretar y desarrollan capacidades que, en ocasiones, no estaban previstas inicialmente. Investigadores como Yoshua Bengio, Ilya Sutskever o Shane Legg reconocen en la película que existen partes del funcionamiento de estos sistemas que no podemos comprender completamente. Según recoge el análisis de The Guardian, esa incertidumbre atraviesa buena parte del documental.
Utilizamos herramientas cuyos resultados podemos observar, pero cuyos procesos internos no controlamos del todo.
No parece el mejor punto de partida para entregarlas las llaves del planeta.
Los apocalípticos: cuando dejamos de ser la especie más inteligente
La primera parte del documental recoge las posiciones más pesimistas.
Expertos como Tristan Harris, Aza Raskin, Eliezer Yudkowsky o Dan Hendrycks advierten sobre la posibilidad de que la inteligencia artificial general —una IA capaz de superar a los seres humanos en prácticamente cualquier tarea intelectual— pueda aparecer antes de lo que pensamos.
El riesgo no consiste necesariamente en que una máquina se vuelva malvada y decida atacarnos.
Esa es la versión cinematográfica.
El problema real puede ser mucho más sencillo: que un sistema extraordinariamente inteligente persiga un objetivo que no esté correctamente alineado con nuestros intereses.
Una de las comparaciones más contundentes del documental es la relación entre los seres humanos y las hormigas. Nosotros no odiamos a las hormigas, pero si necesitamos construir una carretera sobre un hormiguero, probablemente las hormigas no tendrán demasiado que decir.
El temor es que algún día ocupemos nosotros ese lugar.
Tristan Harris llega a afirmar que conoce a personas que trabajan analizando los riesgos de la IA y que no esperan que sus hijos lleguen al instituto. Puede parecer una frase diseñada para provocar, pero procede de alguien que lleva años estudiando cómo la tecnología transforma nuestro comportamiento.
La advertencia no debería descartarse simplemente porque resulte incómoda.
Los optimistas: salud, abundancia y una nueva etapa para la humanidad
Después llegan los optimistas y los llamados aceleracionistas.
Para ellos, frenar el desarrollo de la inteligencia artificial también tendría un coste humano enorme.
La IA puede acelerar el descubrimiento de medicamentos, mejorar diagnósticos médicos, optimizar el consumo energético, desarrollar nuevos materiales, ayudar a combatir el cambio climático y aumentar radicalmente la productividad.
Peter Diamandis sostiene que los niños nacidos hoy pueden entrar en una etapa de transformación extraordinaria. Otros participantes imaginan un futuro en el que muchas enfermedades sean curables y el trabajo más repetitivo deje de ocupar una parte tan importante de nuestra vida.
Y tampoco podemos ignorar este argumento.
Detener una tecnología que podría salvar millones de vidas también sería una decisión moral. El problema es que quienes defienden acelerar suelen hablar mucho de las posibilidades y bastante menos de quién asumirá los daños si las cosas salen mal.
Además, una parte importante del discurso optimista procede de las mismas empresas que necesitan que sigamos invirtiendo, utilizando y confiando en sus productos.
No significa que estén mintiendo. Pero tampoco deberíamos confundir una visión del futuro con una estrategia comercial.
Silicon Valley también tiene departamento de ventas.
La carrera en la que nadie quiere levantar el pie
Sam Altman, Dario Amodei y Demis Hassabis participan directamente en el documental. Mark Zuckerberg rechazó hacerlo y Elon Musk terminó cancelando su intervención.
Sus empresas compiten por liderar una tecnología que podría redefinir la economía mundial. Pero esa competencia genera un problema evidente: aunque alguno de ellos quisiera avanzar con más precaución, siempre existiría el miedo de que otra compañía o país continuase acelerando.
Es la lógica de una carrera armamentística.
Todos reconocen los riesgos, pero nadie quiere ser el primero en frenar.
Altman admite que no puede garantizar que todo vaya a salir bien. Dario Amodei resume la situación de manera todavía más clara: este tren no se va a detener.
Ese es posiblemente el punto más incómodo del documental. Las decisiones que pueden afectar al futuro de la humanidad se están tomando dentro de unas pocas empresas privadas, dirigidas por un grupo bastante reducido de personas y sometidas a una presión económica enorme.
Nos piden confianza.
Pero la confianza no puede sustituir a la supervisión.
El coste físico de una tecnología que parece invisible
El documental también acierta al recordar que la inteligencia artificial no vive en una nube mágica.
Necesita centros de datos, chips, energía, agua e infraestructuras. Su desarrollo tiene consecuencias físicas sobre territorios y poblaciones que rara vez aparecen en las presentaciones corporativas.
Mientras hablamos de una inteligencia casi divina, hay comunidades soportando aumentos en el precio de la electricidad, consumo masivo de agua y decisiones sobre infraestructuras que apenas pueden cuestionar.
También existen impactos más cercanos: empleos transformados o eliminados, propiedad intelectual utilizada sin autorización, contenido falso, manipulación política y concentración de poder.
El futuro apocalíptico preocupa, pero no debería distraernos de los problemas que ya existen.
A veces debatimos sobre si una superinteligencia podría destruir la humanidad mientras ignoramos que los algoritmos actuales ya están afectando a la educación, la información, el mercado laboral y nuestras decisiones de compra.
Entonces, ¿optimismo o apocalipsis?
El concepto que propone el documental es el de “apocaloptimismo”: comprender la gravedad de los riesgos sin renunciar a la posibilidad de construir un resultado positivo.
Personalmente, es la posición que me parece más razonable.
No creo en el optimismo ingenuo de pensar que la tecnología resolverá automáticamente todos nuestros problemas. La historia demuestra que una innovación no distribuye sus beneficios de manera justa por sí sola.
Pero tampoco comparto el discurso de quienes creen que la única respuesta consiste en detenerlo todo.
La inteligencia artificial ya está aquí. Las empresas la están utilizando, los trabajadores también y los ciudadanos están incorporándola a su vida diaria, muchas veces sin ser plenamente conscientes.
La cuestión ya no es si debemos usarla.
La cuestión es cómo, para qué y bajo qué reglas.
Lo que las empresas deberían aprender de este documental
Aunque la película plantea grandes cuestiones sobre el futuro de la humanidad, también deja algunas lecciones muy concretas para cualquier empresa.
La primera es que incorporar inteligencia artificial no significa comprar una herramienta y repartir licencias.
Hace falta identificar procesos, formar a las personas, proteger la información, revisar los resultados y establecer responsabilidades. Automatizar un proceso mal diseñado solo permite cometer errores más rápido y a mayor escala.
La segunda es que no todo lo que puede automatizarse debería automatizarse.
Una empresa debe decidir qué quiere ganar con la IA —tiempo, eficiencia, capacidad de análisis o mejor servicio—, pero también qué no quiere perder: criterio, conocimiento interno, confianza del cliente y responsabilidad.
La tercera es que la inteligencia artificial no sustituirá simplemente a las personas. Lo que hará será aumentar la diferencia entre quienes sepan utilizarla con criterio y quienes se limiten a contemplarla desde la barrera.
No creo que la IA vaya a quitarles el trabajo a todos.
Pero sí creo que muchas empresas que sepan utilizarla desplazarán a otras que todavía sigan debatiendo si esto es una moda.
Mi conclusión: la esperanza no es una estrategia
El documental no ofrece una respuesta definitiva y, en ocasiones, acumula tantas voces y advertencias que puede resultar algo abrumador. También echo en falta una mirada más profunda sobre las pequeñas empresas, los trabajadores y las personas que ya están utilizando estas herramientas fuera de Silicon Valley.
Pero cumple con algo mucho más importante: obliga a pensar.
No deberíamos delegar el futuro de la inteligencia artificial únicamente en quienes la desarrollan. Necesitamos regulación, transparencia, responsabilidad legal y coordinación internacional. El documental plantea mecanismos comparables a los creados para controlar otras tecnologías de gran riesgo: supervisión independiente, auditorías, responsabilidad por los daños y obligación de identificar el contenido generado artificialmente.
Y, al mismo tiempo, necesitamos aprender a utilizarla.
Porque rechazar la inteligencia artificial no nos protegerá de sus consecuencias. Pero adoptarla sin criterio tampoco nos garantiza formar parte de sus beneficios.
Después de ver The AI Doc, sigo siendo optimista sobre lo que esta tecnología puede aportar. La utilizo, la enseño y veo cada día cómo puede mejorar la productividad y la capacidad de muchas empresas.
Pero soy bastante menos optimista respecto a nuestra habilidad para poner límites cuando existen miles de millones en juego.
Quizá eso sea convertirse en apocaloptimista: entender que algo puede salir extraordinariamente bien, asumir que también podría salir terriblemente mal y decidir que cruzarse de brazos no es una opción.
La inteligencia artificial no decidirá sola nuestro futuro.
El problema es que, de momento, tampoco está demasiado claro quién lo está decidiendo.
