Diario de un apocaloptimista: construir en la frontera sin perder el norte

«The AI Doc: Or How I Became an Apocaloptimist» empieza con una noticia íntima: su director, Daniel Roher —ganador del Óscar por «Navalny»—, va a ser padre. Y a partir de ahí hace la pregunta que cualquiera de nosotros se ha hecho alguna vez frente a un titular sobre inteligencia artificial: ¿en qué mundo va a crecer mi hijo?

Durante 104 minutos, Roher y Charlie Tyrell recorren la industria entrevistando a quienes están construyendo esta tecnología y a quienes más la temen. Lo vi como alguien que trabaja todos los días con estos sistemas, y salí con una incomodidad que me parece valiosa. Este ensayo intenta ordenar esa incomodidad.

1. La pregunta de un padre

Lo que diferencia a este documental de otros sobre IA es el punto de vista. No es un periodista buscando una exclusiva ni un tecnólogo vendiendo una visión. Es alguien que tiene algo concreto en juego y que no entiende del todo la tecnología, pero sí entiende lo que significa la responsabilidad.

Esa mirada desarma a los entrevistados. Cuando la pregunta no es «¿cuándo llega la AGI?» sino «¿le dirías a tu hijo que esto va a salir bien?», las respuestas cambian. Aparecen pausas, matices, incertidumbre. Y eso, para mí, es lo más honesto del film.

Lo más revelador no son las predicciones. Es ver a los creadores de los modelos más avanzados admitir que no saben cómo termina esto.

2. El mosaico de la frontera

La lista de entrevistados es, básicamente, el mapa de poder y de pensamiento de la IA actual: Sam Altman, Dario Amodei, Demis Hassabis, Ilya Sutskever, Jan Leike, Yoshua Bengio, Eliezer Yudkowsky, Tristan Harris, Timnit Gebru, Emily Bender y Guillaume Verdon, entre otros.

El montaje los pone a conversar sin que estén en la misma sala. De un lado, la promesa: curas para enfermedades, ciencia acelerada, conocimiento accesible para cualquiera. Del otro, las advertencias: pérdida de control, concentración de poder, daños presentes que ya afectan a personas reales y que no necesitan ninguna superinteligencia para existir.

Me pareció especialmente importante que el documental no reduzca la crítica a un único discurso. No es lo mismo el riesgo existencial que plantea Yudkowsky que los daños sociales y laborales que señalan Gebru y Bender. Ambas preocupaciones son legítimas, pero hablan de cosas distintas, y mezclarlas suele servir para ignorar las dos.

• La promesa: abundancia científica, médica y de conocimiento.
• El riesgo de largo plazo: sistemas cada vez más capaces que no sabemos alinear del todo.
• Los daños presentes: sesgos, desinformación, precarización y concentración de poder.
• La tensión de fondo: una carrera comercial que avanza más rápido que los acuerdos sobre seguridad.

3. Las renuncias que nadie puede ignorar

Hay un hilo que atraviesa la película y que conecta con noticias que seguimos de cerca: la salida de investigadores de seguridad de los grandes laboratorios. Cuando las personas encargadas de pensar en los riesgos deciden irse y explicar públicamente por qué, es una señal que conviene escuchar.

No lo interpreto como prueba de que todo está perdido, sino como evidencia de algo más sencillo: los incentivos comerciales y los incentivos de seguridad no siempre apuntan en la misma dirección. Y cuando chocan, la velocidad suele ganar.

4. Ni el pánico ni la fe ciega

Los debates sobre IA en internet tienden a dos caricaturas. Una dice que vamos directo al desastre y que cualquier avance es imprudente. La otra dice que cualquier preocupación es miedo irracional y que el progreso se ordena solo. Las dos son cómodas, porque te liberan de pensar: o no hay nada que hacer, o no hay nada de qué preocuparse.

El término que da título al documental —apocaloptimismo— propone otra cosa. No es un punto medio tibio. Es sostener dos ideas a la vez: que esta tecnología puede hacer muchísimo bien y que puede salir muy mal. Y que ambas cosas dependen, en buena parte, de decisiones que están tomando personas concretas ahora mismo.

El apocaloptimista no espera a ver qué pasa. Asume que el desenlace se está construyendo, y que construirlo bien es trabajo.

5. La mirada de quien construye

Desde donde estoy —implementando sistemas de IA en organizaciones reales, en Latinoamérica, lejos de los laboratorios de San Francisco o Londres— el documental me deja una conclusión práctica: no podemos permitirnos ni la ingenuidad ni el cinismo.

La ingenuidad es desplegar un agente porque la demo funcionó, sin preguntar qué pasa cuando falla. El cinismo es decir que como las grandes decisiones se toman lejos, lo que hagamos aquí no importa. Pero sí importa. Cada sistema que se pone en producción es una pequeña decisión sobre qué tan cuidadosos somos.

• Soberanía técnica: entender lo que usamos, poder auditarlo y no depender de un único proveedor.
• Evaluación continua: medir el comportamiento real del sistema, no solo su rendimiento en la demo.
• Transparencia con quien lo usa: explicar qué hace la IA, qué no hace y quién responde cuando se equivoca.
• Formación en comunidad: que más personas entiendan cómo funcionan estos sistemas es una forma de seguridad.

6. Lo que le diría a ese hijo

Al final, la pregunta de Roher sigue abierta, y creo que así debe ser. No sé si esto va a salir bien. Nadie lo sabe, y el documental tiene la honestidad de mostrarlo.

Lo que sí sé es que el futuro de esta tecnología no está escrito por los modelos. Lo están escribiendo personas: las que investigan, las que regulan, las que invierten y también las que, como yo, construimos sistemas cada día y enseñamos a otros a hacerlo. Ser apocaloptimista, para mí, es eso: mirar el riesgo de frente y, aun así, ponerse a trabajar para que la versión buena sea la que gane.

Si viste el documental, me interesa saber con qué te quedaste. Y si todavía no lo viste, te recomiendo hacerlo junto con «Instadocs: AI Gone Wild»: uno muestra la pregunta grande; el otro, un caso concreto de lo que pasa cuando la ingeniería no está a la altura.