La Salvaguarda de The Silo, versión IA: nosotros instalamos el gas, vosotros tapad las rejillas

Aviso: este artículo contiene spoilers de la segunda temporada de «The Silo» (Apple TV+). Si sigues en la temporada 1, vuelve cuando hayas subido unos cuantos pisos.

En el fondo de The Silo hay una puerta. Cuando Lukas Kyle la cruza, una voz sin rostro le explica las condiciones con la amabilidad de un contestador automático: puede volver arriba, pero si cuenta lo que ha visto se activará la Salvaguarda. Al final de la temporada descubrimos qué es: un sistema capaz de soltar gas venenoso por la ventilación y acabar con los diez mil habitantes del silo.

Lo interesante no es el gas. Es el reparto de papeles. El sistema lo diseñaron los fundadores. El botón, lo tenga quien lo tenga, no está en las plantas de abajo. Pero la responsabilidad de que no se active es de los habitantes: no hables, no preguntes, no cruces puertas. Si algo sale mal, habrá sido culpa tuya.

Me acordé de todo esto al leer «Un llamamiento a la acción colectiva en defensa cibernética», una carta abierta impulsada por OpenAI y firmada por más de un centenar de organizaciones, entre ellas Anthropic, Google, Microsoft, AWS, Cisco o CrowdStrike. Vamos, casi todos los que importan.

El parte meteorológico de los fundadores

La carta arranca con tono de cuenta atrás: «Disponemos de un tiempo limitado para reforzar las defensas cibernéticas». A continuación avisa de que, en los próximos meses, los ciberataques facilitados por la IA serán mucho más frecuentes y sofisticados a medida que aumenten las capacidades de los modelos.

Está redactado como un parte meteorológico. Mañana, chubascos de ransomware en el norte, rachas fuertes de phishing generado con IA en el litoral y probabilidad alta de exploits automatizados en zonas con sistemas heredados. Abríguense.

Lo que el parte no dice es quién está sembrando las nubes. Las capacidades de los modelos no aumentan solas, como la humedad relativa. Las aumentan, trimestre a trimestre y con nota de prensa, algunas de las empresas que firman la carta. Es como si los fundadores del silo enviaran un comunicado a los diez mil vecinos: «Atención, en los próximos meses la concentración de gas en los conductos va a crecer mucho. Les rogamos que revisen sus rejillas».

Reparto de deberes en el Silo

La carta organiza la respuesta en cuatro grupos. Traducidos al idioma de The Silo, quedan así:

• Todas las organizaciones: tratad la ciberdefensa como un incidente prioritario, parchead lo más peligroso, sustituid los sistemas antiguos, aplicad mínimo privilegio y exigid seguridad en todo lo que compréis, incluido el código generado por IA. Traducción: el hospital comarcal con un servidor de 2009 y un informático a media jornada tiene deberes para este fin de semana. Y ojo con el código que te escribe la IA que te vendemos.
• Empresas de ciberseguridad: liderad la respuesta, reforzad vuestras herramientas con IA y ayudad a los operadores de infraestructuras críticas. Traducción: la planta de Mecánica arregla la ventilación.
• Gobiernos: coordinad, compartid información, financiad la defensa de los servicios esenciales e imponed costes a los atacantes. Traducción: Judicial pone el dinero y castiga a quien abra la puerta. A quien instaló el gas, de momento, no.
• Empresas de IA de vanguardia: dad acceso responsable a los modelos, financiación y formación, y cread herramientas de observabilidad. Traducción: nuestra parte del trabajo consiste en daros más de nuestro producto.

Seamos justos, que la sátira no está reñida con la honestidad: el último bloque incluye compromisos razonables, como que las identidades de los agentes de IA sean trazables y rindan cuentas, o invertir en pruebas autorizadas y divulgación privada de vulnerabilidades. El diagnóstico sobre la deuda técnica también es correcto. Los sistemas viejos y mal configurados son el sótano húmedo de internet, y hace falta ayuda para sanearlo.

Pero fíjate en lo que no aparece en ningún grupo. Nadie se compromete a ajustar el ritmo de los lanzamientos a la capacidad real de los defensores para absorberlos. No hay una sola línea sobre responsabilidad cuando una capacidad publicada acaba en una campaña de ataques. Tampoco sobre el freno de emergencia que pedía hace unos días Satya Nadella, cuya empresa, por cierto, también firma.

La carta incluso encuentra el lado bueno de que las capacidades avancen en todo el mundo: así ninguna empresa controla el futuro en solitario. Los fundadores de The Silo construyeron cincuenta silos. Tampoco controlaba nadie el futuro en solitario, y no sé si eso consoló mucho a los del Silo 17.

Controles compensatorios, edición Silo 17

Mi parte favorita de la carta es un consejo para las organizaciones: cuando un sistema no se pueda parchear sin interrumpir servicios esenciales, aplicad y verificad controles compensatorios.

En la serie, eso ya lo hicieron los padres de Solo. Descubrieron la Salvaguarda en el Silo 17 y no esperaron a que los fundadores la desactivaran. Taparon el conducto con sus propias manos. Un control compensatorio de manual, aplicado por los vecinos sobre un sistema que ellos no habían instalado.

Esa es exactamente la arquitectura de responsabilidad que propone la carta. Los que suben la presión del gas reparten llaves inglesas y se ofrecen a dar un curso sobre cómo taparlo. Generoso, sí. Pero el orden de los factores sí altera el producto.

Firme aquí, residente

La página termina con un formulario para que tu organización se sume a la llamada a la acción. Nombre, correo y listo: pasas a formar parte del esfuerzo colectivo. En The Silo, todo gira alrededor del Pacto, que nadie firmó pero todos deben cumplir. Aquí al menos te dejan firmarlo, y solo te piden un correo electrónico.

Que quede claro: los defensores necesitan IA, la colaboración entre empresas y gobiernos es buena idea y prefiero mil veces una carta así a ninguna. Pero cuando quien tiene la mano en la válvula te pide que contengas la respiración, la primera pregunta no es cuánto aire te queda. Es por qué no suelta la válvula.

Hasta que la próxima carta abierta incluya un apartado que empiece por «Lo que nosotros vamos a dejar de hacer», seguiremos viviendo en el silo. Con buena ventilación, eso sí. De momento.