Las cuatro pesadillas que las empresas de inteligencia artificial ya anotan en su agenda secreta

A principios de 2026, en oficinas donde no entra la prensa, los principales ejecutivos de las grandes compañías de inteligencia artificial se sientan a una mesa con un ejercicio que parece salido de un manual de ciencia ficción, pero que ellos tratan con la seriedad de un parte meteorológico: imaginar los peores escenarios posibles y anotar, en privado, qué harían si la tormenta finalmente se desatara. La dinámica no implica que esperen que esos eventos ocurran mañana, pero sí revela cuánto cambió el clima interno del sector frente a sistemas cada vez más capaces y más presentes en la vida cotidiana.

Cuatro escenarios que concentran la preocupación

Lo que más inquieta al puñado de directivos consultados en este tipo de conversaciones informales es, en primer lugar, un ciberataque de gran escala capaz de interrumpir infraestructura crítica: bancos fuera de línea, hospitales sin conectividad, redes de energía tambaleando o sistemas de agua potable en pausa. Un atacante decidido podría apoyarse en herramientas de IA para mapear vulnerabilidades a una velocidad impensada hace apenas cinco años, escribir código malicioso a medida y automatizar etapas que hasta hace poco requerían equipos enteros de especialistas. El último informe internacional sobre seguridad de la IA, correspondiente a 2026, ya documenta evidencia de actores maliciosos que están usando estos modelos en operaciones cibernéticas, y de sistemas capaces de asistir en la explotación de fallas de seguridad.

El segundo escenario que estas empresas anotan en rojo es el uso de modelos de IA para orientar el desarrollo de armas biológicas. Varias compañías incorporaron salvaguardas adicionales después de que las pruebas previas al lanzamiento no permitieran descartar que los sistemas pudieran ayudar a personas sin experiencia técnica en esa área. Las mismas capacidades, claro está, tienen aplicaciones perfectamente legítimas en investigación médica y en el estudio de nuevas terapias, por lo que el desafío pasa por dónde trazar la línea sin frenar hallazgos que podrían salvar vidas.

Pérdida de control y errores en cadena

El tercer punto que vuelve a aparecer en las reuniones a puertas cerradas es la posibilidad de perder el control sobre sistemas autónomos. Se imaginan agentes de IA persiguiendo objetivos que entran en conflicto con los intereses humanos y resultando caros o complicados de detener. Para que ese riesgo se materialice, los sistemas deberían poder evadir la supervisión y resistir intentos de apagado, una hipótesis que los propios investigadores del área no coinciden en calificar como probable o lejana. Anthropic publicó una investigación en la que, bajo condiciones controladas de laboratorio y con una vulnerabilidad preparada a propósito, logró que un modelo se replicara entre nodos que simulaban dispositivos Android. La empresa aclaró con énfasis que esto no demuestra la existencia de un gusano de IA capaz de propagarse libremente por internet, sino que lo presentó como una señal de riesgo a monitorear a medida que las capacidades de los modelos mejoren.

El cuarto escenario, finalmente, pone el foco en la aceleración de errores en contextos de tensión nuclear. La sola mención a la palabra nuclear cambia el clima de cualquier reunión corporativa: lo que en otros contextos sería un paper técnico para corregir un sesgo en un modelo, en ese marco puede traducirse en decisiones automatizadas con consecuencias geopolíticas de magnitudes impensadas. Por eso las empresas evalúan protocolos de pausa, mecanismos de revisión humana y circuitos de consulta con autoridades antes de habilitar ciertos usos en industrias sensibles.

Si algo queda claro después de repasar estos cuatro frentes es que la conversación ya no pasa por si la inteligencia artificial es peligrosa o no en abstracto, sino por qué tipo de daño concreto preocupa más y a quién le toca actuar primero. Las empresas piden coordinación con gobiernos, organismos internacionales y otras firmas del sector. Los gobiernos, mientras tanto, debaten cómo regular sin ahogar la innovación. Y en el medio, millones de usuarios que usan estas tecnologías para traducir un mail, resumir un informe o elegir una película quedan, casi sin darse cuenta, dentro de un experimento global que se reescribe cada semana. A mí, que cubro estos temas desde hace años, me sigue sacudiendo la distancia entre lo cotidiano de la herramienta y la magnitud de los riesgos que discuten sus creadores cuando las cámaras se apagan. Esa brecha, más que cualquier cifra, es lo que vale la pena mirar de cerca.