Geoffrey Hinton, el científico británico-canadiense que durante casi medio de siglo fue una de las columnas del desarrollo de la inteligencia artificial moderna, regresó al centro del debate público con una estimación que recorrió el mundo: la humanidad enfrenta entre un 10 % y un 20 % de probabilidades de ser reemplazada por sistemas superinteligentes en un horizonte de treinta años. El dato, difundido por el investigador de 78 años en declaraciones recogidas por medios internacionales, vuelve a poner sobre la mesa un escenario de extinción que la comunidad científica había discutido hasta ahora de manera más bien especulativa.

La cifra se apoya en una observación técnica: la velocidad de avance de los modelos generativos superó cualquier proyección que el propio Hinton manejaba hace apenas diez años. Esa aceleración, según explicó, es la variable que más pesa en su cálculo de riesgo, más que cualquier consideración ética sobre el uso de la tecnología. En otras palabras, no es lo que la inteligencia artificial puede hacer hoy lo que preocupa al Nobel de Física 2024, sino el ritmo al que está ampliando ese catálogo de capacidades.

De las correlaciones a la comprensión de conceptos

Hinton fue más allá del diagnóstico cuantitativo y describió un salto cualitativo en los grandes modelos de lenguaje. A su juicio, sistemas como los desarrollados por OpenAI, Anthropic o Google DeepMind ya no se limitan a detectar regularidades estadísticas en montañas de texto: comprenden, de manera efectiva, los conceptos semánticos y abstractos que procesan. Esa distinción, sostuvo, redefine la categoría del riesgo, porque obliga a dejar de pensar en la inteligencia artificial como una herramienta pasiva y empezar a considerarla como un agente con representación interna del mundo.

“La innovación tecnológica es como un acelerador de un automóvil. Si no tenés volante, cuanto más rápido vas, más peligroso resultás.”Geoffrey Hinton

El reclamo de un marco global

• Regulación estatal inmediata en cada jurisdicción, con obligaciones vinculantes para los desarrolladores.
• Un tratado internacional que homologue estándares y evite que la competencia geopolítica diluya los controles.
• Mecanismos de auditoría externa sobre los modelos de frontera, similares a los existentes en la industria nuclear o la farmacéutica.
• Cláusulas de transparencia obligatoria sobre los datos de entrenamiento y los límites de capacidad de cada sistema.
• Prohibición explícita de aplicaciones que deleguen en la máquina decisiones de vida o muerte sin supervisión humana.

El investigador reconoció el argumento habitual de los gobiernos que dudan en legislar por miedo a perder frente a rivales como Estados Unidos o China, y lo rechazó de plano. En su esquema, confiar en que el libre mercado contendrá por sí solo una amenaza de esta magnitud constituye, en sus palabras, un error estratégico de proporciones históricas. La competencia internacional, añadió, no puede servir como excusa para postergar la construcción de un andamiaje legal global.

Para el científico, el margen de acción todavía existe, aunque se estrecha con cada nueva generación de modelos. La humanidad conserva la capacidad de decidir la orientación ética de los sistemas que está creando, pero esa ventana se achica a medida que los algoritmos ganan capacidad de actuar de forma autónoma. La advertencia apunta directamente a los Parlamentos y a los organismos multilaterales: lo que no se regule en los próximos años difícilmente pueda enderezarse después, cuando la tecnología ya esté internalizada en infraestructura crítica, finanzas, defensa y comunicaciones. Antonella Barría, Pesca y puerto.