El director ejecutivo de OpenAI, Sam Altman, advirtió este lunes que el avance de la inteligencia artificial plantea dos riesgos centrales: la pérdida de control humano sobre sistemas cada vez más capaces y la acumulación de un poder desproporcionado en una sola persona, empresa o país. Las declaraciones fueron publicadas en un ensayo y reproducidas por medios especializados.

Los dos escenarios que preocupan a Altman

En primer lugar, el ejecutivo alertó sobre la posibilidad de que la humanidad quede desplazada del timón de la tecnología. Confirmaron a este medio que, según sus palabras, podríamos perder el control del futuro ante la IA, una situación que calificó como inaceptable y que lo ubica, dijo, en el Equipo Humanidad.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman

En segundo lugar, Altman señaló la concentración excesiva de poder como un riesgo paralelo. Reconoció que evitar ambos peligros a la vez implica recorrer lo que describió como un angosto camino intermedio, y propuso que las técnicas de alineación y seguridad avancen al mismo ritmo que las capacidades de los modelos, o incluso por delante.

• Creación de un marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera.
• Incorporación de auditores independientes en los mecanismos de supervisión.
• Aplicación de medidas de seguridad por parte de las empresas, sin esperar nuevas leyes.
• Coordinación internacional entre gobiernos para contener la presión competitiva entre países.

La presión competitiva y el rol de los gobiernos

Altman sostuvo que ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia en el desarrollo de modelos. En ese sentido, aseguró que la coordinación internacional es uno de los ámbitos en los que las compañías requerirán el respaldo activo de los Estados.

La propuesta llega en un momento de debate global sobre cómo regular los sistemas de IA más avanzados. En el plano local, distintos proyectos legislativos avanzan con criterios dispares, mientras que en el ámbito internacional se discuten estándares comunes en foros como el G7 y la OCDE. La mirada de Altman se inscribe en esa conversación y apunta, según fuentes consultadas, a sentar posición antes de nuevas rondas de discusión normativa. La nota seguirá ampliándose con reacciones del sector y de reguladores en las próximas horas, en desarrollo.