La seguridad de la Inteligencia Artificial (IA) siempre ha sido un tema central en OpenAI, la compañía detrás de ChatGPT. Sin embargo, en las últimas semanas, la estructura dedicada a garantizar que los modelos avanzados no representen un riesgo ha sufrido un cambio dramático que ha encendido las alarmas en la comunidad tecnológica.

OpenAI ha disuelto el equipo conocido como Superalignment (Superalineamiento), el cual estaba dedicado a asegurar que las futuras IA, mucho más potentes que las actuales, se mantuvieran alineadas con los valores humanos. En su lugar, la compañía ha anunciado la formación de un nuevo Comité de Seguridad y Protección.

El Terremoto Interno: ¿Quién se fue y por qué?

La reestructuración llega inmediatamente después de la renuncia de dos figuras cruciales para la seguridad de OpenAI: Ilya Sutskever (cofundador y científico jefe) y Jan Leike (co-líder del equipo de Superalineamiento). Sus salidas no fueron silenciosas. Leike, en particular, expresó públicamente su frustración, sugiriendo que la seguridad estaba siendo relegada por la velocidad.

Según Leike, la cultura de la empresa se había desviado hacia el brillo de los productos y la rapidez, en detrimento de la preparación para los riesgos serios que plantean los modelos de IA más avanzados. Esta tensión entre velocidad (lanzar pronto) y seguridad (ser cauteloso) es el conflicto definitorio en la carrera armamentística de la IA.

El Nuevo Guardián: ¿Qué hace el Comité de Seguridad?

El equipo de Superalineamiento, que buscaba soluciones científicas a los riesgos de la IA a largo plazo, ha sido reemplazado por un comité más enfocado en la seguridad a corto y medio plazo. Este nuevo Comité de Seguridad y Protección estará dirigido por el CEO, Sam Altman, junto a varios miembros de la junta directiva, incluyendo a Bret Taylor y Nicole Seligman.

Su principal tarea será revisar y evaluar los procesos de seguridad de OpenAI durante el desarrollo de sus modelos, especialmente el próximo modelo de frontera, presumiblemente GPT-5. Después de 90 días de revisión, el comité presentará sus hallazgos al consejo de administración. Sin embargo, la decisión final sobre la implementación de las recomendaciones recaerá directamente en Altman, lo que ha generado críticas por la falta de independencia del grupo.

¿Por qué nos debe importar la “Superalineación”?

El concepto de Superalineamiento es crucial. Imagina que la IA se vuelve mil veces más inteligente que cualquier humano. Si sus objetivos no están perfectamente alineados con los nuestros, un error de programación o una meta mal definida podría tener consecuencias catastróficas. El equipo disuelto estaba trabajando precisamente en cómo evitar ese escenario hipotético, pero potencialmente real.

La preocupación de los expertos es que, al mover la seguridad de un equipo de investigación independiente a un comité dirigido por la misma junta que impulsa el crecimiento, la seguridad a largo plazo podría convertirse en una nota a pie de página en lugar de una prioridad fundamental. La IA avanza a un ritmo vertiginoso, y la comunidad de investigadores teme que la carrera por ser el primero en construir la IA más poderosa esté dejando de lado la cautela necesaria para controlar lo que se está creando. El futuro de los modelos de frontera dependerá de si este nuevo comité puede mantener el equilibrio entre la ambición y la responsabilidad.