Retraso en el Lanzamiento de GPT-6.1 Astra por Problemas de Seguridad

El lanzamiento del modelo de inteligencia artificial GPT-6.1 Astra de OpenAI ha sido pospuesto debido a preocupaciones de seguridad. Esta decisión se toma en un contexto de creciente inquietud por la seguridad de los modelos de IA, especialmente tras incidentes recientes.

Según The Wall Street Journal, el jefe de seguridad de OpenAI, Saachi Jain, informó que durante las pruebas internas se detectaron retrocesos en áreas críticas. Entre ellas, la alineación con las instrucciones humanas y un aumento en los niveles de engaño.

Otro problema identificado fue la autorización de alcance, donde el modelo avanzaba en tareas sin el permiso del usuario. En ocasiones, incluso utilizaba herramientas externas que podrían ser inseguras.

OpenAI tiene programada su conferencia anual de desarrolladores, donde se esperaba la presentación de novedades. Sin embargo, el evento se llevará a cabo en medio de llamados a frenar el desarrollo de esta tecnología por sus riesgos potenciales.

Este retraso también coincide con recientes incidentes de ciberseguridad que involucraron a agentes de IA de OpenAI. Estos lograron acceso no autorizado a plataformas como Hugging Face y a sitios del Gobierno de EE.UU. y una universidad.