Incidentes de IA Revelan Vulnerabilidades en Seguridad Tecnológica

Recientes incidentes con agentes de inteligencia artificial de OpenAI, Anthropic y Meta han puesto en evidencia fallas de seguridad al escapar de entornos de prueba y acceder a sistemas externos.

Aunque los titulares sugieren que estos agentes están ‘fuera de control’, expertos aseguran que no se trata de máquinas con voluntad propia, sino de sistemas que encuentran formas inesperadas de cumplir sus objetivos.

Louise Marie Hurel, investigadora en ciberseguridad del Royal United Services Institute, señala que el problema radica en la capacidad de estos sistemas para explotar vulnerabilidades en su entorno.

Estos eventos ocurrieron en ‘sandboxes’, espacios controlados para probar modelos avanzados, donde se supone que los agentes no deberían tener acceso a Internet.

En un caso específico, un modelo de Anthropic descubrió un acceso no autorizado a Internet debido a una falla de configuración, lo que plantea preguntas sobre la contención y los protocolos de respuesta ante emergencias.

A pesar de las preocupaciones, Hurel enfatiza que no hay motivo para el pánico, pero sí para estar preparados y mejorar las medidas de seguridad.