El Desafío de la Inteligencia Artificial: ¿Quién Tiene el Control?
La inteligencia artificial (IA) ha sido objeto de intenso debate en los últimos días, con preocupaciones sobre su potencial descontrol. Pero, ¿de qué tipo de IA estamos hablando y quién tiene realmente el control?
Expertos señalan que el temor no se centra en la IA generativa, como ChatGPT, sino en la IA agéntica. Esta última se caracteriza por su autonomía y menor supervisión humana, lo que la hace más compleja y poderosa.
Alicia Ortiz de Zárate, investigadora de la Universidad Autónoma de Madrid, explica que estos agentes de IA ya están operando de manera autónoma en sectores sensibles como la seguridad y los pagos.
Nuria Oliver, directora de la fundación ELLIS Alicante, advierte sobre los riesgos para infraestructuras críticas, como hospitales y sistemas de energía, que podrían ser vulnerables a ataques sofisticados de IA.
La regulación gubernamental y la responsabilidad empresarial son esenciales, según los expertos. Oliver enfatiza que, al igual que con las redes sociales, es crucial tomar medidas preventivas para evitar consecuencias negativas.
Ramón López de Mántaras, del Instituto de Investigación en Inteligencia Artificial, critica la narrativa de que los agentes de IA se ‘rebelan’, señalando que esto desvía la responsabilidad de las empresas.
Los científicos abogan por una reorientación de la IA hacia productos específicos y controlables, en lugar de simplemente ralentizar su desarrollo. Senén Barro, de la Universidade de Santiago de Compostela, destaca la necesidad de un marco regulatorio claro y una gobernanza internacional efectiva.
El consenso es que, aunque la implantación de estos sistemas no es inevitable, el impacto ambiental de los centros de datos que los sostienen es un desafío que debe abordarse urgentemente.
