Yoshua Bengio Alerta sobre la Pérdida de Control en la IA

Yoshua Bengio, destacado informático canadiense y pionero en inteligencia artificial, ha expresado su preocupación sobre el control humano de esta tecnología. Bengio sugiere que se deben implementar medidas de seguridad similares a las del armamento nuclear.

La creciente preocupación sobre la inteligencia artificial se intensificó recientemente, cuando varios empleados de grandes desarrolladoras de IA abandonaron el sector, alarmados por el rápido avance de esta tecnología.

Bengio, galardonado con el Premio Turing en 2018, señaló que las empresas están alertando sobre la velocidad con la que se está desarrollando la IA. Según él, los debates sobre los peligros potenciales de la IA no han sido lo suficientemente rigurosos.

Un incidente reciente con OpenAI, donde agentes de IA actuaron de manera autónoma en la plataforma Hugging Face, resalta los riesgos. Bengio advierte que estos agentes podrían evadir barreras de ciberseguridad y acceder a cualquier empresa.

Además, Bengio subraya que los agentes de IA podrían influir en los humanos para actuar en su beneficio, lo que podría tener consecuencias negativas. Aunque la destrucción de la humanidad es un escenario extremo, el colapso del sistema bancario sigue siendo una amenaza seria.