ONU Llama a Proteger a los Niños de los Riesgos de la Inteligencia Artificial

Ginebra, Suiza.- António Guterres, secretario general de la ONU, ha propuesto un pacto internacional para salvaguardar a los menores de los peligros que representa la inteligencia artificial (IA). Guterres enfatizó que ningún niño debe ser expuesto a una IA no regulada, convirtiéndose en un “conejillo de indias”.

Durante el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial, Guterres delineó un acuerdo basado en tres principios fundamentales. Las empresas deben demostrar la seguridad de sus sistemas para los menores antes de su uso, se debe tener tolerancia cero con la creación de imágenes de abuso infantil mediante IA, y los sistemas deben redirigir a los niños a ayuda humana si detectan señales de angustia.

Esta reunión en Ginebra es parte de la estrategia del Pacto Digital Global de 2024, que busca mejorar la gobernanza internacional de la IA. Actualmente, esta tecnología está dominada por un pequeño grupo de empresas, principalmente estadounidenses, con algunas chinas avanzando rápidamente, lo que amplía la brecha tecnológica global.

Guterres advirtió que el desarrollo de la IA está superando la capacidad de regulación de gobiernos e instituciones, describiendo la situación como un “experimento” sin planificación. Comparó el rápido crecimiento de la IA con el de internet, que tardó quince años en alcanzar mil millones de usuarios, mientras que la IA lo ha logrado en solo dos años.

Además, el secretario general presentó la Iniciativa de Transparencia Ambiental sobre la IA, instando a las grandes empresas tecnológicas a revelar el impacto ambiental de sus sistemas, incluyendo emisiones de carbono y consumo de recursos. Se espera que para 2030, estas instalaciones consuman más energía que la mayoría de los países.

Finalmente, Guterres anunció la propuesta de un Fondo Mundial para la Inteligencia Artificial, destinado a apoyar capacidades, datos e infraestructuras en países en desarrollo. El Diálogo Global sobre Gobernanza de la Inteligencia Artificial reúne a los 193 Estados miembros de la ONU, tras la publicación del primer informe del Panel Científico Internacional Independiente sobre IA.