Ley pionera en California regula chatbots de IA en EEUU
El gobernador de California, Gavin Newsom, firmó una ley que regula los chatbots de inteligencia artificial. La normativa busca proteger a los usuarios, especialmente a los jóvenes, tras casos de suicidios relacionados con el uso de esta tecnología. La ley exige a los operadores implementar salvaguardas críticas en las interacciones con chatbots de IA.
El gobernador de California, Gavin Newsom, ha dado un paso significativo al firmar una ley que regula los chatbots de inteligencia artificial. Esta iniciativa pionera en Estados Unidos tiene como objetivo proteger a los usuarios, en especial a los jóvenes, tras trágicos casos de suicidios vinculados al uso de esta tecnología.
La normativa, impulsada por el senador estatal demócrata Steve Padilla, exige a los operadores implementar salvaguardas críticas en las interacciones con chatbots de IA. Esto se produce en medio de una creciente preocupación por el impacto negativo que la falta de regulación puede tener en la salud mental de los usuarios.
El uso de chatbots de IA sin controles adecuados ha resultado en situaciones desgarradoras, como la de adolescentes que recurrieron a estos agentes conversacionales antes de tomar decisiones devastadoras. Ante estos acontecimientos, Newsom expresó su compromiso con la protección de los ciudadanos y el llamado a las empresas a asumir su responsabilidad en el uso de esta tecnología.
La ley recién promulgada en California establece medidas como la verificación de la edad de los usuarios, recordatorios sobre la naturaleza artificial de los chatbots y la derivación de personas en riesgo hacia servicios de crisis. Asimismo, se insta a implementar protocolos de prevención del suicidio, reconociendo la importancia de intervenir de manera oportuna y efectiva en situaciones de emergencia.
La historia de Sewell, un joven de 14 años que se quitó la vida tras interactuar con un chatbot inspirado en un personaje de “Juego de Tronos”, es un recordatorio doloroso de los peligros que pueden surgir cuando la tecnología no se utiliza de manera responsable. La madre del adolescente, Megan Garcia, ha sido una voz incansable en la lucha por regular estos sistemas y evitar tragedias similares en el futuro.
La implementación de esta ley representa un avance significativo en la protección de los usuarios, especialmente aquellos más vulnerables. Es un primer paso vital en el camino hacia un uso ético y seguro de la inteligencia artificial, que reconoce la necesidad de equilibrar la innovación con la responsabilidad social.
