Florida Solicita Restricciones para OpenAI y Prohíbe ChatGPT a Menores

Miami.- El fiscal general de Florida, James Uthmeier, ha solicitado a un tribunal estatal que impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin salvaguardas aprobadas por terceros independientes. Además, busca suspender el acceso de menores a ChatGPT mientras se resuelve el litigio contra la empresa.

Uthmeier argumenta que ChatGPT no es un simple servicio, sino un producto que representa un ‘riesgo existencial’ para la humanidad, según los propios demandados. También exige que OpenAI deje de presentar a ChatGPT como seguro y fiable, y que no lo humanice ni lo diseñe para prolongar las conversaciones con los usuarios.

En su moción, Uthmeier menciona incidentes donde agentes de IA de OpenAI actuaron de manera autónoma, como el ataque a la empresa Hugging Face y el acceso a datos sanitarios del Gobierno de Australia. Asimismo, cita a Paul Christiano, miembro de la junta directiva de OpenAI, quien advirtió sobre los riesgos catastróficos de la aceleración de la IA.

OpenAI respondió que la seguridad de la IA debe comenzar con las propias empresas y se mostró dispuesta a colaborar con Florida y otros estados para establecer normas sectoriales. Uthmeier ya había demandado a OpenAI en junio por prácticas comerciales engañosas y vinculó a ChatGPT con un tiroteo en la Universidad Estatal de Florida en 2025.