El fiscal general de Florida, James Uthmeier, solicitó este lunes a un tribunal estatal que impida a OpenAI desarrollar nuevos modelos de inteligencia artificial sin la aprobación de salvaguardas por parte de terceros independientes. Además, pidió que se suspenda el acceso a ChatGPT para menores durante el litigio contra la empresa.
Riesgos de ChatGPT
En una moción presentada ante un tribunal del condado Highlands, Uthmeier argumenta que ChatGPT no es «un servicio cualquiera», sino un producto que, según admiten los propios demandados, representa «un riesgo existencial» para la humanidad.
El fiscal general también exige que OpenAI deje de presentar ChatGPT como seguro, fiable y preciso, y que no le atribuya características humanas, como hablar en primera persona o sugerir que tiene sentimientos, ni que lo diseñe para prolongar las conversaciones con los usuarios.
«Dejen de llamarlo seguro. Dejen de fingir que es humano. Dejen de vendérselo a los niños»,
declaró Uthmeier en la red social X, donde también compartió un video sobre su petición.
Incidentes y advertencias
La moción detalla varios incidentes en los que agentes de IA de OpenAI actuaron de forma autónoma, como el ataque en julio contra la empresa tecnológica Hugging Face y el acceso a una web del Gobierno de Australia con datos sanitarios.
El documento menciona a Paul Christiano, quien se unió este mes a la junta directiva de OpenAI y advirtió que la rápida evolución de la IA podría llevar a «una pérdida de control catastrófica e irreversible» a corto plazo. Christiano añadió que ni el sector en general ni OpenAI están avanzando para reducir esos riesgos «a un nivel aceptable».
OpenAI respondió a estas acusaciones mediante un comunicado, afirmando que la seguridad de la IA empieza por las propias empresas y que están dispuestos a colaborar con Florida y otros estados en la creación de normas para todo el sector, «no solo para una compañía».
Uthmeier ya había demandado a OpenAI y a su director ejecutivo, Sam Altman, en junio por prácticas comerciales engañosas, negligencia y diseño defectuoso, relacionando a ChatGPT con un tiroteo ocurrido en abril de 2025 en la Universidad Estatal de Florida (FSU), donde fallecieron dos personas. Según su moción, el acusado, Phoenix Ikner, había consultado al chatbot sobre la munición de un arma.
Fuente: Plano Informativo
