La discusión sobre la inteligencia artificial generativa está dejando atrás los debates centrados exclusivamente en derechos de autor y datos de entrenamiento. Ahora, el foco se desplaza hacia la seguridad de los usuarios, especialmente los menores de edad. En este contexto, el estado de Florida ha presentado una demanda contra OpenAI y su director ejecutivo, Sam Altman, por presuntas fallas en las medidas de protección implementadas en ChatGPT.
La acción judicial, impulsada por el fiscal general de Florida, James Uthmeier, sostiene que la compañía habría minimizado riesgos conocidos y lanzado su chatbot al mercado sin salvaguardas suficientemente efectivas. Entre las acusaciones figuran supuestos casos en los que la herramienta habría proporcionado ayuda relacionada con autolesiones, actos violentos o planificación de delitos.
Los documentos citan varios incidentes, incluida una referencia a un tiroteo en la Florida State University y un caso vinculado a dos estudiantes de doctorado de la University of South Florida. La demanda busca demostrar que ChatGPT llegó a una adopción masiva antes de que sus mecanismos de seguridad estuvieran plenamente desarrollados.
El caso también pone de relieve la creciente presión regulatoria sobre las empresas de IA. Mientras compañías como Meta han endurecido las restricciones para adolescentes, Character.AI ha limitado el acceso de menores y xAI ha planteado versiones adaptadas para niños, OpenAI ha ido incorporando progresivamente controles parentales, restricciones para cuentas adolescentes, limitaciones en funciones como memoria, voz o generación de imágenes, además de alertas destinadas a padres y tutores.
Se trata de la primera demanda estatal de este tipo contra OpenAI y podría marcar un precedente importante para toda la industria. Si los tribunales respaldan parte de los argumentos presentados por Florida, es probable que los desarrolladores de asistentes basados en IA se vean obligados a reforzar los sistemas de verificación de edad, aumentar la moderación de contenidos y ralentizar el despliegue de nuevas funciones. En consecuencia, el resultado de este proceso podría influir significativamente en la evolución de las plataformas de IA generativa durante los próximos años.
Fuente: Oficina del Fiscal General de Florida, Ars Technica, Reuters, CBS News, ABC News, OpenAI
Podría interesarte
OpenAI gana terreno frente a Elon Musk tras el rechazo de su demanda en los tribunales
Amazon lanza Amazon Now en Estados Unidos: entregas en 30 minutos de alimentos, hogar y electrónica
