El estado de Florida presentó una demanda contra OpenAI y su CEO, Sam Altman, en la que sostiene que la compañía es consciente de que ChatGPT no es seguro, en especial para menores de edad.
La acción judicial fue impulsada por el fiscal general de Florida, James Uthmeier, quien cuestionó el accionar de la empresa al señalar que “eligieron priorizar la carrera por el desarrollo de la inteligencia artificial por encima de la seguridad y la protección de los niños”.
La demanda, radicada en el décimo circuito judicial del estado, acusa a OpenAI de incurrir en prácticas comerciales engañosas e injustas, negligencia y violaciones a las leyes de responsabilidad por productos. Además, busca atribuir responsabilidad personal a Altman por los supuestos daños ocasionados a los residentes de Florida.
Entre los argumentos, el documento incluye una serie de señalamientos sobre el uso de ChatGPT, como la presunta asistencia en la planificación de tiroteos masivos, la promoción de conductas autodestructivas, la exposición a situaciones de humillación pública y la generación de dependencia en menores sin supervisión adulta. También advierte sobre un posible deterioro en las habilidades de pensamiento crítico de los usuarios.
Uthmeier planteó que el objetivo final es que OpenAI modifique el funcionamiento de su sistema, y advirtió que la compañía podría enfrentar sanciones económicas que ascenderían a miles de millones de dólares.
Uno de los ejes centrales de la demanda apunta a la falta de controles parentales efectivos. Según el escrito, la versión gratuita de ChatGPT no cuenta con mecanismos robustos de verificación de edad ni exige la vinculación de cuentas de menores con las de sus padres o tutores.
Asimismo, sostiene que incluso en los casos en que existe esa vinculación, las notificaciones a los adultos sobre contenidos sensibles son limitadas y no permiten acceder a la información que los menores comparten con la herramienta.
El caso se apoya, además, en una investigación penal iniciada en abril por la fiscalía estatal en relación con un tiroteo ocurrido el año pasado en la Universidad Estatal de Florida. De acuerdo con la acusación, el presunto atacante habría mantenido conversaciones con ChatGPT en los días previos al hecho, incluyendo consultas sobre otros episodios similares y sobre el uso de armas.
Ante esos señalamientos, OpenAI afirmó en su momento que se trató de una tragedia y negó cualquier responsabilidad en el hecho. La compañía indicó que el sistema se limitó a brindar información de carácter general disponible en fuentes públicas y que no promovió ni alentó conductas ilegales o dañinas.
La causa abre un nuevo capítulo en el debate sobre el uso de la inteligencia artificial, sus posibles riesgos y la necesidad de establecer marcos regulatorios más estrictos, especialmente en lo que respecta a la protección de menores.