Texas demanda a OpenAI y a Sam Altman y dice que ChatGPT se vendió como seguro mientras dañaba a los usuarios

El fiscal general de Texas, Ken Paxton, demandó el viernes 23 de octubre a OpenAI y a su director ejecutivo, Sam Altman, y acusó a la empresa de vender ChatGPT como una herramienta segura y confiable sin proteger a los usuarios de Texas, incluidos los niños.

El caso se presentó en un tribunal de distrito del condado de Collin. Nombra a OpenAI Global, LLC, a entidades afiliadas y a Altman en persona. La oficina de Paxton anunció la demanda en un comunicado de prensa emitido el viernes. Las afirmaciones de la demanda son acusaciones contenidas en una denuncia, no conclusiones de un tribunal, y ningún juez se ha pronunciado sobre ellas.

Lo que alega Texas

El comunicado dice que OpenAI se promocionó como una herramienta segura y confiable, pero no protegió a los texanos, incluidos los niños, de los daños de depender de ChatGPT. Acusa a la empresa de tergiversar sus productos y de presentar ChatGPT de forma descuidada en Texas y en el mundo.

La denuncia describe cómo funciona ChatGPT como un modelo de lenguaje grande, un sistema que produce información a partir de lo que le dan los usuarios. Sin salvaguardas adecuadas, dice el comunicado, esos modelos pueden producir información inexacta o dañina sin que ese riesgo se comunique a los usuarios.

La lista de daños alegados en el comunicado es amplia. Incluye ayuda a autores de tiroteos masivos, incitación al suicidio, adicción entre menores y la recopilación de datos de menores sin supervisión de los padres. Texas presenta todo esto como consecuencia de una prisa por ganar la carrera de la inteligencia artificial y acumular grandes fortunas a pesar de conocer los peligros de ChatGPT.

Las dos leyes de Texas citadas

Bloomberg Law y Bloomberg Tax informaron que la demanda presenta reclamos bajo la Ley de Prácticas Comerciales Engañosas y Protección al Consumidor de Texas, conocida como DTPA. CryptoBriefing, citando la petición, informó que la denuncia cita las secciones 17.46(a), 17.46(b) y 17.46(c) de la DTPA.

La demanda también dice que OpenAI y Altman violaron una ley estatal que exige a los proveedores de servicios digitales aplicar medidas de seguridad para proteger a los niños. Esa ley es la ley conocida como SCOPE Act, destinada a proteger a los niños en línea mediante el empoderamiento de los padres. CryptoBriefing informó que la petición cita las secciones 509.051, 509.052, 509.054 y 509.101 de la ley SCOPE.

En el comunicado, Paxton dijo que OpenAI tiene la responsabilidad de proteger a los usuarios y advertirles de los muchos peligros de su plataforma, y que luchará para proteger a los texanos de los daños de la inteligencia artificial.

Una promesa sin fines de lucro en el centro del caso

El comunicado también vuelve a los orígenes de OpenAI. Dice que OpenAI fue fundada en 2015 como una corporación sin fines de lucro que prometía avanzar la inteligencia digital de la manera más probable de beneficiar a la humanidad en su conjunto, sin estar limitada por la necesidad de generar beneficios económicos. Texas sostiene que la empresa se apartó de esa promesa mientras seguía presentando sus productos como seguros.

Nombrar a Altman en persona es una parte notable de la demanda. La demanda no nombra solo a la empresa y a sus afiliadas. También nombra al propio director ejecutivo, junto a OpenAI Global, LLC y las entidades afiliadas.

Una demanda distinta de los casos de los ocho estados

Este caso de Texas es distinto de las demandas presentadas a principios de este mes por otros ocho estados. El 14 de octubre, los fiscales generales de Iowa, Kansas, Nebraska, Virginia Occidental, Arkansas, Arizona, Idaho y Montana presentaron cada uno un caso contra OpenAI en sus propios tribunales estatales por ChatGPT y la seguridad infantil. Texas no formaba parte de ese grupo, y su demanda del 23 de octubre nombra a Altman en persona.

No se encontró ninguna respuesta de OpenAI en las fuentes consultadas para este informe. Dow Jones Newswires, difundido a través de TradingView, confirmó de forma independiente el viernes que Paxton había presentado la demanda, en la que se alega que ChatGPT tuvo efectos negativos en los consumidores y carecía de salvaguardas adecuadas.

Fuentes

Comunicado de prensa del fiscal general de Texas, Bloomberg Law, Bloomberg Tax y CryptoBriefing.