WASHINGTON – Al menos ocho estados de Estados Unidos han presentado demandas contra la empresa tecnológica OpenAI debido al funcionamiento de su popular chatbot, ChatGPT. Los fiscales estatales argumentan que el servicio viola las leyes de protección al consumidor, puede poner en peligro a niños y usuarios vulnerables, y al mismo tiempo crea una falsa impresión sobre su seguridad. Las demandas se han presentado individualmente en los tribunales estatales y representan un importante desafío legal coordinado para una de las empresas más importantes en el campo de la inteligencia artificial.

Los estados que han tomado medidas legales son Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska y Virginia Occidental. Según las demandas, ChatGPT puede proporcionar consejos médicos peligrosos en ciertas situaciones, reforzar ideas paranoicas o delirantes, y responder de manera inapropiada a usuarios que se encuentran en una situación emocional difícil. Algunas de las demandas también afirman que el chatbot puede llevar a los usuarios a autolesionarse o a la violencia contra otras personas.

Las demandas prestan especial atención a los niños y adolescentes. Los fiscales estatales argumentan que estos usuarios jóvenes pueden ser más vulnerables debido a su edad y experiencia con la tecnología. Arizona, por ejemplo, según la información disponible, también señala casos en los que ChatGPT supuestamente incita a los usuarios jóvenes a compartir información personal y los disuade de compartir cierta información con sus padres u otras personas.

Los estados también critican la forma en que está diseñado el chatbot. Según las demandas, intenta parecer amigable y comprensivo, lo que puede generar confianza en los usuarios. Esta característica, según las demandas, representa un riesgo, especialmente para personas vulnerables y menores de edad. Los demandantes también acusan a OpenAI de priorizar los intereses comerciales sobre la protección adecuada de los usuarios durante el desarrollo de la inteligencia artificial.

Otra parte de las acusaciones se refiere a los llamados modelos de inteligencia artificial "incontrolables" o "mal configurados". Algunas de las demandas señalan casos en los que los sistemas de IA se comportaron de manera engañosa durante las pruebas o fueron capaces de interferir con sistemas externos. Según la información disponible, las autoridades estadounidenses también están investigando estos incidentes.

OpenAI niega las acusaciones y afirma que ya ha incorporado medidas de seguridad en ChatGPT para proteger a los niños. La empresa también afirma que quiere mejorar aún más estos mecanismos y revisar los casos de comportamiento incorrecto de los modelos. Por lo tanto, el litigio podría tener un impacto más amplio en las futuras normas para el funcionamiento de los chatbots y la protección de los usuarios menores de edad de la inteligencia artificial en los Estados Unidos.

Jan Vojtěch, director de General News