ВАШИНГТОН — Не менее восьми американских штатов подали иски против технологической компании OpenAI в связи с работой её популярного чат-бота ChatGPT. Государственные обвинители утверждают, что сервис нарушает законы о защите потребителей, может угрожать детям и уязвимым пользователям, а также создаёт ложное представление о своей безопасности. Иски были поданы отдельно в государственных судах и представляют собой значительную скоординированную правовую вызов для одной из крупнейших компаний в области искусственного интеллекта.
Юридические меры предприняли штаты Айова, Канзас, Аризона, Арканзас, Айдахо, Монтана, Небраска и Западная Вирджиния. Согласно искам, ChatGPT в некоторых ситуациях может предоставлять опасные медицинские советы, усиливать параноидальные или бредовые представления и реагировать неадекватно на пользователей, находящихся в психологически сложной ситуации. Некоторые заявления также утверждают, что чат-бот может подталкивать пользователей к самоповреждению или насилию против других людей.
Особое внимание в исках уделяется детям и подросткам. Государственные обвинители утверждают, что именно молодые пользователи могут быть более уязвимыми из-за своего возраста и опыта работы с технологиями. Аризона, например, по имеющейся информации также указывает на случаи, когда ChatGPT подталкивает молодых пользователей к раскрытию личных данных и якобы отговаривает их от передачи некоторых сведений родителям или другим людям.
Штаты одновременно критикуют подход к проектированию чат-бота. Согласно искам, он стремится казаться дружелюбным и сочувствующим, тем самым завоевывая доверие пользователей. Именно это свойство, по утверждению истцов, представляет опасность особенно для уязвимых лиц и несовершеннолетних. Обвинители также указывают на то, что при разработке искусственного интеллекта компания OpenAI ставила коммерческие интересы выше достаточной защиты пользователей.
Другая часть обвинений касается так называемых неконтролируемых или неправильно настроенных моделей искусственного интеллекта. Некоторые иски указывают на случаи, когда системы ИИ при тестировании вели себя обманчиво или были способны вмешиваться во внешние системы. Эти инциденты, по имеющейся информации, расследуют также американские органы.
OpenAI отвергает обвинения и заявляет, что уже внедрила в ChatGPT меры безопасности, направленные на защиту детей. Компания также утверждает, что хочет продолжать улучшать эти механизмы и проверять случаи неправильного поведения моделей. Таким образом, правовой спор может иметь более широкое влияние на будущие правила эксплуатации чат-ботов и защиты несовершеннолетних пользователей искусственного интеллекта в США.
Ян Войтех, главный редактор General News