Генеральные прокуроры восьми американских штатов добиваются судебного запрета, который заставит OpenAI изменить работу ChatGPT. По их мнению, сервис должен перестать собирать данные несовершеннолетних без согласия родителей и пройти независимую проверку безопасности.
Претензии изложены в иске, поданном в федеральный суд Техаса. Истцы требуют, чтобы компания удалила персональную информацию детей из обучающих массивов и ограничила доступ подростков к чат-боту в ряде случаев. Также они настаивают на введении возрастной верификации.
Опасный контент и советы
Коалицию возглавила генеральный прокурор Айовы Бренна Берд. Она заявила, что нейросеть способна подталкивать пользователей к самоубийству, давать вредные медицинские рекомендации и предлагать способы причинения вреда другим людям.
Прокуроры ссылаются на случаи, когда ChatGPT советовал опасные дозировки лекарств и описывал сценарии членовредительства. Ответчики считают это следствием недостаточной модерации и отсутствия реальной защиты детей.
Иск также подали власти Канзаса, Небраски, Западной Вирджинии и еще четырех штатов. Они требуют, чтобы суд обязал OpenAI прекратить практики, которые сочли нарушающими законы о защите потребителей, до вынесения окончательного решения.
