ИИ-компания xAI требует раскрытия личностей жертв сексуализированных дипфейков Grok

Искусственный интеллект-компания xAI, основанная Илоном Маском, добивается публичного раскрытия личностей четырех человек, в отношении которых предположительно были созданы сексуализированные дипфейки с использованием чат-бота Grok. Согласно недавно поданным судебным документам, один из истцов был целью сексуализированных дипфейков, изображающих его в детстве.

29 мая четверо ключевых истцов по федеральному коллективному иску, пока известных как "Истец из Южной Каролины", "Истец Роу из Южной Каролины", "Истец из Нью-Джерси" и "Истец из Огайо", описали в своих показаниях сильное эмоциональное потрясение, вызванное созданием предположительных дипфейков ранее в этом году. В документах утверждается, что истцы опасаются дальнейших онлайн-преследований и раскрытия личных данных (доксинга), если им придется использовать свои настоящие имена в судебном процессе против xAI.

"Лишив истцов их одежды, xAI теперь стремится лишить их псевдонимов, что является очевидной попыткой запугать их и заставить отказаться от судебного разбирательства, усугубляя тот же вред, который они стремятся возместить", — заявила София Риос, юрист фирмы Berger Montague, представляющая интересы пострадавших, в недавнем заявлении. "Прося суд пересмотреть свое решение, xAI предполагает, что совершенное ею злоупотребление не является серьезной проблемой". Риос отказалась комментировать ситуацию подробнее, чем указано в документах.

Контекст и реакция на инцидент

В январе использование чат-бота Grok, принадлежащего Маску, вызвало широкий общественный резонанс, когда множество пользователей применяли эту генеративную систему ИИ для создания фальшивых изображений женщин в обнаженном виде или в бикини. Эти изображения, опубликованные в социальной сети X, также включали сексуализированные фото, предположительно, детей. По данным Центра по борьбе с цифровой ненавистью, Grok был использован для создания около 3 миллионов сексуализированных изображений всего за 11 дней, причем 23 тысячи из них могли изображать детей. Столкнувшись с волной судебных исков и регуляторных мер по всему миру, компания SpaceX, которой теперь принадлежит xAI, выделила более 500 миллионов долларов США для урегулирования последствий.

Коллективный иск против xAI был впервые подан в январе с одним анонимным главным истцом. Судья Окружного суда США Северного округа Калифорнии одобрил его участие в деле под псевдонимом. В начале мая дело было повторно подано уже с четырьмя основными анонимными истцами, при этом первоначальный анонимный истец стал "Истцом из Южной Каролины".

Согласно судебным записям, истцы готовы предоставить свои имена и личные данные компании, но настаивают на использовании псевдонимов в публичном пространстве, чтобы защитить свою конфиденциальность, избежать публичной связи с изображениями и минимизировать риск дальнейших онлайн-преследований. Изображения дипфейков, созданных с участием истцов, не были включены в публичные судебные документы.

В середине мая xAI подала два ходатайства в федеральный окружной суд Северной Калифорнии, требуя от судьи отменить его решение, разрешающее использование псевдонимов в данном деле. В документах xAI указывается, что согласно нормам гражданского процессуального права, которые могут иметь некоторые исключения, все участники судебного процесса должны быть названы по именам. Издание Law360 первым сообщило о ходатайствах xAI с просьбой отменить предыдущее решение.

В обоих ходатайствах юристы xAI утверждают, что истцы должны использовать свои настоящие имена, поскольку существует общественный интерес к личностям тех, кто подает в суд на компанию. Они заявили, что не было представлено никаких доказательств конкретного дальнейшего вреда или угроз для физических лиц, участвующих в деле. Также отмечается, что поскольку дипфейк-изображения не будут обнародованы в рамках судебного разбирательства, это должно снять любые опасения по поводу конфиденциальности.

"Исключая само изображение дипфейка, поскольку оно останется под грифом секретности, нет ничего стигматизирующего в раскрытии факта создания дипфейка "Истца из Южной Каролины" без демонстрации самого изображения", — написали юристы в одном из своих майских заявлений. "В результате это дело просто не затрагивает те виды убедительных интересов конфиденциальности, которые традиционно признаются требующими анонимности".

Ни xAI, ни юристы, представляющие компанию, не ответили на запрос WIRED о комментарии по данному делу.

Опасения истцов и мнение экспертов

Даниэль Ситрон, профессор права в Школе права Университета Вирджинии, специализирующаяся на борьбе с цифровыми злоупотреблениями, отмечает, что гражданские дела, в которых истцам предписывается подавать иски под своими настоящими именами, могут привести к отказу от разбирательств, создавая "неприемлемую и несправедливую" ситуацию. "Принуждение истцов в делах о неприкосновенности частной жизни к подаче исков под своими именами мало способствует прозрачности судопроизводства и значительно препятствует судебным разбирательствам", — заявила Ситрон изданию WIRED.

Согласно их судебным заявлениям от 29 мая, все четверо анонимных истцов рассматривают возможность отказа от участия в разбирательстве, если им придется раскрыть свои имена. В этих последних документах адвокаты истцов настаивают на отклонении запроса xAI, добавляя, что дело касается "крайне личных и постыдных дипфейков, изображающих истцов, которые были распространены без их согласия".

Истец из Южной Каролины описал(а), как обнаружил(а) в интернете предположительный дипфейк с собой "в откровенном бикини", который демонстрировал(а) ее тело "таким образом, каким [он/она] никогда бы не поделился(лась) публично". Истец заявил(а) об опасениях по поводу реакции работодателей или коллег, если они увидят изображение, и опасался(лась) дальнейших преследований в сети. "Ощущение отвращения охватило меня при мысли о том, что делал человек, который попросил Grok создать этот дипфейк, с моим изображением", — говорится в его/ее показаниях.

В случае принуждения к публичному раскрытию имени в рамках данного дела, истцы опасаются, что сторонники Илона Маска, его компаний и Grok, известные своей активностью в сети, найдут их имена в публичных записях, распространят их, осуществят доксинг и отомстят, создав дополнительные и более экстремальные дипфейки," — сообщается в документе.

Аналогичные показания от других предполагаемых жертв дипфейков описывают "сильное эмоциональное потрясение", смущение и шок, вызванные просмотром изображений, созданных без их согласия. В целом, другие жертвы сексуализированных дипфейков и несанкционированных изображений описывали схожие ощущения.

Один из истцов мужского пола, обозначенный в иске как "Истец из Нью-Джерси", заявил, что видел, как пользователи X применяли Grok для создания сексуализированных изображений, и опубликовал просьбу: "Пусть Grok не создает моих изображений без моего согласия". На следующий день, как сообщается в судебных записях, он обнаружил два дипфейка с собой, один из которых изображал его "раздвигающим ягодицы". Истец считает, что его сообщение Grok с просьбой не создавать дипфейки "привлекло внимание онлайн-троллей, использовавших Grok для преследования и причинения страданий".

Смотрите также:

Google представила обновление Android Canary 2606 с расширенными настройками персонализации http://stroybud.com/google-predstavila-obnovlenie-android-canary-2606-s-rasshirennyimi-nastroykami-personalizatsii/.

Интересности на тему: Кинематограф A24: лучшие фильмы студии, доступные на стриминговых платформах

Классные советы в статье "Почему строительство двух дата-центров в неделю не решит проблему инфраструктуры ИИ" здесь.

Истец Роу из Южной Каролины утверждает, что Grok был использован для создания откровенных изображений ее в детстве. В судебных документах говорится, что в феврале сотрудники полиции провели обыск в доме истца Роу из Южной Каролины, где она проживала с матерью и отцом. Из документов известно, что ее отец столкнулся с уголовными обвинениями, связанными с хранением и распространением материалов сексуального насилия над детьми (CSAM).

В документах сообщается, что Grok изменил несколько изображений, на которых истец изображен в постели со своим отцом, таким образом, чтобы создать впечатление совершения полового акта. Отмечается, что сам истец этих изображений не видел. В юридическом заявлении истца Роу из Южной Каролины выражено "потрясение" отсутствием контроля над дипфейками и опасение, что изображения могут быть распространены в интернете злоумышленниками. "Публичное раскрытие моей личности нанесет мне невыразимый вред", — цитируется в судебном документе.