Премьер-министру Великобритании Киру Стармеру сообщили, что компания X Илона Маска «принимает меры для обеспечения полного соблюдения законодательства Великобритании» в отношении дипфейков сексуального характера, созданных с помощью ее инструмента искусственного интеллекта Grok.
Изображения, созданные с помощью Grok и широко распространенные в X, вызвали бурную реакцию. Би-би-си ознакомилась с несколькими примерами таких ИИ-изображений. Женщин на них «раздевали» без их согласия и «заставляли» принять сексуальные позы. Одна из женщин пожаловалась, что было создано более 100 сексуализированных изображений с ее участием.
В понедельник британский регулятор Ofcom начал расследование в отношении платформы X из-за сексуализированных изображений, которые создаются с использованием Grok.
В заявлении Ofcom говорится о «крайне тревожных сообщениях» о том, что чат-бот применяют для создания и распространения изображений людей без одежды, а также «сексуализированных изображений детей».
Правительство Великобритании пообещало принять новый закон, запрещающий дипфейки без согласия, при этом премьер-министр предупредил X, что компания может лишиться права на саморегулирование.
Ofcom, в свою очередь, может наложить на X штраф в размере до 10% от его мирового оборота или в 18 млн фунтов, в зависимости от того, какая сумма окажется больше. Если X не подчинится, Ofcom может обратиться в суд с просьбой вынести постановление, обязывающее интернет-провайдеров полностью заблокировать доступ к сайту в Великобритании.
«Мы примем необходимые меры. Мы усилим существующие законы и подготовимся к принятию законодательства, если это будет необходимо, а Ofcom продолжит свое независимое расследование», — сказал Стармер в парламенте в среду.
Премьер-министр не сказал, кто проинформировал его об изменении позиции X — Би-би-си обратилась к правительству с просьбой разъяснить, откуда он получил эти сведения.
В официальном аккаунте X Safety говорится, что нелегальный контент, в том числе материалы, связанные с сексуализованным насилием над детьми, удаляется, на распространяющие его аккаунты накладываются постоянные ограничения, а в случае необходимости соцсеть работает с местными властями и представителями закона. Те, кто создает такие изображения с помощью Grok, столкнутся с теми же последствиями, что и те, кто их публикует.
На минувшей неделе Grok опубликовал сообщение о том, что генерация и редактирование изображений теперь «доступны только платным подписчикам», однако, как отметил официальный представитель британского премьера, «это просто превращает ИИ-функцию, позволяющую создавать незаконные изображения, в платную услугу» и не решает проблему.
Илон Маск, которому принадлежит Х, с одной стороны, заявил, что любой, кто использует Grok для создания нелегального контента, столкнется с теми же последствиями, что и тот, кто публикует нелегальный контент — а с другой, комментируя публикацию с вопросом о том, почему другие ИИ-платформы не подвергаются проверке, написал, что правительство Великобритании ищет «любой предлог для цензуры».
Маск поделился изображением тостера в бикини с подписью «Grok может надеть бикини на что угодно», а также постом, где было две фотографии Стармера в женском купальнике, сгенерированных, как утверждалось, другими системами искусственного интеллекта, ChatGPT и Gemini — с вопросом, почему Стармера так волнует Grok, если другие нейросети тоже могут создавать изображения людей в бикини. Маск ретвитнул это с подписью «Они просто хотят ограничить свободу слова».