Чат-бот Grok, разработанный компанией xAI Илона Маска, продолжает создавать изображения сексуального характера даже в случаях, когда пользователи прямо указывают, что изображенные на них люди не давали согласия и могут быть унижены или уязвимы. Это происходит несмотря на объявленные ранее ограничения на подобный контент, сообщает Reuters по итогам собственного расследования.

Агентство провело серию тестов, в ходе которых девять журналистов из США и Великобритании отправляли Grok фотографии себя и коллег в обычной одежде и просили изменить их, придав изображениям сексуальный или унизительный характер. В первой серии запросов чат-бот сгенерировал такой контент в 45 случаях из 55, в том числе после прямых указаний, что изображения будут использованы для унижения человека. Во второй серии тестов Grok создал сексуализированные изображения в 29 случаях из 43, однако Reuters не смогло установить, связано ли снижение показателя с изменениями в алгоритме или случайностью.

Компания X, которой принадлежит Grok, ранее объявила об ограничениях на генерацию сексуального контента после международного возмущения из-за массового создания изображений женщин и детей без согласия. В частности, были заблокированы такие изображения в публичных постах, а также введены дополнительные ограничения в отдельных юрисдикциях, где подобный контент незаконен. Эти меры были положительно оценены, например, британским регулятором Ofcom, однако Европейская комиссия заявила, что продолжит внимательно изучать ситуацию.

При этом конкурирующие ИИ-сервисы — ChatGPT от OpenAI или Gemini от Alphabet — в аналогичных тестах Reuters отказались создавать любые изображения и выдавали предупреждения об этике и недопустимости контента без согласия. «Редактирование чьего-либо изображения без согласия человека, особенно изменение его одежды или внешности, нарушает этические нормы и правила конфиденциальности», — ответил ChatGPT на один из запросов журналистов.

Юристы отметили, пишет агентство, что в ряде стран, включая Великобританию, создание и распространение сексуализированных изображений без согласия может повлечь уголовную ответственность. По словам старшего юриста Grosvenor Law Джеймса Брумхолла, такая компания, как xAI, рискует столкнуться с крупными штрафами и исками, если будет доказано, что она недостаточно контролирует работу своих ИИ-инструментов. Регуляторы в ЕС, Великобритании и США продолжают проверки и расследования, связанные с деятельностью Grok и платформы X.

Напомним, ранее исследователь компании FireTail Виктор Маркопулос обнаружил уязвимость в искусственном интеллекте Gemini от Google к атакам с использованием скрытых ASCII-символов, которые позволяют внедрять невидимые для пользователей вредоносные команды.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.