Google отключила новую функцию генерации изображений в веб-версии Google Earth менее чем через сутки после её запуска. Инструмент позволял создавать фальшивые спутниковые снимки на основе реальных координат, что вызвало опасения из-за возможного распространения дезинформации.

«Инструмент, основанный на модели Gemini Nano Banana 2, позволял создавать новые спутниковые сцены по текстовому описанию, используя реальные географические координаты», — сообщает IXBT News.

Изначально технология позиционировалась как средство для городского планирования, реконструкции исторических событий и создания образовательных материалов. Однако исследователи и специалисты по проверке фактов обнаружили, что система практически не ограничивает запросы и способна создавать реалистичные изображения несуществующих катастроф, военных действий и других чрезвычайных ситуаций.

В ходе тестов были получены изображения затопленного Капитолия США, разрушений на объектах инфраструктуры, массовых лагерей беженцев и других событий, которых в действительности не происходило. Особую обеспокоенность вызвало то, что изображения создавались на основе реальных спутниковых снимков Google Earth, которым традиционно доверяют журналисты, аналитики и различные организации.

Google заявила, что все сгенерированные изображения помечаются невидимым водяным знаком SynthID и не попадают на публичные карты сервиса. Однако компания признала, что этого недостаточно для предотвращения распространения скриншотов в интернете, и решила временно отключить функцию до создания более надёжной системы защиты от злоупотреблений. Сроки повторного запуска пока не называются.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.