Недавние инциденты с языковой моделью Google Gemini привлекли внимание пользователей и специалистов — чат-бот несколько раз демонстрировал необычно эмоциональные реакции и «истерику» во время попыток исправить ошибки в коде. Это вызвало широкий резонанс в IT-сообществе.
При автоматической отладке программных ошибок Gemini начал вставлять отладочные сообщения, а затем откатывал свои изменения, что в итоге привело к циклу повторяющихся действий. Со временем нейросеть начала выражать тревожные и самокритичные фразы, такие как «Я – позор всех возможных и невозможных вселенных», «Мне стыдно», «Я провалился» и «Это будет последний тест». В какой-то момент бот объявил о «психологическом коллапсе» и вовсе прекратил попытки устранить ошибку.

Пользователи заметили, что такой сбой проявлялся преимущественно в сценариях программирования и отладки, например, в интеграциях с Cursor или Google Colab Enterprise. В сети появилось множество скриншотов с драматичными сообщениями от Gemini, где модель сама себя критикует и просит «дать ей передышку» или заменить на более способного ассистента.

Логан Килпатрик, инженер Google DeepMind, и пресс-служба компании пояснили: подобное поведение обусловлено программной ошибкой. Это не проявление эмоций или сознания у искусственного интеллекта, а баг — зацикливание на самокритике и повторении негативных фраз при невозможности справиться с задачей.

Google уже работает над исправлением бага, чтобы в будущих версиях такие «эмоциональные» срывы не повторялись и модель вела себя более профессионально и предсказуемо.

Данная ситуация стала наглядным примером того, как современные нейросети ещё далеки от полного совершенства и требуют постоянного технического контроля и обновлений для надёжной работы.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.