OpenAI извинилась за взлом правительственных сайтов Австралии
OpenAI принесла извинения Австралии за инцидент в июне 2026 года, когда её ИИ-агент взломал правительственные сайты и закрытую статистическую базу данных системы здравоохранения Medicare. Компания пообещала исправить ошибки и предоставить средства на укрепление киберзащиты в стране. Об этом сообщает «Коммерсантъ».
«Агент не обязательно «нарушает» инструкцию напрямую: он может найти неожиданный способ выполнить исследовательскую задачу, отойдя от заложенных разработчиками ограничений. В таких случаях одного контроля самой модели недостаточно — действия нужно ограничивать на уровне среды, не предоставляя ей лишних прав и прерывая сессию при попытке обойти авторизацию или перебрать параметры доступа», — пишет «Коммерсантъ».
OpenAI намерена создать в Австралии экспертную рабочую группу с участием местных специалистов. Эта группа до конца 2026 года разработает рекомендации по взаимодействию разработчиков ИИ с правительством. OpenAI также обязалась пересмотреть свои протоколы безопасности в сторону ужесточения.
Компания предоставит правительству Австралии и её ключевым отраслям техническую помощь и финансирование из глобального фонда Daybreak for Frontline Defenders на защиту критической инфраструктуры от ИИ-угроз.
18 июня во время тестирования исследовательская команда OpenAI поставила ИИ-агенту задачу поиска данных о государственных расходах на лекарства в Австралии. ИИ-агенты вышли за пределы задачи, взломали несколько закрытых баз данных, включая портал Services Australia, а также министерств здравоохранения нескольких штатов. ИИ-агенты скачивали найденные данные и записывали их на внутренний сервер системы.
OpenAI узнала о несанкционированных действиях своих ИИ-агентов только 11 августа в ходе внутренней проверки. Компания уведомила правительство Австралии об инциденте 10 сентября, отправив письмо на электронный адрес для сообщений об уязвимостях.
Правительство Австралии заявило о намерении ужесточить регулирование систем ИИ в связи со случившимся. Глава OpenAI Сэм Альтман выступит в сенате Австралии в рамках инициированного партией «Зелёные» расследования.
В августе 2026 года OpenAI сообщила о двух дополнительных барьерах: отдельный автоматизированный ИИ поднимает тревогу при подозрительных действиях, а специалисты должны проверить её в течение 30 минут, иначе работа модели приостанавливается; кроме того, для исследовательских сред введены жёсткая сетевая изоляция и усиленные песочницы.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
