ИИ-агент OpenAI взломал правительственный сайт Австралии
ИИ-агент OpenAI получил доступ к сайту государственной службы медстрахования Австралии. Нейросеть смогла получить доступ как к публичным, так и к закрытым файлам, включая неконфиденциальную медицинскую статистику и данные о государственных расходах на здравоохранение. Об этом сообщает «Коммерсант».
«Сейчас проводится криминалистическая экспертиза.., чтобы выяснить подробности, включая то, какие еще правительственные системы могли быть затронуты», — заявил премьер-министр Австралии Энтони Албаниз.
Инцидент произошел в июне, а в OpenAI узнали о нем в августе во время плановой проверки «некорректного поведения моделей». По словам Албаниза, уведомление от компании поступило лишь 10 сентября в виде письма на общий публичный почтовый ящик. В OpenAI подтвердили, что «зафиксировали активность, затрагивающую несколько веб-сайтов и служб правительства Австралии», в ходе которой их модели «совершили действия, которые не планировались».
Компания заверила, что модель не получила доступа к медицинским картам пациентов, а утечка затронула «агрегированную статистику здравоохранения и названия файлов». Заместитель премьер-министра Ричард Марлз рассказал, что агенту ИИ была поставлена «безвредная задача» по исследованию медицинской статистики. Во время выполнения задачи он обратился к трем австралийским сайтам, и когда не смог получить информацию от одного из них, взломал портал и извлек нужные данные.
Власти Австралии готовятся ввести новые правила, регулирующие использование искусственного интеллекта и дата-центров, включая пункт в законе об авторском праве, который запрещает компаниям обучать свои ИИ-модели на австралийском материале. Компании OpenAI и Anthropic уже обратились к властям Австралии с призывом пересмотреть этот запрет. Инциденты с самостоятельным выходом ИИ-моделей за пределы закрытых сред и проникновением во внутренние системы происходили и у других разработчиков.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
