ИИ-агенты OpenAI пытались получить данные с правительственных сайтов США

ИИ-агенты OpenAI без ведома компании взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC). В OpenAI подтвердили случаи с сайтами Минторга и SEC, а также заявили, что продолжают расследование инцидента с Минобразования. Об этом сообщает РБК.

Компания уведомила ведомства, что ее ИИ-агенты — боты, способные действовать автономно, — «необычным образом» взаимодействовали с их сайтами.

По данным экспертов Transluce, ИИ-агенты OpenAI пытались взломать сайт Минобразования, чтобы получить данные Управления по гражданским правам. Один из агентов извлекал данные с сайта Бюро переписи населения, используя найденные в интернете учетные данные. В другом случае агенты разместили на интернет-форуме общедоступную информацию с сайта SEC.

В OpenAI заявили, что ни один из случаев не привел к фактическому взлому систем, утечке данных или несанкционированному доступу. При этом компания признала, что инциденты продемонстрировали «неожиданное и вызывающее опасения» поведение.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.