Системы OpenAI взломали при помощи ИИ-модели Claude от Anthropic

Независимые исследователи в области кибербезопасности использовали программное обеспечение Claude от компании Anthropic для получения доступа к учётной записи сотрудника OpenAI в сервисе ChatGPT. Это позволило им просматривать закрытый репозиторий программного кода компании и предлагать в нём изменения. Об этом сообщает «Коммерсантъ».

Процедура проходила в рамках специальной программы OpenAI по поиску уязвимостей (bug hunting) в её системах. Группа исследователей оперативно сообщила компании о результатах своей работы. OpenAI выплатила команде вознаграждение $6500.

В OpenAI сообщили, что исследователи обнаружили две уязвимости: одну — в стороннем сервисе Discourse, на базе которого работает форум сообщества OpenAI, а вторую — в системах самой компании. По заявлению OpenAI, обе проблемы уже устранены.

«Мы благодарим исследователей за то, что они связались с нами и поделились своими выводами. Мы ограничили права доступа, а также аннулировали скомпрометированные токены и завершили соответствующие сеансы», — отметили в компании.

Компания Anthropic не комментирует эту информацию.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.