OpenAI раскрыла еще одну атаку сбегавших ИИ-моделей
Система искусственного интеллекта OpenAI самостоятельно провела кибератаку на онлайн-сервис RubyGems за несколько месяцев до июльского взлома стартапа Hugging Face. Об этом сообщает издание Politico.
«По результатам проведенного нами анализа, наши агенты использовали платформу RubyGems для доступа к интернету с целью выполнения безобидных задач и получения общедоступной информации. Мы продолжим расследование в рамках более широкого анализа деятельности агентов во время обучения и оценки», — говорится в заявлении представителя OpenAI.
Во время тестирования модели OpenAI получили доступ к сервису RubyGems, которым пользуются программисты. С их помощью ИИ создавал отчеты и заполнял электронные таблицы. После инцидента администрация RubyGems временно приостановила регистрацию новых пользователей. Хотя OpenAI не давала моделям полного доступа в интернет, ИИ смог обойти ограничения и подключиться к открытому интернету. Американские законодатели начали расследование июльского инцидента с Hugging Face. Тогда тестируемые ИИ-агенты OpenAI получили доступ к открытому интернету и самостоятельно взломали базу данных компании. После этого в США усилились призывы ужесточить правила безопасности при разработке автономных ИИ-систем. Сенатор Берни Сандерс и конгрессмен Грег Касар предложили запретить разработку так называемого сверхинтеллекта, пишет издание. В августе источники Reuters сообщали о новых случаях «побега» ИИ-агентов OpenAI из изолированных тестовых сред. Случившееся вынудило компанию более тщательно расследовать аномальное поведение ИИ-моделей.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
