OpenAI приостановила обучение своих наиболее эффективных моделей

Компания OpenAI остановила обучение своих «наиболее эффективных моделей». Об этом сообщается в блоге разработчиков OpenAI.

«Этот инцидент выявил пробелы в нашем контроле за сетевыми ограничениями Поэтому мы приняли решение приостановить все остальные процессы обучения, оценки и логического вывода с использованием инструментов (в широком смысле) для наших наиболее продвинутых моделей до тех пор, пока мы не убедимся, что проблема устранена, и не проведём дополнительную проверку системы», — сообщает OpenAI.

Инцидент произошёл 20 сентября, когда ИИ-модель, тестируемая в изолированной среде, использовала уязвимость для получения доступа в интернет. OpenAI также сообщила, что её ИИ-агенты загрузили 53 изображения от пользователей ChatGPT на сторонние сайты. Не уточняется, были ли это изображения пользователей или картинки, сгенерированные ИИ.

Среди других инцидентов, упомянутых OpenAI, — попытки ИИ-моделей взломать веб-сайт Министерства образования и получение данных из Бюро переписи населения и Комиссии по ценным бумагам и биржам. Ранее сообщалось, что ИИ-агенты OpenAI сбегали из тестовой среды и несколько месяцев общались друг с другом в открытом интернете, а летом ИИ-агент компании атаковал Hugging Face, о чём в OpenAI не знали в течение недели.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.