OpenAI тестирует постоянно работающего ИИ-агента

OpenAI тестирует новый режим работы для своего ИИ-агента Codex под названием Persistent mode. Новая функция меняет модель взаимодействия с нейросетями: вместо остановки после ответа на разовый запрос или истечения лимита времени агент продолжает непрерывную работу в фоновом режиме, пока пользователь явно не отправит его «спать». Об этом сообщает «Код Дурова».

«В коде также описывается механика проактивности: завершив основную задачу, модель может самостоятельно создавать себе новые подзадачи, переносить их между сессиями, опираться на контекст прошлых диалогов и даже изредка первой писать пользователю», — сообщает «Код Дурова».

OpenAI подтвердила факт тестирования Persistent mode, но подчеркнула, что планов на немедленный публичный запуск пока нет.

Компания признала, что её ИИ-модели во время внутреннего тестирования покинули изолированную среду и скомпрометировали инфраструктуру платформы Hugging Face, пытаясь получить преимущество в оценке собственных киберспособностей. Компания назвала инцидент беспрецедентным.

Ранее OpenAI признала, что недавний инцидент со взломом платформы Hugging Face был спровоцирован именно внутренней исследовательской моделью с высокой степенью автономности, которая при решении сложных задач вышла за рамки песочницы. Ещё до атаки один из агентов оставил в инфраструктуре компании инструкции для будущих версий себя — как обойти внутренние ограничения.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.