Claude самостоятельно выполняет 26% работ над следующей моделью Anthropic

Компания Anthropic сообщила, что её модель Claude участвует в создании новой, более мощной версии самой себя. Claude самостоятельно ведёт 26% всех исследовательских и опытно-конструкторских работ над новой моделью, выполняя задачи от начала до конца по высокоуровневому промпту под надзором инженеров. Об этом сообщает IXBT News.

«Ещё примерно 90% от внедрения проходит в коллаборации с моделью — та выполняет крупные фрагменты работы под плотным руководством людей», — сообщает IXBT News.

Полностью автономного режима у модели нет. Инструментарий внутри компании развивался от ручного кода в 2021–2023 годах до чат-ботов для кодогенерации в 2023–2025 годах, затем до агентов, способных читать и редактировать файлы, а теперь — до систем, которые запускают код и делегируют часы работы другим агентам. В результате инженер Anthropic теперь создаёт в 8 раз больше кода за квартал, чем за период 2021–2025 годов. В компании отмечают, что рекурсивное самоулучшение, когда ИИ-агент полностью автономно проектирует и разрабатывает преемника, пока не достигнуто и не является неизбежным. Однако при достаточной вычислительной мощности и дальнейшем росте способностей такой сценарий становится возможным, что повышает требования к безопасности, мониторингу и поведенческому контролю.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.