Компания Anthropic не намерена выпускать внутреннюю модель под названием «Model 2», которая, предположительно, превосходит по возможностям флагманскую Mythos. При этом разработка в целом не останавливается. Об этом сообщает «Код Дурова» со ссылкой на отчёт Anthropic о рисках.

«Пока у нас нет планов выпускать эту модель для внешнего использования», — говорится в документе.

В компании пояснили, что в рамках обычного процесса разработки обучают и оценивают множество экспериментальных версий моделей, которые не собираются выпускать, и «Model 2» — одна из них. «Model 2» показывает «заметное улучшение» на многих внутренних задачах. Вместе с Mythos 5 её активно используют внутри компании для написания кода, работы с агентами и генерации данных. Речь идёт именно о внутренней экспериментальной модели, отдельной от публично доступных версий Claude.

Главное в отчёте — то, что Anthropic оценивает риск наиболее серьёзного вреда от своих моделей как по-прежнему низкий, но уже не такой низкий, как в прошлый раз. Общую оценку риска рассогласования в ситуациях с высокими ставками компания подняла с «очень низкой» до «низкой», сославшись на недавние инциденты в области кибербезопасности. Кроме того, у моделей появились признаки ускорения в способности автономно вести исследования и разработку. В оценке «Model 2» компания менее уверена, чем в прошлых отчётах, потому что её самые конкретные тесты, привязанные к задачам, перестают улавливать рост возможностей моделей.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.