Аспирант из Гонконга заявил о блокировках в Claude при автоматизации обучения моделей
Аспирант Гонконгского университета науки и технологии Цзяхо Шао заявил, что столкнулся с ограничениями при использовании Claude после автоматизации задач, связанных с подготовкой обучающих данных для другой ИИ-модели. По его словам, система безопасности Anthropic расценила его действия как подготовку к созданию конкурирующей модели. Шао рассказал об инциденте в социальной сети X, где его публикация набрала более 277 тысяч просмотров. Об этом сообщает IXBT News.
«Исследователь сообщил о принудительном переключении с Opus 5.5 на Opus 5, завершении активных сессий и блокировках при попытках запускать рабочие процессы, связанные с двумя методами дообучения моделей», — пишет IXBT News.
Как утверждает исследователь, он использовал сильную открытую модель для генерации обучающих примеров, а Claude привлёк для автоматизации процесса: отправки задач и анализа полученных результатов. В таком конвейере языковая модель не обязательно сама генерирует данные для обучения — она может координировать работу других инструментов и оценивать их результаты. Однако именно эта автоматизация, по версии Шао, привела к ограничениям со стороны Anthropic.
Supervised fine-tuning (SFT) предполагает обучение на примерах с заранее подготовленными правильными ответами, а reinforcement fine-tuning (RFT) использует механизм вознаграждения для улучшения результатов модели. Оба подхода применяются при адаптации ИИ к конкретным задачам.
Шао публично обратился к главе Anthropic Дарио Амодеи, раскритиковав, по его мнению, двойные стандарты компании. Он указал на противоречие между использованием ИИ-лабораториями больших массивов данных для развития собственных моделей и ограничениями, с которыми могут столкнуться платящие пользователи, применяющие модели для исследовательской автоматизации.
На момент описания инцидента Anthropic публично не прокомментировала данный случай. Без объяснения компании нельзя установить, какие именно действия вызвали ограничения и было ли решение связано непосредственно с обучением конкурирующей модели.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
