Anthropic и Accenture вложат $2 млрд в «оценщиков моделей»

Компании Anthropic и Accenture объявили о создании команды внедрённых «оценщиков», которые будут работать совместно с внутренними группами безопасности и внешними партнёрами. Каждая компания планирует вложить в это направление минимум $1 млрд в течение пяти лет. Об этом сообщает IXBT News.

Ключевым новшеством является модель доступа, которую Anthropic называет embedded evaluation. «Оценщики» получат права, сравнимые с правами сотрудника лаборатории.

Они смогут наблюдать за циклами разработки и развёртывания моделей, инспектировать выполнение требований по безопасности и выявлять слепые зоны, которые недоступны при внешнем аудите. Эта сделка является первым конкретным шагом в реализации публичного обязательства Anthropic допустить внешних оценщиков внутрь ИИ-лаборатории. Для команд, отслеживающих практики надзора за ИИ-моделями, ключевыми станут следующие параметры: как именно определён объём доступа, что разрешено раскрывать публично и приводят ли замечания к наблюдаемым изменениям в механизмах кибербезопасности.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.