Глава Anthropic призвал ИИ-компании замедлить развитие моделей

Глава Anthropic призвал разработчиков искусственного интеллекта намеренно снизить темпы развития возможностей новых моделей. Это позволит уделить больше времени оценке рисков и мерам безопасности.

«При этом замедление не должно означать остановку обучения моделей или технического прогресса. Речь идет о том, чтобы компании успевали проверять системы, а независимые специалисты могли оценивать их безопасность», — сообщает Ferra.

Он отметил две причины для такого подхода. Первая связана со способностью ИИ совершенствовать собственные возможности. Второй фактор — недавний инцидент с агентами OpenAI и Hugging Face. Anthropic намерена предоставить сторонним экспертам полный доступ для проверки практик безопасности и расследования инцидентов. Для более широких мер потребуется сотрудничество компаний и государств.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.