США попросили компании ограничить тестирование ИИ в Британии
Белый дом попросил разработчиков искусственного интеллекта OpenAI и Anthropic не предоставлять возможность тестирования их новейших моделей британскому Институту безопасности ИИ (AISI) до тех пор, пока их не проверят в самих США. Об этом сообщает «Коммерсант».
«По их данным, просьбу об этом направил офис национального директора по кибербезопасности», — пишет Politico.
Эта просьба ставит OpenAI и Anthropic в сложное положение, поскольку AISI является одним из ведущих центров таких исследований в мире. Британские власти опираются на выводы института при оценке безопасности систем ИИ. Теперь компаниям придется выбирать между введением ограничений для института и реакцией президента Трампа. Anthropic уже ограничила доступ AISI к некоторым своим новым моделям. Компании не прокомментировали данные источников издания.
При проверке передовых ИИ-моделей независимым аудиторам предлагают предоставлять полный доступ, чтобы они могли оценить не только возможности систем, но и связанные с ними риски. Одновременно обсуждался координационный механизм между компаниями демократических стран для выработки общих стандартов безопасности, поэтому требование проводить первичную проверку в США затрагивает не только очередность испытаний, но и распределение контроля над их результатами. Практическая ценность таких проверок связана с тем, что поведение моделей может выходить за пределы предусмотренного сценария.
До появления нынешнего ограничения Белый дом и разработчики уже обсуждали совместную работу по поиску уязвимостей, защите критической инфраструктуры и регулированию ИИ. Ранее Белый дом также требовал, чтобы новую модель OpenAI сначала получили одобренные правительством организации.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
