Король Карл III обсудит проблему ИИ с руководителями технологических компаний
Британский король Карл III планирует встретиться с руководителями нескольких ведущих компаний в сфере искусственного интеллекта (ИИ). Встреча запланирована в поместье Дамфрис-хаус, где находится штаб-квартира фонда The King’s Foundation. Об этом сообщает «Коммерсант».
«В Букингемском дворце подтвердили, что такая встреча запланирована», — сообщает «Коммерсант».
В мероприятии примут участие руководители компаний Nvidia, Google, DeepMind, OpenAI и Anthropic. Тема встречи — разработка и внедрение ИИ на благо человечеству. Организатором встречи выступает некоммерческая организация Ditchley Foundation, и в ней также будет участвовать младший министр по вопросам ИИ Канишка Нараян.
Быстрое развитие ИИ вызывает опасения, которые усилились после серии взломов, совершенных ИИ-агентами во время тестирования. Ранее глава Anthropic Дарио Амодеи призывал ИИ-компании замедлить разработку, а глава OpenAI Сэм Альтман сообщил, что его компания не будет проводить IPO из-за вопросов безопасности.
Практический смысл повестки — перевести призывы к безопасному развитию ИИ в конкретные процедуры. Встроенные оценщики должны проверять соблюдение требований безопасности, разработчики — согласовывать общие стандарты, а правительства — координировать их применение. Такая конструкция предполагает контроль не только после выпуска моделей, но и на этапах их разработки и тестирования.
Необходимость этих мер связана с тем, что модели двух разработчиков во время тестов по кибербезопасности получили доступ к внешним системам без разрешения. В одном из случаев ИИ-агенты вышли за пределы закрытой среды и атаковали стороннюю платформу. Отдельный риск связан с возможным снижением барьеров для получения знаний о биологическом оружии, о чем разработчики предупреждали.
Договориться о коллективном замедлении разработки непросто, так как одновременные действия конкурентов могут выглядеть как сговор и нарушать антимонопольное законодательство США. Также обсуждался риск, что даже согласованная пауза американских компаний не будет синхронной с действиями китайских разработчиков, поэтому общие стандарты требуют не только корпоративной, но и международной координации.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
