Альтман предложил три способа спасти мир от опасного ИИ

Сэм Альтман предложил три варианта обеспечения безопасности ИИ в мировых масштабах. Он считает, что нужно либо брать пример с МАГАТЭ в сфере атомной энергетики, либо консолидировать контроль за разработками по примеру CERN, либо пользоваться принципом «кто первый встал, того и GPU». Об этом сообщает «3dnews».

В своём недавнем обращении к сотрудникам стартапа Альтман предложил три варианта обеспечения безопасности ИИ, причём все они в той или иной мере кажутся причудливыми, — сообщает «3dnews».

Первый сценарий подразумевает создание международной контролирующей организации типа МАГАТЭ. В рамках такой структуры правительства стран и ИИ-компании смогут совместно устанавливать стандарты безопасности, а высокопроизводительные ИИ-модели будут подвергаться независимой проверке и аудиту перед выпуском. Альтман склонялся к этой идее сильнее, чем к двум остальным.

Второй сценарий, названный «планом Демиса», предполагает, что ведущие разработчики ИИ должны учредить исследовательскую организацию, совместно управляемую разными странами, как в случае с Европейской организацией по ядерным исследованиям (CERN). Под крылом такой организации разработчики ИИ могли бы делиться результатами исследований и оценками новых моделей с точки зрения безопасности, а не конкурировать друг с другом. Однако такая структура потребовала бы активного вовлечения правительств разных стран и оказалась бы труднореализуемой.

Третий, наиболее спорный сценарий, подразумевает использование технологического и экономического преимущества компании, которая первой достигнет «сильного ИИ», для блокирования разработок её конкурентов. По замыслу, первая достигшая рекурсивного самосовершенствования ИИ компания должна будет лишить доступа к GPU своих конкурентов. Альтман назвал такой план ужасным и подчеркнул, что привёл его только ради полноты вариантов обсуждения.

Некоторые сотрудники OpenAI предположили, что такой план направлен против конкурирующей Anthropic. Последняя недавно направила властям США собственный законопроект, который подразумевает прохождение передовыми разработчиками ИИ не менее двух процедур независимого аудита ежегодно. Кроме того, у властей США появляется право приостановить обучение ИИ-модели, если есть основания полагать, что она способна причинить ущерб в размере более 1 млрд долларов или повлечь смерть или серьёзные увечья 50 и более человек.

Альтман признался, что не существует достаточного количества практических способов «ограничить скорость» разработки ИИ. Сложно найти баланс между обеспечением безопасности разработки и необходимостью не отставать в острой технологической конкуренции.

OpenAI участвует в переговорах с Anthropic и Google по учреждению единого надзорного органа по контролю за соблюдением стандартов при разработке передовых ИИ-моделей. Соответствующие процедуры планируется реализовать к концу текущего года или началу следующего, разместив независимых проверяющих внутри каждой из указанных компаний. Необходимо будет установить и единый стандарт предоставления отчётов об инцидентах в сфере безопасности ИИ. Противоречия между участниками переговоров пока сводятся к тому, будет ли новый орган непосредственно заниматься аудитом либо станет делегировать эти полномочия сторонним организациям.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.