Главный научный сотрудник Alphabet Демис Хассабис предложил создать независимую организацию для контроля безопасности искусственного интеллекта. Эту идею он обсуждал с представителями властей США и руководителями ведущих ИИ-компаний.

«Он предложил создать организацию, которая разработает меры безопасности для развития искусственного общего интеллекта (AGI), сравнивая ее с Международным агентством по атомной энергии (МАГАТЭ)», — сообщает РБК.

Хассабис перешел на новую должность в Google и сосредоточит усилия на научных прорывах и формировании будущего искусственного общего интеллекта. Сейчас крупнейшие ИИ-компании пытаются создать искусственный интеллект, который сможет мыслить на уровне человека. Эксперты опасаются, что такие технологии будет трудно контролировать и они могут сильно повлиять на жизнь людей.

Руководители OpenAI и Anthropic также выступили за усиление контроля в сфере ИИ. Генеральный директор OpenAI Сэм Альтман предложил создать международный форум под руководством США для разработки единых правил, а Anthropic поддержала глобальное соглашение, которое позволит контролировать темпы развития технологий и соблюдение требований безопасности. Недавние случаи использования ИИ-ботов для кибератак усилили опасения по поводу безопасности технологии. Власти США стали уделять этим рискам больше внимания, однако проверка самых мощных моделей ИИ пока остается добровольной.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.