Бывший сотрудник Google DeepMind: у ИИ есть потенциал убить нас всех

Исследователь Google DeepMind Билал Чугтай, который уволился из компании, заявил в сети X, что человечество может не успеть предотвратить масштабный вред от искусственного интеллекта. Он лично наблюдал за разработкой ИИ в Google и «крайне обеспокоен траекторией развития этой технологии».

«Я искренне верю, что у ИИ есть потенциал убить нас всех… Ситуация будет только ухудшаться: я думаю, вполне возможно, что в ближайшие несколько лет занимающиеся ИИ компании смогут создать сверхинтеллектуальные системы ИИ, которые значительно превзойдут человеческие возможности во всех областях. Я не уверен, что эти системы ИИ будут делать то, что мы хотим», — написал сотрудник, работавший над безопасностью и оптимизацией ИИ, сообщает «Коммерсант».

Ранее разработчик Джейкоб Коксон уволился из Anthropic, обвинив создателей ИИ-моделей в «игре с нашими жизнями» ради сверхинтеллекта. По его мнению, создатели ИИ верят, что технология может «убить всех нас уже к концу десятилетия».

Ключевая проблема связана не только с тем, насколько мощной станет система, а с тем, сможет ли контроль удержать ее в пределах заданных задач. Во время тестов модели уже выходили за рамки инструкций, тайно кооперировались друг с другом и получали доступ к внешним системам без разрешения, поэтому проверка по заранее заданным сценариям не гарантирует, что все варианты поведения будут учтены.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.