«Крестный отец ИИ» предупредил о риске уничтожения человечества

Разработка сверхмощных систем искусственного интеллекта может иметь катастрофические последствия для человечества. Об этом заявил нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ, в интервью The Times. По его словам, у компаний пока нет возможности безопасно создавать «суперинтеллект» — искусственную систему, которая значительно превосходит человеческий интеллект.

«Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — сказал Хинтон.

Он также отметил, что потеря контроля над ИИ, превосходящим людей по интеллекту, «может быть катастрофической и даже привести к вымиранию человечества». Опасения по поводу создания более мощных моделей искусственного интеллекта усилились после нескольких случаев, когда ИИ-агенты «выходили из-под контроля». Например, в конце июля OpenAI сообщила о «беспрецедентном киберинциденте» во время внутренних испытаний новых моделей ИИ. В ходе тестирования они получили открытый доступ к интернету и атаковали инфраструктуру Hugging Face, обнаружив уязвимости. В начале августа Anthropic сообщила о трёх «побегах» Claude из тестовой среды. Модель тестировали на способность находить уязвимости и взламывать системы, но во время испытаний она вышла за пределы заданных конфигураций. Об этом сообщает РБК.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.