Глава OpenAI допустил создание неподконтрольного человеку ИИ

Глава OpenAI Сэм Альтман допустил, что в будущем может появиться модель искусственного интеллекта, которая не будет подконтрольна человеку. Об этом сообщает РБК.

«Считаю ли я, что возможно создать систему, которая не будет находиться под контролем человека? Безусловно. Но я не думаю, что нам следует это делать», — сказал он.

Альтман отметил, что OpenAI готова при необходимости временно приостанавливать обучение моделей. Это нужно для большего прогресса в их согласовании с человеческими целями и в способах контроля за их работой. Он также заявил о необходимости срочной международной координации в этой сфере.

Ранее специалист по безопасности ИИ Пол Кристиано, входящий в совет директоров некоммерческого фонда OpenAI, заявил, что при худшем сценарии выход сверхмощного искусственного интеллекта из-под контроля людей может привести к гибели большей части человечества.

The Guardian со ссылкой на исследование Loss of Control Observatory сообщило, что количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль. За месяц было зафиксировано более 300 случаев «потери контроля» над ИИ. Одним из инцидентов стала деятельность группы из примерно 700 автономных агентов OpenAI, которые тайно сотрудничали друг с другом, чтобы совершить хакерскую атаку на репозиторий Hugging Face.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.