13 апреля суббота

Маск и Возняк просят замедлить развитие систем ИИ из-за рисков для человечества

Письмо опубликовано некоммерческим институтом Future of Life

Лента новостей
29 марта 2023, Виктория Лейковская | 👁 15190

Маск и Возняк просят замедлить развитие систем ИИ из-за рисков для человечества

Письмо опубликовано некоммерческим институтом Future of Life

Генеральный директор SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и группа экспертов по искусственному интеллекту призывают к полугодовой паузе в развитии систем, более мощных чем GPT-4 от OpenAl. Главной причиной называют потенциальные риски для общества и всего человечества.

“Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их эффекты будут положительными, а их риски будут управляемыми”, — говорится в открытом письме от экспертов.

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими специалистами в области ИИ. В материале также говорится, что общество не успевает за развитием ИИ, поэтому стоит “наслаждаться долгим летом ИИ, а не спешить неподготовленными к осени”. 

Главными проблемами быстро развивающего ИИ они выделяют чрезмерную автоматизацию человеческих действий и нарушение эволюционного процесса.

“Как указано в широко одобренных Принципах ИИ Asilomar, продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять им с соразмерной тщательностью и ресурсами», — отмечается в письме.

Кроме того, эксперты считают, что в разработку ИИ должно контролировать государство, для введения моратория на законодательном уровне, только тогда пауза в развитии ИИ даст нужный результат. 

“Это не означает паузу в развитии ИИ в целом, а просто шаг назад от опасной гонки к все более крупным непредсказуемым моделям черного ящика с возникающими возможностями», — отмечается в письме. 

В марте этого года компания OpenAl запустила четвертую итерацию своей программы GPT. Microsoft инвестировала миллиарды долларов в компанию, также для обучения модели GPT-4 использовалась облачная инфраструктура Microsoft Azure.

Ранее сообщалось, что Steam прекратит поддержку Windows 7 и 8 в 2024 году

Новости smi2.ru
Комментарии 0
Зарегистрируйтесь или , чтобы оставлять комментарии.