Уволившийся из Anthropic учёный сравнил ИИ с разумом пришельца

Бывший исследователь Anthropic Джейкоб Коксон, который покинул компанию из-за опасений, что разработчики слишком быстро создают ИИ-системы, сравнил искусственный интеллект с разумом пришельца.

«Честно говоря, я думаю, что концепция создания сверхразума сравнима с призывом инопланетной расы. Поэтому я думаю, что размышления об этом в контексте инопланетного разума, который мы не до конца понимаем, довольно пугающих, даже без каких-либо конкретных сценариев», — заявил Коксон в эфире телеканала ABC.

Коксон отметил, что до ухода в компании несколько раз в неделю обсуждали серьёзные риски, связанные с ИИ-технологиями. Он специализировался на обучении новых моделей ИИ на больших массивах данных. Исследователь считает, что ни одна компания не сможет ответственно создавать ИИ, а конкуренция в сфере ИИ вынуждает разработчиков жертвовать безопасностью. Коксон опасается, что самообучающиеся модели могут выйти из-под контроля человека уже до конца года. Об этом сообщает РБК.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.