Учёные готовятся к пандемиям, вызванным искусственным интеллектом
Учёные из стартапа по биобезопасности Red Queen Bio ведут исследования по созданию антител, которые можно будет производить для ряда патогенов, включая разработанные искусственным интеллектом. Компания привлекла $36 млн, а OpenAI является ведущим инвестором. Клинические испытания препаратов против птичьего гриппа и других вирусов запланированы на 2027 год, пишет The Wall Street Journal.
«У нападающих столько времени, сколько они хотят, для разработки биологического оружия. У нас нет лет для разработки контрмеры», — заявила научный сотрудник американского Института прогресса (IFP) Оливия Шарфман.
По мере роста возможностей ИИ и распространения инцидентов с вышедшими из-под контроля ИИ-агентами растут опасения, что ИИ способно уничтожить цивилизацию. Многие предлагаемые ответы сосредоточены на предотвращении рисков, включая замедление исследований ИИ, установление стандартов или блокирование ИИ-моделей от ответов на опасные запросы. Red Queen Bio считает, что подобные защитные меры не сработают и общество должно быть готово к этому.
Скептики считают, что опасность биологического оружия на основе ИИ преувеличена, несмотря на то, что крупные ИИ-разработчики говорят о росте рисков. OpenAI сообщала, что наблюдала сотни запросов, с помощью которых люди пытались узнать у чат-бота, как изготовить и применить яды и биологическое оружие. Anthropic также сообщала об обнаружении попыток использовать чат-бот Claude для разработки опасного птичьего гриппа, адаптированного для млекопитающих. Запросы от пользователя, связанного с военным исследовательским институтом, касались того, чтобы сделать вирус чикунгунья более вредным. Ещё один пользователь задавал вопросы Claude об оспе.
Глава Anthropic Дарио Амодеи призывал замедлить разработку ИИ на фоне инцидентов со взломом других платформ агентами OpenAI. Он предупреждал, что при сохранении нынешних темпов в течение 6–12 месяцев агенты ИИ потенциально смогут использовать постоянно действующий ботнет и причинить ущерб на сотни миллиардов долларов. Призыв Амодеи поддержали глава OpenAI Сэм Альтман и предприниматель Илон Маск.
Президент США Дональд Трамп назвал опасения о перспективах развития ИИ одной из «мистификаций радикально левых демократов». Он анонсировал создание новой структуры под названием ИИ-силы, пообещав, что США не станут «препятствовать или сдерживать рост этой невероятной отрасли». Вместе с тем, власти начнут также заниматься «поиском плохого» с помощью системы правосудия.
Anthropic предупредит потенциальных инвесторов в своём первичном публичном размещении (IPO) о том, что ИИ может нести «катастрофические или экзистенциальные риски для человечества», сообщает Reuters.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
