Anthropic указала на неясную отдачу от инвестиций в безопасность ИИ

Компания Anthropic, разработчик нейросети Claude, заявила о неясной отдаче от инвестиций в безопасность искусственного интеллекта. Об этом говорится в проспекте компании к IPO, сообщает Reuters.

Компания, создавшая нейросеть Claude, охарактеризовала усилия по обеспечению безопасности как «ресурсоемкие» и заявила, что ей приходится распределять свои ограниченные средства между вычислительными мощностями, дорогостоящими специалистами по ИИ и безопасностью.

В проспекте не указано, сколько именно компания тратит на такие исследования.

В проспекте для потенциальных инвесторов Anthropic предупредила, что ИИ может нести «катастрофические или экзистенциальные риски для человечества». Согласно документу, ИИ-модели компании могут демонстрировать «самостоятельное поведение», «сопротивляться отключению», «скрывать или манипулировать информацией» и поведение, которое «напоминает шантаж».

Агентство отмечает, что Anthropic посвятила примерно 80 из 261 страницы основной части проспекта изложению факторов риска развития ИИ, что почти вдвое больше, чем использовалось для описания бизнеса.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.