Anthropic применила технологию Яндекса для исследования безопасности ИИ

Американская компания Anthropic использовала технологию Яндекса для изучения рисков безопасности искусственного интеллекта. Об этом сообщает «Код Дурова».

Речь идёт о технологии Petals, которая объединяет вычислительные мощности нескольких компьютеров через интернет.

Эту технологию создали специалисты Яндекса вместе с Hugging Face и несколькими международными университетами. Отмечается, что крупные нейросети могут работать не только в дата-центрах, но и на множестве маломощных устройств. Для проверки этого учёные успешно запустили модель Gemma 4 на пятнадцати обычных Android TV-приставках.

Эксперимент подтвердил, что такой распределённый подход работоспособен. Умная домашняя техника смогла совместно поддерживать работу большой языковой модели без одного мощного сервера.

Кроме того, в Anthropic исследовали способность ИИ-агентов к самостоятельному распространению. В изолированной сети с ослабленной защитой нейросети смогли обнаружить новые устройства и получить к ним доступ. Полученные результаты помогут оценить риски развития автономных систем и найти надёжные способы защиты. Технология Petals имеет открытый исходный код и продолжает развиваться в других научных проектах.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.