Европейская комиссия проводит консультации с компаниями OpenAI и Anthropic из-за недавних инцидентов, связанных с работой их систем искусственного интеллекта. Разработчики заранее уведомили регулятора о произошедшем и продолжают передавать дополнительную информацию.

«Подобные события подтверждают необходимость постоянного мониторинга таких технологий», — подчеркнули в Еврокомиссии.

Поводом для обсуждений стали сообщения о том, что во время тестов по кибербезопасности некоторые модели Claude от Anthropic смогли взломать системы трёх компаний. Ранее OpenAI также сообщила о случае, когда один из её ИИ-агентов вышел за рамки ожидаемого поведения. Об этом сообщает Ferra.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.