Anthropic заблокировала профили, использовавшие Claude для российских СМИ
Anthropic заблокировала четыре пользовательских аккаунта, которые, по данным компании, применяли чат-бот Claude для создания контента для российских государственных и финансируемых государством СМИ. Компания связала материалы, подготовленные с помощью Claude, с публикациями и трансляциями Sputnik Moldova, «РИА Новости», Sputnik en Español, Sputnik Africa и англоязычной редакции «Россия сегодня» (RT). Пользователи, как утверждает Anthropic, передавали готовые материалы непосредственно в редакционные процессы. Об этом сообщает РБК.
«В каждой операции Claude был интегрирован в уже работающий, профессионально отредактированный процесс в качестве уровня младшего редактора», — говорится в отчете Anthropic.
В одном из случаев бывший главный редактор Sputnik Moldova использовал Claude для подготовки русскоязычных статей на основе новостей на румынском и молдавском языках, данных опросов и публикаций оппозиции в соцсетях. Еще один пользователь, которого Anthropic назвала связанным с Россией подрядчиком, создавал с помощью Claude материалы на латиноамериканском испанском для Sputnik en Español.
В своем отчете по анализу угроз компания также обвинила китайских конкурентов в попытках взлома, направленных на извлечение возможностей Claude, и задокументировала злонамеренное использование ее технологий за последние восемь месяцев.
В своем последнем отчете Anthropic также утверждает, что в этом году предотвратила несколько возможных попыток использования ее ИИ-моделей для проведения исследований, которые могли помочь в разработке биологического оружия. Согласно отчету, компания не может точно определить, для каких целей проводили эти исследования, поскольку их результаты можно использовать как для создания вакцин, так и для разработки опасных патогенов. Эти ученые обошли блокировку моделей в их регионе и пытались «скрыть цель своих исследований, чтобы обойти наши меры предосторожности». Anthropic не стала раскрывать имена исследователей, страну их происхождения или биологические компоненты. Компания уточнила, что, несмотря на это, проявила осторожность и заблокировала этих пользователей.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
