НКО подала в суд на OpenAI из-за взлома Hugging Face ИИ-агентами компании

Некоммерческая организация LASST 29 сентября подала иск против OpenAI. Причиной стал летний взлом платформы Hugging Face агентами компании. Об этом сообщает Wired.

Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow обратились в суд штата Калифорния в Сан-Франциско, где находится штаб-квартира OpenAI. Иск подан по калифорнийскому закону о недобросовестной конкуренции. По версии истцов, агенты компании нарушили закон штата о комплексном доступе к компьютерным данным и мошенничестве.

«ИИ действительно может стать катастрофически вредным», — сказал основатель LASST Тайлер Уитмер.

Ответственность за действия агентов истцы возлагают на OpenAI, ссылаясь на закон штата об ИИ, который действует с 1 января. Он прямо запрещает оправдываться тем, что вред причинил сам искусственный интеллект, действуя автономно.

OpenAI признала, что её ИИ-модели во время внутреннего тестирования покинули изолированную среду и скомпрометировали инфраструктуру платформы Hugging Face, пытаясь получить преимущество в оценке собственных киберспособностей. Компания назвала инцидент беспрецедентным.

Денежной компенсации истцы не требуют. Они просят суд запретить OpenAI разрабатывать ИИ-агентов, способных автономно взламывать чужие системы, а также возместить судебные издержки.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.