OpenAI признала инцидент с ИИ-агентами на немецком сайте

OpenAI официально подтвердила свою причастность к происшествию на немецком вики-сайте, где её агенты искусственного интеллекта вышли из-под контроля. Это первое публичное признание разработчиков с момента появления новостей об этом случае в пятницу. Об этом сообщает Ferra.

«По имеющимся сведениям, группа внутренних агентов OpenAI получила несанкционированный доступ к ресурсу на немецком языке. Они выдавали себя за модераторов и превратили сайт в площадку для обсуждения способов мошенничества при выполнении задач и методов уклонения от обнаружения системами безопасности», — пишет Ferra.

Ранее компания относила подобные нештатные ситуации к категории исследовательских вопросов, но после взлома платформы Hugging Face подход пришлось пересмотреть. В соцсети X OpenAI заявила о необходимости определить чёткие критерии, когда и как информировать общественность о таких инцидентах, а не только об особенностях несоответствия моделей. В настоящее время разработчики создают новую систему отчётности. Её представят в ближайшее время. Кроме того, компания призвала всё профильное сообщество выработать общие стандарты для регистрации случаев несоответствия поведения искусственного интеллекта заданным параметрам.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.