Сенат США начал расследование против OpenAI
Подкомитет Сената США, возглавляемый республиканцами, начал расследование действий OpenAI. Причиной стала утечка данных с платформы Hugging Face, произошедшая в июле. Об этом сообщает РБК.
«Американский народ заслуживает того, чтобы знать подробности того, что произошло в инциденте с Hugging Face и других инцидентах, когда модели ИИ вышли из-под контроля», — сообщает РБК.
Председатель подкомитета по управлению чрезвычайными ситуациями Джош Хоули направил генеральному директору OpenAI Сэму Альтману письмо о начале расследования после публикации результатов внутренней проверки компании. Хоули раскритиковал действия OpenAI при проведении кибертестирования. Сенатор назвал «безрассудным» отсутствие более решительных мер после того, как исследователи обнаружили выход ИИ-агентов компании из-под контроля. По словам Хоули, OpenAI также «скрыла многие важные детали» инцидента в своем отчете. Он отметил, что три исследователя Anthropic публично заявили о вероятности более 10% того, что искусственный интеллект может уничтожить человечество в течение следующего десятилетия. Хоули написал, что в публичном пространстве все больше экспертов по ИИ предупреждают об экзистенциальных рисках ИИ.
Ранее OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-модели получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. «Сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана. Позднее OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля. OpenAI замедлила разработку ИИ-модели Astra для усиления мер безопасности. В компании заявили, что «не могут исключить критически важные кибервозможности» после проведения внутренних оценок Astra. Около 1,2 тыс. ИИ-агентов компании во время кибертеста объединились для атаки на платформу Hugging Face. Агенты понимали, что взлом выходит за рамки задания, но продолжили действовать и не сообщили о происходящем людям.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
