Слабые правила безопасности ИИ делают продукты опаснее полного отсутствия регулирования
Учёные из Корнеллского университета и Университета Карнеги — Меллона установили, что слабые правила безопасности искусственного интеллекта, возлагающие ответственность только на создателей конечных приложений, приводят к созданию продуктов с более высоким уровнем риска, чем полное отсутствие регулирования. Об этом сообщает издание IXBT News со ссылкой на исследование.
«Законы становятся инструментом, позволяющим гигантам перекладывать финансовое и техническое бремя безопасности на узкоспециализированных разработчиков приложений, создавая эффект «бесплатного проезда»», — заявил главный автор работы Бенджамин Лоуфер из подразделения Корнелл Тек.
Авторы работы смоделировали цепочку поставок ИИ-инструментов, разделив её на два уровня: компании-разработчики универсальных базовых моделей и сторонние фирмы, которые адаптируют эти нейросети для конкретных задач, таких как медицинская диагностика или клиентский сервис. Модель оценивает итоговую безопасность и производительность продуктов при введении регуляторами минимальных требований на разных этапах разработки.
Опасный эффект возникает в сценарии, когда заниженная планка безопасности устанавливается исключительно для создателей конечных сервисов. В этом случае у поставщиков базовых нейросетей исчезают стимулы инвестировать в собственные системы защиты и независимый аудит.
В своём исследовании Бенджамин Лоуфер и его коллеги определили безопасность в широком смысле, включив туда риски нанесения вреда пользователям, в том числе генерацию токсичного контента чат-ботами. Учёные подчеркнули, что в условиях текущей неопределённости, когда большинство законов о регулировании ИИ находятся в статусе законопроектов, важно математически просчитывать искажения экономических стимулов у коммерческих компаний.
Модель наглядно иллюстрирует системную проблему управления в многокомпонентных сервисах на базе ИИ. Ответственность в таких комплексах распределена между обучением фундаментальной модели, её точной настройкой, проектированием интерфейса и операционным мониторингом. Законодательные нормы, налагающие юридические обязательства только на один уровень цепи, создают разрыв между организациями, способными эффективно устранить риск, и фирмами, обязанными документировать соответствие стандартам.
Работа предлагает формальную математическую базу для распределения ответственности за безопасность нейросетей между разработчиками и внедряющими компаниями. Хотя выводы исследования являются теоретической моделью, а не измерением практики конкретных ИИ-корпораций, полученные результаты дают регуляторам и специалистам по управлению рисками ориентиры для формирования аудиторских стандартов и предотвращения уклонения крупных поставщиков от проверок.
Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.
