Компания Cisco анонсировала новый open-source инструмент Model Provenance Kit, предназначенный для анализа происхождения и истории изменений моделей искусственного интеллекта. Решение ориентировано на компании, активно использующие сторонние модели из открытых репозиториев. Об этом сообщается на сайте Cisco.

«Без понимания происхождения модели становится практически невозможно отследить источник инцидента, определить масштаб его распространения или быстро устранить последствия», — заявили в пресс-службе Cisco.

Инструмент реализован на Python и включает CLI-интерфейс, позволяющий создавать уникальный «отпечаток» модели на основе метаданных, сходства токенизаторов и характеристик весов. Система работает в двух режимах: compare для прямого сопоставления двух моделей и scan для поиска ближайших совпадений в базе Cisco. Model Provenance Kit доступен на GitHub, а база «отпечатков» — на Hugging Face.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.