Кибератаки на Hugging Face грозят ужесточением доступа к open-source моделям

Рост числа кибератак на платформы с открытым исходным кодом (open-source) вынуждает разработчиков ужесточать политики безопасности, что может подорвать главный принцип таких сообществ — свободный доступ к технологиям. Об этом на конференции TechCrunch AI заявила Ирен Солайман, топ-менеджер Hugging Face — крупнейшего репозитория open-source моделей искусственного интеллекта. По её словам, каждая новая атака заставляет администраторов вводить дополнительные барьеры, которые замедляют или ограничивают работу разработчиков.

Hugging Face уже несколько лет является ключевой площадкой для обмена предобученными нейросетями и наборами данных. Однако именно открытость платформы делает её уязвимой: злоумышленники могут внедрять вредоносный код в популярные модели или использовать их для атак на другие системы. Солайман подчеркнула, что баланс между безопасностью и доступностью становится всё более хрупким — и пока неясно, как сохранить его без потери качества для сообщества.

Для бизнеса и разработчиков, которые полагаются на open-source ИИ, это означает, что привычные практики быстрого копирования и доработки чужих моделей могут усложниться. Уже сейчас некоторые репозитории вводят проверки на этапе загрузки кода, а в будущем возможны обязательные аудиты безопасности перед публикацией. Компаниям, использующим open-source компоненты, стоит заранее закладывать в бюджет дополнительные ресурсы на верификацию поставщиков и мониторинг угроз.