В библиотеке Diffusers компании Hugging Face были обнаружены три серьезные уязвимости, которые могут позволить злоумышленникам внедрять произвольный код в модели, загружаемые на уязвимые машины. Эти проблемы ставят под угрозу безопасность цепочки поставок искусственного интеллекта. Уязвимости могут обойти механизм trust_remote_code, который предназначен для предотвращения выполнения непроверенного кода.

Атака может осуществляться через специально подготовленные репозитории моделей, которые, после загрузки, могут запускать вредоносный код на компьютере пользователя. Это создает риски не только для отдельных разработчиков и исследователей, но и для организаций, использующих инструменты Hugging Face в своих проектах.

Эксперты по кибербезопасности настоятельно рекомендуют пользователям библиотеки внимательно следить за обновлениями и проверять источники моделей перед их загрузкой. Hugging Face уже работает над устранением уязвимостей и планирует выпустить обновления в ближайшее время.

В свете этих событий пользователям следует повышать свою бдительность и применять дополнительные меры безопасности при работе с библиотеками и моделями, особенно в контексте искусственного интеллекта, где последствия могут быть особенно серьезными.

Проблема подчеркивает важность проверки доверия к используемым ресурсам и необходимость соблюдения лучших практик безопасности в разработке и использовании AI-приложений.

Источник новости:
The Hacker News

Читать полностью