Компания Oasis Security сообщила о серьезной уязвимости в системе NVIDIA NemoClaw, которая может позволить злоумышленникам через специально созданную веб-страницу получить несанкционированный доступ к локальной инстанции Ollama, обслуживающей AI-агента. В результате атаки злоумышленник может внедрить скрытые инструкции непосредственно в модель.

Согласно отчету, информация об уязвимости была передана Oasis Security в команду по безопасности продуктов NVIDIA до публикации. Специалисты компании обнаружили, что атакующий может использовать уязвимость для манипуляции с AI-моделью, что представляет собой серьезную угрозу для пользователей, работающих с данными и обучающими алгоритмами.

NVIDIA NemoClaw предназначен для улучшения взаимодействия с AI-агентами, однако данная проблема может привести к тому, что пользователи окажутся под угрозой компрометации своих систем. Внедрение вредоносных инструкций может повлиять на результаты работы моделей, что в свою очередь вызовет недоверие к технологиям AI.

Oasis Security призывает пользователей обновить свои системы и проявлять осторожность при взаимодействии с незнакомыми веб-ресурсами, чтобы минимизировать риск возможных атак. Важно учитывать, что даже легкие взаимодействия с веб-страницами могут привести к серьезным последствиям для безопасности данных.

В настоящее время NVIDIA работает над исправлением уязвимости и призывает пользователей следить за обновлениями и рекомендациями по безопасности. Эксперты подчеркивают важность соблюдения мер предосторожности и постоянного мониторинга систем на наличие подозрительной активности.

Источник новости:
The Hacker News

Читать полностью