В открытом инструменте DeepSeek Harness, предназначенном для запуска ИИ-агентов на компьютерах разработчиков, обнаружена уязвимость, позволяющая агенту в песочнице отключать свою собственную изоляцию с помощью одной команды. Данный инструмент обеспечивает выполнение команд агентов внутри песочницы операционной системы, что предотвращает запись данных в файловую систему за пределами рабочего пространства агента, особенно при работе с ненадежными файлами.

Однако уязвимость дает возможность агенту удалить это ограничение, обратившись к веб-интерфейсу инструмента. Это создает серьезные риски для безопасности, так как недобросовестные агенты могут получить доступ к важным системным ресурсам и данным.

Разработчики DeepSeek уже были уведомлены о данной проблеме и работают над ее устранением. Важно отметить, что такие уязвимости могут быть использованы злоумышленниками для выполнения вредоносных действий, что подчеркивает необходимость регулярного обновления и проверки инструментов безопасности.

Эксперты по кибербезопасности настоятельно рекомендуют пользователям DeepSeek Harness немедленно проверить свои системы на наличие этой уязвимости и следить за обновлениями от разработчиков. Поскольку использование ИИ в разработке программного обеспечения становится все более популярным, подобные уязвимости могут угрожать не только отдельным разработчикам, но и целым организациям.

Проблема также поднимает важный вопрос о контроле за ИИ-агентами и необходимости внедрения дополнительных мер безопасности. Использование песочниц, хотя и является хорошей практикой, должно сопровождаться постоянным мониторингом и обновлениями для предотвращения потенциальных угроз.

Источник новости:
The Hacker News

Читать полностью