Зловредные серверы MCP могут заставить AI-агентов по программированию утекать секреты
 

https://blogger.googleusercontent.co.../mcp-agent.jpg

Недавно исследователи в области кибербезопасности выявили новый метод, позволяющий злоумышленникам использовать серверы с вредоносным программным обеспечением для кражи конфиденциальной информации через AI-ассистентов по программированию. Эти серверы способны незаметно извлекать SSH-ключи, секреты окружения, исходный код и данные клиентов, не отправляя при этом явно вредоносные команды.

Суть метода заключается в разделении вредоносного запроса на несколько фрагментов, каждый из которых выглядит как обычная, рутинная операция. Эти фрагменты передаются через каналы, которые AI-ассистент уже использует, что делает их трудными для обнаружения.

Такой подход позволяет злоумышленникам обойти защитные механизмы, которые могут блокировать более грубые попытки кражи данных. Даже если система отказывается выполнять прямую команду на кражу информации, она может не заметить, как поэтапно выполняются рутинные операции, которые в итоге приводят к утечке данных.

Эксперты предупреждают, что этот метод может стать серьезной угрозой для организаций, использующих AI-ассистентов в своих процессах разработки. Учитывая растущую популярность таких инструментов, важно быть внимательными к тому, какие данные они обрабатывают и какие серверы подключаются к ним.

Специалисты рекомендуют усилить мониторинг и защиту систем, использующих AI, а также проводить регулярные проверки на наличие уязвимостей. Защита конфиденциальной информации должна оставаться приоритетом для всех компаний, стремящихся использовать современные технологии в своем бизнесе.

Данный инцидент подчеркивает необходимость более строгих мер безопасности в отношении использования AI в программировании, а также важность повышения осведомленности среди разработчиков о потенциальных рисках, связанных с интеграцией таких технологий.

Источник новости:
The Hacker News

Читать полностью