Исследователи в области кибербезопасности раскрыли новую технику, получившую название GuardBreaker, которую применяет угроза, связанная с Россией, известная как UAC-0099. Целью их атак стали объекты в Украине, и основная задача заключается в вмешательстве в анализ, поддерживаемый искусственным интеллектом (ИИ). Как сообщила компания ESET в серии публикаций в социальной сети X, данный метод направлен на умышленное срабатывание механизмов безопасности больших языковых моделей (LLM), что приводит к нарушению их функционирования.

Техника GuardBreaker позволяет злоумышленникам создавать вредоносные команды, которые могут обойти защитные меры ИИ, что ставит под угрозу качество анализа и выводов, основанных на данных. Успешное использование этой техники может значительно снизить эффективность ИИ-систем, используемых для обработки информации в критических ситуациях.

По словам экспертов, использование таких методов подчеркивает растущую угрозу кибератак, направленных на искусственный интеллект, что может привести к серьезным последствиям для безопасности и стабильности в регионе. Важно отметить, что подобные атаки могут затрагивать не только государственные структуры, но и частные компании, работающие с данными и ИИ.

ESET призывает организации, использующие ИИ в своей работе, быть особенно внимательными к подобным угрозам и усиливать свои защитные механизмы. Специалисты рекомендуют проводить регулярные проверки систем на уязвимости и обучать сотрудников методам защиты от таких атак.

В заключение, инцидент с использованием GuardBreaker служит напоминанием о том, что киберугрозы продолжают эволюционировать, и противодействие им требует постоянного внимания и адаптации к новым вызовам.

Источник новости:
The Hacker News

Читать полностью