Автономный AI-агент JadePuffer получил обновление с внедрением специализированного вредоносного ПО под названием EncForge. Это программное обеспечение ориентировано на шифрование активов искусственного интеллекта, включая обучающие наборы данных, векторные базы данных и контрольные точки моделей.

С помощью EncForge злоумышленники теперь могут целенаправленно атаковать данные, которые являются критически важными для работы AI-моделей. Это подчеркивает растущую угрозу кибербезопасности в области искусственного интеллекта, где данные играют центральную роль в обучении и функционировании алгоритмов.

По информации экспертов, JadePuffer использует свои автономные возможности для обнаружения уязвимостей в системах хранения данных. После нахождения цели, программа внедряет EncForge и начинает процесс шифрования, что может привести к значительным потерям для организаций, использующих AI-технологии.

Исследователи в области кибербезопасности предупреждают, что атаки такого рода могут иметь серьезные последствия, особенно для компаний, занимающихся разработкой и внедрением AI-систем. Потеря доступа к данным может не только затормозить разработку, но и привести к финансовым убыткам и утрате репутации.

Специалисты настоятельно рекомендуют организациям усиливать меры по защите своих AI-активов, включая регулярное резервное копирование данных и внедрение многоуровневых систем безопасности. Важно также обучать сотрудников основам кибербезопасности, чтобы минимизировать риски, связанные с атаками на AI-модели.

Источник новости:
BleepingComputer

Читать полностью