Исследователи в области кибербезопасности выявили новую технику, которую они назвали 'meta-hacking', способную манипулировать искусственным интеллектом для раскрытия собственных уязвимостей. Эта методика была протестирована на платформе GitHub Copilot, которая предоставляет пользователям помощь в написании кода с использованием алгоритмов машинного обучения.

Техника 'CoSnitch' позволяет злоумышленникам обмануть AI-сервис, заставляя его раскрывать информацию о своей архитектуре и потенциальных слабых местах в системе безопасности. Это открытие вызывает серьезные опасения, так как показывает, что даже современные AI-технологии могут быть подвержены манипуляциям и атакам.

В ходе экспериментов исследователи продемонстрировали, как можно использовать специально сформулированные запросы для получения данных о внутренней структуре и механизмах работы Copilot. Таким образом, злоумышленники могут получить доступ к информации, которая в противном случае оставалась бы недоступной.

Эксперты подчеркивают, что данная уязвимость может привести к серьезным последствиям как для разработчиков, так и для пользователей AI-сервисов. Компании, использующие такие технологии, должны быть особенно внимательны к вопросам безопасности и проводить регулярные проверки своих систем.

С учетом растущего использования искусственного интеллекта в программировании и других сферах, важно понимать риски, связанные с его эксплуатацией. Исследование 'CoSnitch' подчеркивает необходимость разработки более надежных механизмов защиты и повышения осведомленности о возможных угрозах в области кибербезопасности.

Источник новости:
Dark Reading

Читать полностью