Исследователи в области кибербезопасности сообщили о критической уязвимости в агентах ChatGPT Workspace от OpenAI, которая могла позволить злоумышленникам с помощью одной фишинговой ссылки незаметно создать, авторизовать и развернуть автономного искусственного интеллекта (ИИ) внутри организации жертвы. Уязвимость получила кодовое имя AgentForger и была выявлена экспертом в области безопасности Zenity Labs.

По словам исследователей, данная уязвимость предоставляет потенциальным злоумышленникам возможность получить доступ к внутренним системам компаний, что может привести к серьезным последствиям. В частности, это может включать утечку конфиденциальной информации, а также использование корпоративных ресурсов для выполнения вредоносных действий.

Zenity Labs подробно описали механизм работы уязвимости, который позволял обойти механизмы безопасности и авторизации, встроенные в платформу ChatGPT. Злоумышленник мог использовать фишинговую ссылку для привлечения внимания сотрудников, после чего с помощью социальной инженерии запустить процесс развертывания вредоносного агента.

OpenAI оперативно отреагировала на обнаруженную уязвимость. 8 июня 2023 года компания выпустила обновление, устраняющее данную проблему. В своем заявлении OpenAI подчеркнула важность безопасности своих продуктов и отметила, что продолжает активно работать над улучшением защиты от подобных угроз.

Специалисты по кибербезопасности настоятельно рекомендуют организациям проверять свои системы на наличие уязвимостей и проводить обучение сотрудников по вопросам безопасного поведения в сети. Важно помнить, что фишинг остается одним из самых распространенных методов атаки, и осведомленность сотрудников может значительно снизить риски для компании.

Ситуация с уязвимостью AgentForger подчеркивает необходимость постоянного мониторинга и обновления систем безопасности, а также важность сотрудничества между исследователями и компаниями для обеспечения более безопасной цифровой среды.

Источник новости:
The Hacker News

Читать полностью