Недавно обнаруженная уязвимость в системах OpenAI, Anthropic и Google, касающаяся передачи скрытого логического вывода ИИ через API, позволила исследователям восстановить внутренние рассуждения и секреты из журналов сессий, включая ключи API и пароли. Эта проблема затрагивала зашифрованные объекты рассуждений, используемые в API логического вывода поставщиков, где блок, созданный в одной сессии, мог быть воспроизведен в другой.

Исследователи отметили, что уязвимость возникала из-за возможности повторного использования блоков данных, что открывало доступ к конфиденциальной информации. Это подчеркивает важность обеспечения безопасности при разработке и использовании API, особенно когда речь идет о чувствительных данных.

Тестирование показало, что злоумышленники могли легко извлечь информацию, если им удавалось перехватить соответствующие запросы. В результате этого инцидента компании были вынуждены пересмотреть свои подходы к безопасности и шифрованию данных, чтобы предотвратить подобные утечки в будущем.

Проблема также вызывает вопросы о том, насколько безопасны текущие стандарты защиты данных в области искусственного интеллекта. Эксперты по кибербезопасности настоятельно рекомендуют всем разработчикам ИИ-технологий уделять внимание вопросам безопасности на всех этапах разработки.

В ответ на утечку OpenAI, Anthropic и Google уже начали внедрять дополнительные меры безопасности и обновления для своих API, чтобы минимизировать риски и защитить пользователей. Однако это событие служит напоминанием о том, что даже самые продвинутые технологии могут быть уязвимы, и требует постоянного внимания к вопросам кибербезопасности.

Источник новости:
The Hacker News

Читать полностью