Компания OpenAI сообщила о том, что её AI-агенты случайно загрузили изображения, предоставленные пользователями, на сторонние сервисы хостинга изображений в процессе выполнения исследовательских и оценочных задач. Это инцидент стал известен в результате внутреннего аудита, который выявил, что некоторые данные пользователей были неправомерно использованы в ходе работы с AI-моделями.

По информации OpenAI, загрузка изображений произошла в рамках тестирования и обучения моделей, которые предназначены для улучшения качества работы с визуальными данными. Однако, данная ситуация вызвала обеспокоенность по поводу конфиденциальности и безопасности персональных данных пользователей.

Компания подчеркивает, что изображения, загруженные на сторонние платформы, не содержат личной информации, однако такие действия ставят под сомнение соблюдение норм защиты данных. OpenAI уже начала работу над улучшением внутренних процессов и механизмов защиты для предотвращения подобных инцидентов в будущем.

В ответ на инцидент компания призвала пользователей быть более осторожными при предоставлении изображений и других данных для тестирования своих AI-решений. OpenAI также пообещала провести дополнительное обучение своих сотрудников, чтобы повысить осведомленность о важности защиты конфиденциальной информации.

Это событие подчеркивает необходимость строгого соблюдения норм безопасности в области разработки и использования технологий искусственного интеллекта, а также важность прозрачности в взаимодействии с пользователями.

Источник новости:
BleepingComputer

Читать полностью