Компания Anthropic сообщила о попытках злоупотребления ее моделью искусственного интеллекта Claude со стороны нескольких групп угроз. Среди них оказались как финансово мотивированные хакеры, так и группы, связанные с государственным шпионажем, в частности, имеющие связи с Россией и Китаем.

По данным компании, злоумышленники пытались использовать возможности модели Claude для извлечения конфиденциальной информации из большого количества приложений на платформе Android. Это касается примерно 1,8 миллиона приложений, что ставит под угрозу безопасность миллионов пользователей по всему миру.

Anthropic отметила, что такие действия подчеркивают растущую угрозу, исходящую от ИИ, который может быть использован для автоматизации и упрощения процессов кибершпионажа и кибератак. Модель Claude, как и другие системы искусственного интеллекта, имеет потенциал для злоупотребления в руках недобросовестных пользователей.

Компания активно работает над улучшением безопасности своей модели, а также предпринимает шаги для предотвращения ее использования в злонамеренных целях. Anthropic призывает разработчиков и пользователей к повышенной бдительности и соблюдению мер безопасности.

Этот инцидент служит напоминанием о необходимости постоянного мониторинга и обновления систем безопасности для защиты от новых угроз, связанных с развитием технологий искусственного интеллекта. Эксперты по кибербезопасности рекомендуют организациям применять комплексные подходы к защите своих данных и систем от потенциальных атак.

Источник новости:
BleepingComputer

Читать полностью