Компания Anthropic в четверг сообщила о том, что ей удалось выявить и предотвратить масштабные незаконные атаки на модель Claude, осуществляемые семью лабораториями, расположенными в Китае. Среди этих лабораторий оказались такие известные компании, как Alibaba, Moonshot, DeepSeek, Z.ai (также известная как Zhipu) и MiniMax.

Атаки, которые были обнаружены, представляют собой попытки незаконного извлечения знаний из модели Claude, что называется дистилляцией знаний. Хотя сама по себе дистилляция знаний является легитимным методом обучения, который используется для повышения эффективности работы моделей искусственного интеллекта, в данном случае она применялась с целью незаконного копирования и использования интеллектуальной собственности Anthropic.

Данная ситуация поднимает важные вопросы о безопасности и защите интеллектуальной собственности в сфере разработки искусственного интеллекта. В условиях постоянного роста конкуренции на рынке AI, компании сталкиваются с новыми угрозами, связанными с киберпреступностью, что требует от них повышения уровня защиты своих технологий.

Anthropic подчеркнула, что такие действия не только нарушают законы, но и ставят под угрозу развитие технологий в области искусственного интеллекта. Незаконные атаки на модели могут привести к созданию менее безопасных и менее эффективных систем, что негативно скажется на всей отрасли.

Компания также заявила, что продолжит мониторить ситуацию и принимать меры для защиты своих разработок. Важно, чтобы сообщества исследователей и разработчиков работали вместе для создания безопасной и этичной среды для развития искусственного интеллекта.

Пока что неясно, какие конкретные меры будут предприняты против лабораторий, участвующих в этих атаках, но Anthropic уже начала сотрудничество с правоохранительными органами и другими организациями для расследования инцидента и предотвращения подобных случаев в будущем.

Источник новости:
The Hacker News

Читать полностью