Новое исследование, проведенное компанией Cisco, указывает на то, что маркировка моделей искусственного интеллекта по стране происхождения может скрывать их наследственные зависимости, а также поведение и потенциальные риски безопасности. Это открытие поднимает важные вопросы о прозрачности и безопасности ИИ-систем, которые используются в различных отраслях.

Эксперты подчеркивают, что даже если на первый взгляд кажется, что определенная модель ИИ не имеет китайского происхождения, это не гарантирует отсутствие китайских компонентов или технологий в ее основе. Таким образом, важно тщательно проверять всю цепочку поставок и происхождения таких моделей, чтобы избежать неожиданностей.

Cisco призывает организации внимательно относиться к процессу выбора ИИ-решений, особенно в условиях растущей глобальной напряженности и конкуренции в области технологий. Неправильная интерпретация информации о происхождении может привести к серьезным уязвимостям и проблемам с безопасностью.

Кроме того, исследование подчеркивает необходимость более жестких стандартов и регуляций в области разработки и внедрения ИИ-технологий. Учитывая, что ИИ-системы становятся все более распространенными, важно обеспечить их безопасность и надежность.

В заключение, специалисты рекомендуют организациям проводить глубокий аудит ИИ-моделей и их источников, чтобы минимизировать риски и обеспечить защиту данных. В условиях постоянно меняющегося ландшафта киберугроз игнорировать этот аспект становится все более опасно.

Источник новости:
SecurityWeek

Читать полностью