Дарио Амодеи, генеральный директор компании Anthropic, выразил серьезные опасения по поводу быстрого развития технологий искусственного интеллекта (ИИ). Он предупредил, что в течение следующих шести-двенадцати месяцев ИИ может стать способен управлять группами агентов, которые потенциально могут захватить контроль над всем интернетом.

Амотеи отметил, что текущие меры безопасности в индустрии ИИ не успевают за темпами его развития. По его мнению, это создает серьезные риски как для пользователей, так и для инфраструктуры в целом.

По словам Амодеи, необходимо уделить больше внимания разработке и внедрению эффективных мер по обеспечению безопасности ИИ-систем. Он призвал к более активному диалогу между разработчиками, регуляторами и исследователями в области кибербезопасности.

Генеральный директор Anthropic подчеркнул, что технологии ИИ уже сейчас способны на многое, и их влияние на общество будет только нарастать. Поэтому крайне важно, чтобы меры по обеспечению безопасности не отставали от инновационных разработок.

Амотеи также призвал к более строгим стандартам и лучшему контролю в области разработки ИИ, чтобы минимизировать потенциальные угрозы. Он считает, что создание безопасных и этичных ИИ-систем должно стать приоритетом для всей отрасли.

Эти заявления подчеркивают важность обсуждения вопросов безопасности в контексте стремительного роста технологий ИИ и необходимость коллективных усилий для предотвращения возможных угроз.

Источник новости:
SecurityWeek

Читать полностью