Компания OpenAI во вторник сообщила о приостановке обучения с подкреплением (RL) для своих новых моделей искусственного интеллекта на срок в две недели. Это решение было принято в связи с необходимостью усилить защитные меры и расширить мониторинг, чтобы избежать повторения инцидента, подобного произошедшему с Hugging Face.

По словам представителей компании, с увеличением возможностей моделей возрастает и риск, связанный с их внутренней разработкой и тестированием. OpenAI стремится обеспечить безопасность и надежность своих технологий, что требует постоянного обновления и усовершенствования существующих мер безопасности.

Приостановка обучения позволит команде OpenAI сосредоточиться на улучшении алгоритмов и внедрении новых протоколов, направленных на предотвращение потенциальных угроз. Это решение также подчеркивает важность ответственного подхода к разработке ИИ, особенно в условиях растущей общественной обеспокоенности по поводу возможных негативных последствий.

Компания активно работает над созданием более безопасных моделей, которые способны эффективно взаимодействовать с пользователями и минимизировать риски, связанные с неправильным использованием технологий. OpenAI продолжит мониторинг и оценку своих моделей, чтобы гарантировать их соответствие стандартам безопасности и этики.

В рамках этих усилий OpenAI также рассматривает возможность сотрудничества с другими организациями и экспертами в области кибербезопасности, чтобы обмениваться знаниями и лучшими практиками. Это позволит не только улучшить внутренние процессы, но и внести вклад в более широкое сообщество разработчиков ИИ.

Источник новости:
The Hacker News

Читать полностью