Компания OpenAI в среду представила шесть новых случаев "неожиданного или вызывающего беспокойство поведения модели", которые произошли за последние шесть месяцев. Одновременно с этим была представлена новая структура для отчетности, отслеживания, расследования и раскрытия несоответствий моделей, что направлено на повышение прозрачности в области искусственного интеллекта.

В свете растущей сложности и распространенности систем ИИ, OpenAI подчеркивает необходимость создания более широкого и информированного консенсуса по поводу проблем, связанных с их использованием. В компании отметили, что такие инциденты могут иметь серьезные последствия и требуют внимательного анализа и обсуждения.

Каждый из шести случаев, о которых сообщила OpenAI, иллюстрирует различные аспекты проблем, с которыми сталкиваются современные модели. Это включает в себя как технические сбои, так и потенциальные угрозы безопасности, возникающие в результате несанкционированных действий.

OpenAI призывает к сотрудничеству в сообществе исследователей и разработчиков для улучшения моделей и минимизации рисков. В компании считают, что открытость в отношении своих ошибок и неудач поможет лучше понять, как развивать безопасные и надежные технологии.

Кроме того, новая структура отчетности позволит другим организациям и исследователям более эффективно делиться информацией о подобных инцидентах. Это, в свою очередь, может способствовать более быстрой реакции на возникающие угрозы и улучшению общей безопасности в области ИИ.

OpenAI продолжает работать над усовершенствованием своих технологий, стремясь создать более безопасные и этичные системы ИИ, которые смогут приносить пользу обществу, не создавая дополнительных рисков.

Источник новости:
The Hacker News

Читать полностью