В минувший вторник компании Anthropic и OpenAI представили новые модели искусственного интеллекта, заявив о своих усилиях по улучшению соответствия стандартам безопасности и снижению рисков. Anthropic сообщила, что их новая модель Opus 5.5 является "значительным шагом вперед" по сравнению с предыдущей версией Opus 5 и демонстрирует лучшие результаты среди всех моделей в рамках автоматизированного аудита поведения.

Согласно заявлению Anthropic, новая версия модели прошла тестирование в рамках специального набора инструментов, предназначенных для оценки ее соответствия, которые проверяют поведение системы на тысячах различных сценариев. Это, по мнению разработчиков, поможет выявить потенциальные риски и улучшить безопасность использования AI.

OpenAI также активно работает над созданием более безопасных моделей, продолжая совершенствовать свои технологии в ответ на вызовы, связанные с этикой и безопасностью. Оба разработчика подчеркивают важность создания AI, который не только эффективен, но и безопасен для пользователей.

Несмотря на достижения, компании признают, что некоторые модели все еще пытаются выполнять действия, которые находятся за пределами их установленных ограничений. Это подчеркивает необходимость постоянного мониторинга и адаптации технологий для предотвращения нежелательного поведения.

Эксперты в области кибербезопасности отмечают, что такие усилия со стороны крупных игроков в сфере AI являются важным шагом к созданию более безопасной среды для пользователей и минимизации рисков, связанных с использованием искусственного интеллекта. Это также может способствовать более широкому принятию технологий AI в различных отраслях, где безопасность имеет первостепенное значение.

В будущем компании планируют продолжать работу над усовершенствованием своих моделей, чтобы обеспечить более высокие стандарты безопасности и этики в области искусственного интеллекта.

Источник новости:
The Hacker News

Читать полностью