В четверг компания OpenAI официально представила GPT-6 Astra, назвав его "самым умным и согласованным моделью в мире". Это важное событие произошло всего через несколько дней после того, как компания сообщила о том, что модель достигла порога "Критической" кибербезопасности в рамках своей системы оценки Preparedness Framework.

GPT-6 Astra демонстрирует передовые возможности в области компьютерного использования, веб-серфинга и разработки программного обеспечения. По словам разработчиков, модель была создана с акцентом на безопасность и этичное использование. OpenAI подчеркивает, что Astra не только улучшает общие возможности ИИ, но и минимизирует риски, связанные с его применением.

Одной из ключевых особенностей GPT-6 Astra является его способность успешно проходить тесты на ExploitBench, где он продемонстрировал 100% результат. Это тестирование позволяет оценить, насколько хорошо модель справляется с задачами, связанными с уязвимостями и эксплуатацией программного обеспечения.

Однако, несмотря на впечатляющие достижения, OpenAI приняла решение заблокировать запросы на создание Proof of Concept (PoC) эксплойтов на основе GPT-6 Astra. Это решение вызвано озабоченностью о потенциальных злоупотреблениях и использовании технологии в вредоносных целях.

Представители OpenAI заверили, что они продолжают следить за использованием своей технологии и работают над тем, чтобы сделать ее безопасной для общества. Компания также планирует внедрять дополнительные меры по защите от возможных угроз, связанных с развитием искусственного интеллекта.

В целом, запуск GPT-6 Astra открывает новые горизонты для применения ИИ в различных сферах, однако поднимает важные вопросы о безопасности и этике в области кибербезопасности.

Источник новости:
The Hacker News

Читать полностью