Выше уже сказано, но добавлю: автономный AI крутой для тех, кто ценит приватность и не хочет зависеть от сторонних сервисов. Да, железо надо покруче, и заморочек с настройкой хватает, но зато всё под контролем и без подвисаний из-за интернета. Для базовых задач, типа написания текста или простого кода, такой AI вполне живой вариант. Главное — не ждать от него суперскорости и сверхумности облачных решений.