В целом, идея с локальными нейросетями прикольная — особенно для тех, у кого нет супербыстрого интернета или кто не хочет сливать свои данные в облако. LLaMA и Stable Diffusion реально работают на адекватном железе, главное подобрать модель под задачи и не лезть в самые тяжёлые версии, если ПК не топовый. Whisper офлайн — вообще находка, если надо быстро и без задержек.