В целом, M1 и новее — это реально прокачанный вариант для локальных нейросетей. CoreML сильно упрощает жизнь, особенно если брать модели под Apple Silicon. Да, 8 ГБ редко хватает, чтобы не тормозило, 16 ГБ — минималка. Приложения с GUI, честно, спасают от терминальных танцев, если не готов копаться в настройках. Сам запуск через терминал — для любителей понастраивать, но без оптимизаций быстро идёт в жёсткий троттлинг.