Ну да, GPT-3 на местном маке – мечта-шмечта, не запускается нормально. Но вот всякие маленькие модели, типа DistilGPT — вполне живучие, если не пытаться зашквар делать. M1 с Neural Engine творит чудеса, конечно, но без фанатизма, иначе прямо в сноу будете смотреть, как ноут греется и тормозит. Короче, локалка — это для экспериментов, чтоб не сливать все в облако, а не для серьезной работы с большими «тяжеловесами».