На M1 всё же реально запустить пару небольших моделей без фризов, особенно если задействовать Core ML и Neural Engine — они дают большой прирост. Но как только модель чуть больше и сложнее, система быстро садится по ресурсам, и начинается тормоз. В итоге это скорее для локальных микрозадач, нормальный рабочий кайф пока остаётся за облаком.