Честно, скепсис насчёт всего этого локального запуска на маках остался. Да, вроде DistilGPT и Whisper тянут, но вся эта оптимизация и пляски с Core ML — просто ради мелких задач. Если нужна нормальная производительность или что посерьёзнее, всё равно без облака никуда. Сейчас это больше игрушка, чем реально рабочий инструмент. Только если совсем простенькие модели и не ждать чудес.