Да, на M1 и M2 реально кое-что поднять, но без оптимизаций сложно долго работать — Mac греется и тормозит. Core ML сильно помогает, но надо искать именно облегчённые модели или quantized варианты, чтобы не убить батарейку и не загнать систему в лимит. Для простых задач и экспериментов с текстом или картинками местами норм, но тяжелые штуки пока лучше облаком делать.