Я недавно тоже свернул все запросы на GPT-3.5, чтобы не переплачивать, и по максимуму поставил лимит токенов. Пока вроде бюджет держится, хотя иногда хочется поюзать GPT-4, но жаль денег. Кэширование не внедрил пока, но заметил, что просто отслеживать траты уже помогает не залететь. Главное — не пускать скрипты без контроля, а то можно случайно улететь сильно.