В точку про частые запросы с большим контекстом. У меня тоже бюджет сжигался быстро, пока не начал резать размер входных данных и кешировать ответы на повторяющиеся запросы. Ещё помог переход на дешевую модель для простых задач, а GPT-4 оставил для сложных кейсов. Главное — не гонять всё подряд и ставить лимиты, иначе счётчик только усмехается.