Логи лучше держать максимально аккуратными — затереть все секреты и чувствительные данные, иначе потом беда обеспечена. Логи запросов с OpenAI легко разрастаются, если туда сливать всё подряд, так что обрезать промты или писать только чекпоинты — норм. Ну и ротация файлов должна быть, чтобы диски не забились под завязку после пары дней работы. А ошибки точно писать отдельно — без этого потом не разберешься, что сломалось.