Сам тоже накидываю в окно только важное, дальше дополняю через векторный поиск по базе. Файнтьюнить пока лень и дорого, проще собрать нормальный датасет и держать его под рукой, чтобы ИИ не улетал на выдумки. Главное — не перегружать контекст и четко фильтровать инфу перед запросом.