Пока что просто кидаю в LLM самый важный кусок текста, что успеваю уместить, и жду, чтобы не сбивалась тема. Файньтьюнить — это тема для больших шишек, мне проще через векторный поиск отбивать нужные данные и накидывать их перед запросом. Главное — не прыгать далеко от контекста, иначе ИИ начинает врать.