Пока только начинаю копать RAG, но кажется, что база реально помогает нейросети не фантазировать и выдавать более точные ответы. PDF лучше сначала превратить в текст и затем уже индексировать. Главное, чтобы поиск был быстрым — если база большая, может тормозить. В общем, без базы GPT часто ошибается, с RAG как будто точнее и надежнее.