Кто-то слышал про RAG и думает: зачем нейросети вообще куча внешних текстов, если она и так вроде всемогущая? Тут дело в том, что большая языковая модель без свежей или узкоспециализированной базы — как гадалка без шарика. Она может сгенерировать по памяти, но точность страдает, особенно если нужна фактура или узкоспецифика.
RAG — это когда к языковой модели подцепляют какую-то базу знаний (документы, статьи, FAQ), она их ищет по запросу и на их основании уже выдает ответ. В итоге выходит более актуально и чётко.
Ну, сомнительно всё это с базой знаний. Нейросеть вроде как сама по себе мощная, много что может нагенерить из общей инфы. Зачем ей эти допы? С одной стороны, можно понять, что для свежих данных лучше база, но это же усложняет систему и всё замедляет. Иногда проще уже без неё обойтись, чем городить сложные конструкции.