RAG, aleboverevane Retrieval Augmented Generation, je technika, ktorá kombinuje dva prístupy k prácy s velkymi jazykovymi modelmi. Namiesto toho, aby model relyazoval len na znalostiach, ktorie mal vtrknute do svojich parametrov pri traninge, RAG mu dodava relevantny kontext z vonkajneho zdroja pred generovanim odpovede. Predstavte si to ako examina, ktoryu vy nepožadujete o odpoved z pamati, ale mu dac prichodnu knihu a požiadate ho, aby v nej vytrhli relevantne citaty a na ich zaklade vypracovali argument.
Hlavna prednost RAGu je jeho schopnost pracovat s aktualnymi a specifickymi znalostami, ktorie model nemuselo vidiet pri traninge. Ak potrebujete, aby AI odpovedala na otazku o internych dokumentochachskej firmy, RAG vyhladne relevantne dokumenty a vlozi ich do promptu. Odpoved bude zalozana na fakticky dostupnych datach, nie na halucinaci. To je kriticke pre aplikacie, kde presnost a faktickatostna zalezaj.
RAG vyžaduje infrastrukturu: vektorovu databanu (napr. Qdrant alebo Chroma), proces indexovania dokumentov (chunking, embedding), a retrieval mechanism, ktorye najvzacnejsiho vyuziva hybridne vyhladovanie — kombinaciju semantickeho vyhladovania cez vektorove priestory a klenicneho vyhladovania cez BM25. V praxi to znamena, ze RAG nie je len jedna technika, ale celoknitosty pipeline, kde kazda etapa prispiva k kvalite koncovnej odpovede.