Kako zgraditi cevovod RAG, ki dejansko deluje

Cevovodi RAG (Retrieval-Augmented Generation) so dobri le toliko, kot so dobri podatki, ki jih pridobijo. Ti podatki pa so odvisni od razčlenjevanja dokumentov, ki napaja razdeljevalnik in vdelovalni model.

Najpogostejša napaka je surovo besedilo PDF poslati v vektorsko zbirko in se spraševati, zakaj je kakovost iskanja slaba. PDF nima strukturiranega besedila — vsebuje postavljene glife. »Odstavek« je le skupek blokov brez pomenske skupine, tabela so koordinate, naslov pa krepko besedilo z večjo pisavo.

Cevovod

1. Dokument → Markdown — PDF, DOCX, PPTX ali drug format pretvori v čist, strukturiran Markdown z API-jem AnyMD.
2. Markdown → odseki — razdeli po naslovih in odstavkih (pomensko razdeljevanje, ne po fiksnem številu žetonov).
3. Odseki → vdelave — vsak odsek pošlji skozi vdelovalni model.
4. Vdelave → vektorska zbirka — indeksiraj za iskanje podobnosti.

Prav prvi korak je mesto, kjer večina cevovodov RAG tiho odpove. Slabi podatki noter, slab rezultat ven.

Zakaj je Markdown najboljši vmesni format

Markdown ohrani strukturo dokumenta — naslove, sezname, tabele in bloke kode — v lahkem formatu, ki ga razdeljevalniki in vdelovalni modeli razumejo neposredno.

Surovo besedilo PDF:

Revenue Q1 Q2 Q3
EU €1.2M €1.4M €1.1M
US €0.9M €1.1M €1.3M

Po pretvorbi z AnyMD:

| Region | Q1    | Q2    | Q3    |
| :----- | :---- | :---- | :---- |
| EU     | €1.2M | €1.4M | €1.1M |
| US     | €0.9M | €1.1M | €1.3M |

Različica Markdown je pomensko uporabna. Razdeljevalnik lahko razdeli pri naslovih, model pa za tabelo ustvari boljše vektorje kot za blok presledkov. Ko uporabnik vpraša »kakšni so bili prihodki EU v Q2?«, pridobljeni odsek vsebuje dejansko tabelo z glavi stolpcev.

Praktičen primer

# Četrtletno poročilo pretvori v Markdown
curl -X POST https://anymd.net/api/convert \
  -H "Authorization: Bearer your-key" \
  -F "file=@quarterly-report.pdf" \
  -o report.md

# Markdown pošlji v cevovod za razdeljevanje in vdelave

Izpis Markdown ohrani vsak naslov, tabelo, seznam in odstavek — pripravljen je za katerikoli okvir RAG (LangChain, LlamaIndex ali vašega).

Pri velikem obsegu je zmogljivost pomembna

AnyMD 48-stransko poročilo pretvori v manj kot sekundi. Če cevovod obdela 10.000 dokumentov na dan, je to razlika med 2,2 urama (AnyMD) in 16–39 urami (alternative v Pythonu). Pri obsegu RAG zakasnitev pretvorbe postane ozko grlo prepustnosti.