RAG, který nefunguje, protože ignorujete chunking

Aus Rettungsdienst-Wiki
Zur Navigation springen Zur Suche springen

Přístupová práva a šifrování rozhoduj

Základem je propojení evidence zakázek s fakturací. Většina účetních programů umí naimportovat data z CSV nebo se napojit přes API. Rozhodněte, který systém bude zdrojem pravdy. Pokud je to sklad, faktura vzniká až po vyskladnění. Pokud je to objednávka, hlídejte, aby se nefakturovalo zboží, které ještě není na cestě. Nastavte šablonu faktury s povinnými poli: odběratel, IČO, DIČ, datum vystavení, datum splatnosti a variabilní symbol. Variabilní symbol generujte automaticky z čísla zakázky, ne ručně. Ruční přepis je nejčastější zdroj duplicit a nespárovaných platností.

Ruční kontrola smluv je pomalá a drahá. AI nástroje pro vyhledávání smluv a analýzu rizik dnes zvládnou za hodinu to, co týmu právníků trvá dny. Nejde o náhradu právníka, ale o filtr, který vytáhne problematické pasáže dřív, než se dostanou na stůl.

Implementace má tři fáze. Nejprve vyberte jeden typ smlouvy, například dodavatelskou, a nasaďte nástroj jen na něj. Poté upravte prahy citlivosti tak, aby falešné poplachy nepřevýšily přínos. Nakonec propojte výstup s vaším systémem pro správu smluv, aby se rizikové body ukládaly přímo k dokumentu. Bez tohoto propojení skončí report v e-mailu a nikdo ho nepoužije.

Jak zabránit úniku při běžné prá

Text musíte rozdělit na menší části, tzv. chunky. Tady vzniká nejvíc chyb. Příliš velké chunky obsahují mnoho témat a vyhledávač pak vrací nesouvislé odstavce. Příliš malé chunky zase ztrácejí kontext a model odpovídá vytrženě z reality. Osvědčuje se velikost kolem 300 až 500 tokenů s určitým překryvem, aby se informace na hranicích neztratila. Překryv nastavte na 10–20 procent délky chunku. Nezapomeňte, že chunk musí dávat smysl sám o sobě – pokud začíná uprostřed věty, je k ničemu.

Druhý test je rychlost a formát výstupu. Některé nástroje vrací jen seznam odstavců, jiné celý report s odkazy na konkrétní místa ve smlouvě. Pro praxi je klíčové, aby výstupem byl odkaz na stránku a odstavec, ne jen obecné varování. Bez toho strávíte hodiny dohledáváním, co vlastně nástroj myslel.

Jak zavést poloautomatickou inventuru První krok je sběr dat v reálném čase. Každý pohyb zboží musí mít časové razítko a důvod. Bez toho AI počítá z prázdna. Druhý krok je kategorie A, B, C podle obratu. U A položek kontrolujte stav denně pomocí skeneru, u B týdně a u C stačí měsíční přepočet. AI vám potom hlásí nesoulad mezi systémovým a fyzickým stavem ještě před tím, než se z něj stane problém.

Většina lidí začne stavět RAG tak, že si vybere velký jazykový model a vektorovou databázi. To je ale až druhý krok. První a nejdůležitější je práce s daty. Pokud nakrmíte model nepořádkem, dostanete nepořádek i na výstupu. Vyberte konkrétní sadu dokumentů, kterou chcete prohledávat. Nemíchejte dohromady PDF, webové stránky a interní e-maily bez rozmyslu. Každý typ zdroje se chová jinak a šum z jednoho zničí přesnost ostatních.

Posledním krokem je sestavení promptu. Do systému vložte jasnou instrukci: odpovídej pouze na základě poskytnutých informací, pokud odpověď chybí, řekni to. Vložte všechny vybrané chunky a dotaz. Výsledek testujte na sadě otázek, u kterých znáte správnou odpověď. Sledujte, jestli model cituje správné části a jestli se neuchyluje k vymýšlení. Typická chyba je, že lidé věří prvnímu dojmu z pár dotazů. RAG je potřeba ladit iterativně – měnit chunking, embeddingy i počet výsledků. Bez měření a porovnávání se jen zaseknete na jednom nastavení, které funguje jen náhodou.

Prvním krokem je ujasnit si, co vlastně hledáte. Nástroje se liší podle toho, zda potřebujete fulltextové vyhledávání ve smlouvách, extrakci konkrétních klauzulí, nebo scoring rizik. Pokud jde o compliance a sankce, potřebujete extrakci. Pokud o due diligence při akvizici, potřebujete kombinaci vyhledávání a porovnávání vzorů.

Typická chyba: nasadit nástroj na všechny smlouvy najednou a věřit výsledkům bez kontroly. AI má tendenci přehlédnout rizika, která nejsou v datech častá, a naopak označit běžné formulace jako problém. Nastavte proto pravidla: nástroj nejdřív projede smlouvy, označí kandidáty a právník je ověří. Teprve pak se výsledky použijí pro rozhodnutí.

Embeddingy a vyhledávání: kde se to láme Pro každý chunk vytvořte vektorový embedding. Použijte model, který odpovídá jazyku vašich dat. Český text potřebuje jiný model než anglický. Neberte první, který najdete – otestujte, jak si poradí s českou morfologií a odbornými termíny. Embeddingy uložte do vektorové databáze, ale nezapomeňte také na metadata. Užitečné je uchovat název zdroje, datum a číslo stránky. Při dotazu pak můžete filtrovat a omezit hledání jen na relevantní dokumenty. Bez metadat budete vracet výsledky z celé databáze a kvalita půjde dolů.