RAG od nuly: Sestavte si vlastní znalostní základnu

Nakonec se zaměřte na testování a ladění. Nestačí, že odpověď vypadá dobře jednou. Vyzkoušejte různé formulace dotazů a také špatně napsané dotazy od uživatelů. Sledujte logy, jak často volání selhává a jaké chyby se objevují. Pomocí jednoduchého měření si ověřte, jestli se díky AI skutečně zlepšil nějaký ukazatel – třeba rychlost vyřízení požadavku nebo spokojenost uživatelů. Pokud ne, upravte scénář nebo zvažte jiný nástroj.

Automatizace HR se nakonec vyplatí, pokud ji pojmete jako nástroj, ne jako cíl. Zaměřte se na procesy, které skutečně zatěžují váš tým, a postupně je digitalizujte. Udržte přitom rovnováhu mezi efektivitou a lidským přístupem. Když systém ušetří hodiny rutinní práce, věnujte je tam, kde technologie nestačí – osobnímu pohovoru, individuálnímu rozvoji nebo budování firemní kultury. Teprve pak se z automatizace stane skutečná výhoda.

Jak začít s automatizací, když nemáte programátorské znalosti Nemusíte psát složité skripty. Začněte s nástroji, které už používáte – tabulkový procesor umí importovat data z externích zdrojů a aktualizovat je jedním kliknutím. Pokud potřebujete složitější transformace, využijte dotazovací jazyk přímo v tabulce. Naučte se základní funkce pro práci s datem a časem, abyste nemuseli ručně zadávat období. Další možností je nástroj pro automatizaci pracovních postupů, který propojí aplikace bez kódu. Vyberte si jeden nástroj, ve kterém zvládnete celý proces, ať nemusíte kombinovat pět různých služeb.

Na závěr se zamyslete nad aktualizací. Váš systém není jednorázový projekt, ale živá služba. Jakmile do dokumentů přidáte nové informace, musíte je znovu rozdělit, vložit do databáze a indexovat. Nezapomeňte také na odebírání starých a neplatných dokumentů, jinak se vám v rejstříku začnou hromadit zastaralé údaje, které budou modelu kazit odpovědi. Testujte systém na reálných dotazech od uživatelů, ne jen na vlastních vymyšlených příkladech. Jedině tak odhalíte slabá místa v podobě špatně rozdělených dokumentů nebo chybějících synonym.

Na závěr si ověřte, že automatizace nezpůsobí problémy s dohledatelností. Ukládejte si kopie všech odeslaných dat i logy o tom, kdy a jak proběhlo zpracování. V případě sporu s dopravcem nebo účetní chyby potřebujete zpětně dohledat, co se stalo. Většina menších e-shopů podcení zálohování a po půl roce zjistí, že jim chybí historie objednávek. Automatizace má ušetřit čas, ne vytvářet nová rizika — proto si vyhraďte jednu hodinu měsíčně na kontrolu, že systém dělá přesně to, co má.

Začněte u dat – to je nejdůležitější a nejméně efektní část. Vaše dokumenty musí být ve formátu, ze kterého umíte čistě extrahovat text. U PDF dávejte pozor na dvousloupcové sazby, které se při běžné extrakci rozbijí, a na tabulky, jež se mění v nečitelný guláš. Každý dokument si rozdělte na menší části, typicky odstavce nebo půl stránky. Velikost chunku je klíčová: příliš dlouhý chunk obsahuje mnoho témat a model z něj nevybere to podstatné, příliš krátký zase ztratí kontext. Dobrý začátek je 300 až 500 slov s přesahem mezi jednotlivými částmi, aby se věta nerozsekla uprostřed myšlenky.

Když potřebujete, aby jazykový model odpovídal na dotazy na základě vašich interních dokumentů, nestačí mu je prostě nasypat do promptu. Model si zapamatuje jen část kontextu a rychle ztratí nit. Řešením je RAG, tedy generování s rozšířeným vyhledáváním. Místo abyste model učili nová fakta, postavíte mu jakýsi rejstřík, ze kterého si před každou odpovědí sám vytáhne relevantní pasáže. Celý systém se skládá ze tří částí: přípravy dokumentů, vektorové databáze a orchestrace dotazů.

Typickou pastí je podcenění archivace. Automatizace neznamená, že se o papíry nemusíte starat. I při plné digitalizaci musíte zajistit, aby faktury byly čitelné a uchované v souladu se zákonem. To znamená mít lokální zálohu, pravidelně exportovat PDF a nechat si potvrzení o odeslání. Dalším častým problémem je špatné mapování plateb – zejména když klienti neuvádějí variabilní symboly. Zkuste proto zavést pravidlo, že každý odběratel dostane přidělený vlastní symbol, a v systému si nastavte automatické párování podle částky a data.

Druhý krok je řízení nákladů a rychlosti. AI volání není zadarmo, a pokud nemáte omezený počet požadavků, můžete rychle narazit na limity nebo na účet za služby. Vždy si nastavte horní hranici tokenů v požadavku i v odpovědi. Další past je synchronní volání při každém načtení stránky – to zpomalí celý web. Vhodnější je zpracovávat věci na pozadí, ukládat výsledky do mezipaměti a opakované stejné dotazy obsluhovat bez nového volání. Nezapomínejte ani na bezpečnost: vstupy od uživatelů nikdy neposílejte do modelu bez očištění, jinak riskujete takzvané prompt injection útoky.