Sestavte si RAG bez zbytečných komplikací

Náklady na automatizaci nejsou jen měsíční poplatek za licenci. Počítejte s časem na nastavení, s případnou školením zaměstnanců a s tím, že budete potřebovat upravit interní směrnici o oběhu účetních dokladů. U malých nástrojů se často platí za počet uživatelů, takže si spočítejte, kolik lidí skutečně bude výdaje schvalovat – ne kolik jich ve firmě je. A pozor na to, že některé systémy účtují příplatek za automatické párování s bankovním výpisem, které se na první pohled tváří jako součást základní ceny.

Rozhodování o odpovědnosti za AI se teprve formuje, ale základní princip je jasný: čím větší autonomii systému dáte, tím více odpovědnosti na sebe berete. Než tedy spustíte další projekt s umělou inteligencí, položte si otázku, zda dokážete vysvětlit, jak systém funguje, a zda jste připraveni nést následky jeho chyb. Pokud ne, je na místě vrátit se o krok zpět a omezit jeho pravomoci. Tento postup vám ušetří nejen peníze, ale i pověst, která se po veřejném sporu o škodu způsobenou AI obtížně obnovuje.

Když máte vyhledávání funkční, zaměřte se na prompt pro generativní model. Ten musí obsahovat nejen nalezené chunky, ale také jasné instrukce, jak má odpovídat. Typická chyba je, že model převezme formulace z dokumentů bez ohledu na to, jestli jsou aktuální. Ošetřete to instrukcí, aby vycházel pouze z poskytnutého kontextu a uváděl zdroj, když si není jistý. V promptu také specifikujte formát odpovědi – jestli má být stručný nebo podrobný, jestli má obsahovat citace a podobně. Nezapomeňte na limity délky. Pokud je kontext příliš dlouhý, model může začít „halucinovat", tedy si vymýšlet věci, které v dokumentech nejsou.

Častou chybou je, že se automatizace nasadí bez testování na reálných datech. Zkuste nejprve paralelní provoz – nový systém běží vedle starého procesu po dobu jednoho měsíce. Porovnáte výstupy a zjistíte, kde se liší. Teprve poté přepnete na plnou automatizaci. Při importu dat z jiných systémů vždy zkontrolujte, že se nepřenesly prázdné buňky nebo textové hodnoty do číselných polí. Kvalitu vstupních dat si ohlídejte hned na začátku – špatná data se automatizací jen znásobí.

Základem je podívat se na vlastní proces. Než začnete vybírat software, zmapujte si, co přesně děláte s každou smlouvou: kdo ji zakládá, kdo schvaluje, kdo podepisuje, kde ji ukládáte a kdy vám končí. Častou chybou je skočit rovnou na nákup nástroje a předpokládat, že vyřeší vše. Ve skutečnosti automatizace funguje jen na předem definovaném postupu. Sepište si jednoduchý flow od vzniku poptávky až po archivaci a zjistěte, kde se práce zadrhává. Teprve pak má smysl hledat řešení, které tyto kroky zrychlí.

Jak si předem nastavit ochranu proti riziku škody Největší chybou je spoléhat na to, že AI je vždy objektivní. Algoritmus je ale odrazem trénovacích dat – pokud jsou data zaujatá, rozhodnutí jimi budou zatížená. Proto před nasazením proveďte audit dat: zkontrolujte, zda neobsahují diskriminační prvky, zda jsou aktuální a zda odpovídají reálnému prostředí, ve kterém AI používáte. Pokud zjistíte nedostatky, systém upravte nebo vůbec nespouštějte. Druhým častým omylem je ignorování lidského dohledu. I u vysoce automatizovaných procesů by měl být určen odpovědný pracovník, který má pravomoc zásah systému přehodnotit a případně ho zastavit. Tento dohled musí být reálný, ne jen formální.

Nejjednodušší způsob, jak začít, je nechat AI vyhodnotit data z vašeho telefonu nebo chytrého prstenu. Většina platforem nabízí týdenní přehledy, ale málokdo je čte pozorně. Zkuste si vyexportovat surová data o spánku, tepové frekvenci a pohybu a vložte je do nástroje, který umí zpracovat tabulky. Zeptejte se konkrétně: jaký denní režim vede k nejhlubšímu spánku? Nebo: kdy je optimální čas na silový trénink? AI odpoví na základě korelací, ne na základě průměrných pouček. Funguje to i s jednoduchými textovými poznámkami o náladě a energii.

Následně přichází na řadu samotné vyhledávání. Základní RAG vezme dotaz, najde nejpodobnější chunky a vloží je do promptu pro generativní model. Tento přístup je funkční, ale má omezení. Pokud je v bázi mnoho podobných dokumentů, může se stát, že vyhledávač vrátí duplicitní informace a vynechá podstatné. Řešením je přidat filtry, například podle data, autora nebo typu dokumentu. Tím omezíte vyhledávací prostor a zvýšíte přesnost. Další možností je použít reranking – model, který vyhodnotí relevance nalezených chunků a seřadí je podle důležitosti. Tím se eliminují šumy a model dostane jen to nejpodstatnější.

Provozujete chatboty, automatizujete výběr dodavatelů nebo nasazujete algoritmy pro oceňování majetku? Pak se vás týká otázka odpovědnosti za škodu, kterou AI způsobí. Zákon zatím neurčuje, že by stroj byl právnickou osobou – odpovědnost se tak vždy přenáší na člověka nebo firmu, která systém vyvinula, nasadila nebo řídí. Nejde o akademickou diskusi: soudy v Evropě už řeší první případy, kdy algoritmus doporučil nevýhodný úvěr, špatně nastavil cenu nebo poškodil pověst podniku.