Když chcete vlastní RAG: co udělat, než začnete
Největší chybou začátečníků je rozdělování dokumentů na pevné úseky podle znaků nebo tokenů. Text pak uprostřed věty přerušíte a ztratíte souvislost. Místo toho rozdělujte podle logických celků — odstavců, sekcí, nadpisů. Ideální velikost chunků se pohybuje mezi 300 a 800 tokeny, ale neexistuje univerzální číslo. Vyzkoušejte různé velikosti a vyhodnocujte kvalitu odpovědí na testovací sadě otázek. Důležité je také přidat do každého chunku metadata — zdroj, datum, typ dokumentu. To vám umožní později filtrovat výsledky a zobrazit uživateli, odkud odpověď pochází.
Na co se zaměřit při nasazení AI, abyste předešli soudním sporům Před nasazením AI si ověřte, zda máte uzavřenou pojistnou smlouvu, která kryje škody způsobené automatizovaným rozhodováním. Běžná pojištění odpovědnosti často obsahují výluky rady pro rekonstrukci škody vzniklé činností strojů bez lidského zásahu. Doporučujeme proto sjednat speciální připojištění pro AI systémy, které pokrývá například chyby v doporučovacích algoritmech nebo selhání predikčních modelů. Zároveň si ve smlouvách s dodavateli AI vyjasněte, kdo nese odpovědnost za škodu, pokud systém selže kvůli vadnému trénování dat – tato odpovědnost se může přenést na vás, pokud jste data poskytli vy.
Než začnete vybírat nástroj pro automatizaci zákaznické podpory, zjistěte si, které dotazy se opakují nejčastěji. Projděte si e-maily, zprávy na sociálních sítích i záznamy z chatu za poslední tři měsíce. Roztřiďte je do kategorií – stav objednávky, reklamace, doprava, vrácení zboží, dotazy k produktům. Pokud některá kategorie tvoří více než třetinu všech dotazů, máte jasného kandidáta na automatizaci. Nezavádějte ale automatizaci na všechno najednou; začněte s jednou oblastí, kterou nejlépe znáte a kde chyby napáchají nejmenší škody.
Vlastní embedding a vyhledávání: Kde se láme chleba Samotný embedding model je jen polovina úspěchu. Druhou polovinou je strategie vyhledávání. Pokud používáte jen vektorové vyhledávání, systém selže na konkrétních číslech nebo jménech. Proto kombinujte vektorové vyhledávání s klíčovými slovy — takzvané hybridní vyhledávání. Nastavte si váhu pro obě metody podle povahy vašich dat. U technických příruček dávejte větší váhu klíčovým slovům, u volných textů zase vektorům. Nezapomeňte také na filtry podle metadat, které vám umožní omezit vyhledávání na relevantní kategorie.
Jak odhadnout náklady a vyhnout se skrytým výdajům Náklady na automatizaci se skládají z více položek než jen z ceny licence. Započítejte čas zaměstnanců na nastavení a testování, případně konzultace s externím dodavatelem. Důležité je také počítat s průběžnou údržbou – pokud se změní proces nebo vstupní data, musíte nástroj upravit. Skrytým nákladem bývá chybějící dokumentace. Když nastavíte automatizaci bez popisu, za půl roku nikdo nebude vědět, proč to tak funguje, a jakákoli změna bude vyžadovat drahé rozkrývání. Proto od začátku veďte jednoduchý záznam o tom, co je automatizováno, jaké jsou spouštěče a jaké výjimky jsou ošetřeny.
Prvním krokem je očista dat. Odstraňte hlavičky a patičky, duplicitní bloky, tabulky, které se špatně parsují, a hlavně staré verze dokumentů. Pokud necháte v datech dvě verze smlouvy, RAG vám někdy vrátí tu starší. Při čištění si dejte pozor na formátování, které nese význam — tučné nadpisy, číslování kapitol nebo kurzívu. Tyto prvky byste měli převést do strukturované podoby, třeba do markdownu, jinak se při dělení textu ztratí kontext.
Provozujete-li systém s umělou inteligencí, ať už jde o chatbot na e-shopu, autonomní vozidlo nebo software pro analýzu dat, měli byste znát pravidla odpovědnosti za škodu. Český právní řád zatím nemá speciální zákon o AI, a proto se uplatní obecná občanskoprávní úprava interiéru v občanském zákoníku. Ta staví na principu, že každý odpovídá za škodu, kterou způsobil porušením právní povinnosti. V případě AI je klíčové určit, barvy stěn Do obýváku kdo je provozovatelem systému a jakým způsobem škoda vznikla.
Nezapomínejte ani na smluvní ujednání s uživateli. Všeobecné obchodní podmínky by měly obsahovat jasné vymezení odpovědnosti za automatizovaná rozhodnutí, avšak pozor na klauzule, které by se mohly jevit jako nekalé – soudy je prohlásí za neplatné. Vhodnější je nastavit limity odpovědnosti, které odpovídají povaze služby, a informovat uživatele, že AI má pouze podpůrný charakter. Tím nesnížíte svoji odpovědnost, ale předejdete nedorozuměním, která vedou k soudům.
Jak nasadit automatizaci bez zbytečných komplikací Před ostrým spuštěním si vytvořte testovací scénáře pro pět nejčastějších dotazů. Pošlete je sami sobě jako zákazník a sledujte, jestli robot odpovídá správně a rychle. Až bude test úspěšný, nasaďte jen na část provozu – třeba na 20 % zákazníků. Týden sledujte, jaké dotazy robot nezvládl, a doplňte je do trénovacích dat. Teprve když úspěšnost odpovědí přesáhne 80 %, spusťte automatizaci naplno. Nezapomeňte přitom na tón komunikace: robot by měl psát stejně jako váš tým – krátce, lidsky a bez frází typu „děkujeme za váš dotaz". Příliš formální nebo naopak příliš vtipný tón působí neprofesionálně.