Kdy umělá inteligence rozevírá peněženku: Právní odpovědnost za škody

Nejprve si ujasněte, co přesně potřebujete automatizovat. Typicky jde o tři oblasti: vytváření smluv, jejich schvalování a sledování termínů. Začněte analýzou stávajícího procesu. Zjistěte, kde vznikají úzká místa – zda se smlouvy ztrácejí, jestli se prodlužuje schvalování, nebo jestli vám unikají výpovědní lhůty. Teprve na základě této analýzy vyberte nástroj, který řeší konkrétní problém, ne ten, který má nejvíce funkcí.

Třetí pastí je ignorování kontextu. AI nezná vaše zákazníky ani historii jednání. Pokud opravujete reklamaci, nemůžete nechat stroj, aby text zbavil emocí a empatie. V takových případech používejte AI pouze na kontrolu pravopisu a interpunkce, nikoli na přepisování celých pasáží. Stejně tak pozor na délku vět – automatické zkracování může vést k heslovitosti, která se do odborného textu nehodí. Dobrým kompromisem je nechat si od AI vysvětlit, proč navrhla danou změnu. Pokud odpověď nedává smysl, je to signál, že návrh převezmete jen částečně.

Než začnete skládat vlastní RAG, ověřte si, že vaše data skutečně potřebují tento přístup. RAG dává smysl tehdy, když potřebujete odpovídat na dotazy nad interními dokumenty, manuály nebo znalostními bázemi, které se pravidelně mění. Pokud máte jen statické texty a pár desítek stránek, stačí je vložit do promptu. Hlavní chyba začátečníků je budovat infrastrukturu dřív, než pochopí povahu dat. Začněte na malém vzorku – třeba s pěti dokumenty – a protáhněte je celým procesem, abyste viděli, kde vznikají úzká místa.

Základem je rozdělení dokumentů na menší části. Neexistuje univerzální velikost, ale obecně platí: čím delší text, tím větší šance, že se v něm ztratí kontext. Zkoušejte chunkování po odstavcích nebo po logických celcích, nikoli po pevných počtech znaků. Dobrý první krok je rozdělit text podle nadpisů a podnadpisů, případně doplnit každý blok o krátký popisek, co obsahuje. Tím si usnadníte pozdější vyhledávání. Pozor na to, že když chunky překrýváte, můžete získat duplicitní výsledky – ale malý překryv (např. dvě věty) pomáhá udržet návaznost.

Třetí chyba spočívá v podcenění práva na informace. Pokud AI způsobí škodu a vy nevíte, která data ji ovlivnila, nemůžete prokázat, že jste postupovali s odbornou péčí. Vyžadujte proto od dodavatele podrobnou dokumentaci k modelu, a to ještě před nasazením. Čtvrtou chybou je zapomínání na pojištění odpovědnosti. Běžné pojistky kryjí jen lidské chyby, nikoli automatizované systémy. Připravte se na to, že pojišťovny budou vyžadovat dodatečné audity algoritmů – a pokud je nemáte, pojistné plnění se může zkrátit.

Praktický první krok: dokumentujte všechna rozhodnutí AI. Pokud systém odmítl pojistné plnění, poškodil robota na lince nebo zablokoval přístup k účtu, potřebujete záznam o tom, jak k závěru došel. Bez logů, parametrů trénovacích dat a konkrétních vstupů se v soudním sporu dostanete do role toho, kdo neumí vysvětlit, co se stalo. Soudce totiž nebude zkoumat „mysl" AI, ale to, zda jste měli mechanismus, který špatné rozhodnutí odhalí.

Retrieval není jen o podobnosti – nastavte si správně vazbu na odpověď Když máte vektorovou databázi a dotaz, přichází na řadu samotné vyhledávání. Nepoužívejte jen vzdálenost ve vektorovém prostoru. Kombinujte ji s klasickým full-textovým vyhledáváním, které umí přesně trefit klíčová slova. Například když uživatel hledá „smlouva o dílo", vektorový model může najít podobné dokumenty, ale přesný název najde jen full-text. Výsledky z obou přístupů spojte a seřaďte podle relevance. Začněte s jednoduchou fúzí – třeba váženým průměrem skóre – a postupně laděte. Častá chyba je vracet příliš mnoho částí. Jeden až tři relevantní bloky stačí, jinak se model v kontextu utopí.

Náklady na automatizaci se pohybují v závislosti na velikosti firmy a počtu uživatelů. Rozhodně nejde jen o pořizovací cenu softwaru. Počítejte s časem na implementaci, případným školením a s měsíčními poplatky za předplatné. Pokud byste se ale rozhodli řešit správu smluv vlastními silami, náklady na chyby, ušlý čas a právní spory mohou být výrazně vyšší. Proto je vhodné provést si jednoduchou kalkulaci nákladů na současný stav a porovnat ji s nabídkami dodavatelů.

Nezapomeňte, že automatizace není jednorázový projekt, ale kontinuální proces. Pravidelně revidujte, zda systém odpovídá aktuálním potřebám firmy, a aktualizujte šablony i workflow. Průběžně sledujte, které smlouvy se schvalují nejpomaleji, a hledejte příčiny. S dobře nastavenou automatizací získáte nejen přehled, ale i klid na práci, která skutečně vyžaduje lidskou pozornost.