Úvod do problematiky: Když si umělá inteligence vymýšlí

Termín „halucinace" se v kontextu umělé inteligence stal jedním z nejskloňovanějších slov. Pro advokáta však neznamená jen technickou kuriozitu, ale zásadní profesní riziko. Halucinace nastává v momentě, kdy velký jazykový model (LLM) vygeneruje informaci, která zní gramaticky správně a přesvědčivě, ale je věcně nepravdivá nebo zcela vymyšlená.

V právní praxi již došlo k několika mediálně známým případům, kdy advokáti předložili soudu podání obsahující neexistující judikáty vygenerované obecnými chatboty. Tento problém se nevyhýbá ani České republice, Ústavní soud pokutoval advokáta částkou 25 000 Kč za citaci neexistující judikatury vygenerované umělou inteligencí. Tyto případy podtrhují kritickou potřebu spolehlivých nástrojů v oboru, kde sebemenší nepřesnost může mít dalekosáhlé důsledky.

Proč k halucinacím dochází?

Je důležité pochopit, že halucinace nejsou softwarovou chybou v tradičním slova smyslu. Jsou přirozeným důsledkem toho, jak modely jako GPT-4 fungují. Tyto systémy jsou v jádru pravděpodobnostní: nepředčítají text z databáze, ale odhadují, jaké slovo by mělo následovat po tom předchozím, aby výsledek odpovídal jejich tréninkovým datům.

Podle studií Stanford HAI vykazují obecné modely při odpovídání na komplexní právní dotazy chybovost v rozmezí 58 % až 82 %. Pro profesionála, který nese odpovědnost za správnost každého slova, je taková míra nespolehlivosti naprosto nepřijatelná.

Reálný scénář: Představte si, že se právník zeptá obecného chatbota na datum splatnosti pohledávky v rozsáhlém spisu. Chatbot, který nemá přímý přístup k aktuálnímu souboru, se pokusí „odhadnout" nejčastější formát data nebo vytvoří kombinaci údajů, které viděl v jiných smlouvách během svého tréninku. Výsledkem je věrohodně vypadající odpověď, která je však fakticky chybná.

Jak Konfido eliminuje riziko nepravdy

Konfido není „další chatbot", který čerpá z neurčitého množství dat. Je to specializovaný e-mailový agent, který využívá technologii RAG (Retrieval-Augmented Generation). Tento přístup zásadně mění proces generování odpovědí.

1. Uzavřený okruh informací

Na rozdíl od veřejných AI nástrojů Konfido hledá odpovědi výhradně v dokumentech, které jste mu zaslali do konkrétního vlákna. Pokud se zeptáte na informaci, která ve spisu není, Konfido si ji nevymyslí, korektně odpoví, že se v daných podkladech nenachází.

2. Povinná citace zdrojů

Každá věta, kterou Konfido vygeneruje, je podložena přímou citací. V odpovědi naleznete odkaz na konkrétní dokument a číslo stránky, ze které informace pochází. To umožňuje okamžitou manuální kontrolu s minimální námahou.

3. Kontextuální integrita

Systém Konfido nepracuje s izolovanými útržky textu. Místo toho chápe komplexní strukturu celého spisu, včetně vazeb mezi jednotlivými dokumenty. Díky pokročilému OCR dokáže číst i naskenované dokumenty a ručně psané poznámky.

Odpovědnost zůstává na právníkovi

I přes pokročilé mechanismy Konfida zůstává v platnosti princip „Human-in-the-loop". Odpovědnost za správnost procesních podání nelze delegovat na algoritmus. Konfido je navrženo tak, aby lidskou kontrolu maximálně usnadnilo a zrychlilo, místo zdlouhavého listování dostanete přímý odkaz na stranu 428.

Příklad z praxe: Projít 30 nájemních smluv a identifikovat všechny klauzule o ukončení nájmu.

  • Ručně: Průměrně 4 hodiny, vysoké riziko přehlédnutí.
  • S Konfidem: Komplexní shrnutí s citacemi za minuty. Kontrola max. 15 minut. Úspora až 90 % času.

Závěr

Nasazení AI v advokacii není o nahrazení právního úsudku, ale o strategickém zvýšení efektivity při zachování bezpečnosti. Konfido eliminuje „vymýšlení" informací a transformuje chaos rozsáhlých spisů v přehledný, ověřitelný systém.

Vyzkoušejte Konfido

Spočítejte si návratnost nasazení Konfida

Zjistěte, kolik hodin měsíčně ušetří vaše kancelář díky bezpečné automatizaci analýzy spisů.

Vyzkoušet demo

Zdroje