Na úvod dovolte upřímnost. Ještě na začátku tohoto roku bychom na téma lokálních open-source AI modelů pro právní praxi napsali velmi krátký článek. Pravděpodobně by obsahoval jediné slovo: „Nefungují". Dnes tvoří základ naší technologické strategie pro specifické úkoly. Jedná se o reálnou případovou studii, která reflektuje rychlý vývoj v oblasti AI a související příležitosti.

1. Proč jsme vůbec začali testovat

Impuls nepřišel z naší laboratoře, ale od klientů z řad advokátních kanceláří. Když jsme prezentovali schopnosti Konfida postavené na cloudových řešeních, téměř vždy přišla otázka na bezpečnost a mlčenlivost. „Kudy tečou naše data?", „Můžete garantovat, že citlivé informace neopustí EU?", „Co když se data klienta použijí pro trénink modelu třetí strany?".

Jednalo se o naprosto legitimní dotazy. V advokacii je ochrana citlivých dat klienta zcela zásadní, jak ostatně zdůrazňují i odborníci legalweb: Komora musí revidovat stanovisko k užívání AI, říká Pospíšil. Ačkoliv jsme od začátku používali zabezpečené instance a smluvně ošetřená cloudová prostředí, myšlenka na plně uzavřené, lokální (on-premise) řešení byla natolik atraktivní, že jsme ji nemohli ignorovat. Cílem bylo vytvořit systém, kde můžeme s absolutní jistotou prohlásit, že klientská data nikdy neopustí námi definovaný, bezpečný perimetr.

2. Realita před půl rokem: Slepá ulička

Naše první pokusy s tehdy dostupnými open-source modely byly, mírně řečeno, tristní. Narazili jsme na tři hlavní překážky, které je pro seriózní nasazení v právní praxi zcela diskvalifikovaly:

  • Halucinace a faktická nespolehlivost: Modely si sice nenechaly ujít příležitost odpovědět, ale jejich odpovědi byly často fakticky nesprávné. Největším prohřeškem bylo vymýšlení judikátů. Model byl schopen vygenerovat perfektně znějící shrnutí neexistujícího rozhodnutí Nejvyššího soudu, včetně vymyšlené spisové značky. To je přesně ten scénář, který je pro advokáta profesní sebevraždou, jak varují i zkušené kanceláře jako ARROWS, advokátní kancelář: Advokát vs. Algoritmus: Proč synergie člověka a AI není sci-fi, ale vaše největší konkurenční výhoda.
  • Nízká kvalita češtiny: I když modely zvládaly angličtinu na vysoké úrovni, jejich čeština byla kostrbatá a plná gramatických chyb. Ztrácely se v pádech, skloňování a složitějších právních formulacích. Výstup působil neprofesionálně a vyžadoval kompletní přepsání.
  • Ztráta kontextu u delších dokumentů: Při analýze rozsáhlejších spisů (např. 100+ stran) modely selhávaly. Ke konci dokumentu si už nepamatovaly, co bylo na začátku. Dotaz na porovnání ustanovení ze strany 5 a strany 85 často končil nesmyslnou odpovědí, protože kontext první části byl již „zapomenut".

Výsledek byl jednoznačný: lokální AI vs. ChatGPT nebo jiné velké cloudové modely byl tehdy nerovný souboj. Open-source prohrával na celé čáře. Projekt jsme uložili k ledu s tím, že technologie ještě není zralá.

3. Technologický skok: Co se změnilo v uplynulých měsících?

Oblast AI se vyvíjí tempem, které je těžké sledovat i pro ty, kdo se jí věnují na plný úvazek, jak upozorňují i specialisté TAYLLORCOX: Před mikrofonem: Rychlé a spolehlivé právní rešerše díky umělé inteligenci. Během několika málo měsíců došlo k zásadním průlomům, které kompletně změnily pravidla hry:

  • Nové architektury (Mixture of Experts): Objevily se modely postavené na architektuře MoE (směs expertů). Zjednodušeně řečeno, takový model se skládá z několika menších, specializovaných „sub-modelů". Pro každý dotaz se aktivuje jen relevantní část sítě. Výsledkem je dramaticky vyšší efektivita a kvalita výstupu při zachování rozumné velikosti.
  • Zlepšení podpory češtiny: Světlo světa spatřily nové modely jako Qwen3 nebo specializovaný OpenEuroLLM-Czech, které byly od základu trénovány na velkém množství českých textů. Kvalita jejich jazykového projevu je nyní srovnatelná s komerčními giganty.
  • Pokročilá kvantizace: Tento proces umožňuje zmenšit velikost modelu (např. z 80 GB na pouhých 10 GB) s minimálním dopadem na jeho výkon. To je klíčová technologie, která umožňuje provozovat i velmi výkonné modely na standardním serverovém hardwaru, bez nutnosti investovat miliony do specializovaných AI akcelerátorů. Díky tomu je testování lokální AI a její nasazení finančně dostupné.

4. Kde dnes lokální AI překonává cloud

S novou generací modelů jsme se vrátili k testování a výsledky překonaly naše očekávání. Zjistili jsme, že pro specifické, úzce definované úkoly dokáže správně nastavený a specializovaný lokální model nejen konkurovat, ale dokonce překonat velké, univerzální cloudové systémy.

Specializace je klíčem. Místo jednoho modelu, který má umět vše od psaní básní po analýzu smluv, stavíme portfolio menších, specializovaných modelů. Každý z nich je mistrem ve svém oboru. Naše open source AI výsledky ukazují dominanci v těchto oblastech:

  • Extrakce strukturovaných dat: Úkol zní jasně: „Z této nájemní smlouvy extrahujte jména smluvních stran, výši nájemného, datum uzavření a výši smluvní pokuty." Pro tento typ úlohy je specializovaný model rychlejší a přesnější než univerzální model, který musí nejprve pochopit širší kontext.
  • Klasifikace dokumentů: Systém se naučí bleskově rozpoznat, zda je přiložený soubor žaloba, kupní smlouva, plná moc nebo faktura, a podle toho s ním dále pracovat.
  • Plnění opakovaných rutinních úkolů: Například sumarizace všech bodů týkajících se konkurenční doložky ze souboru deseti různých pracovních smluv.
INTERNÍ BENCHMARK (Q2 2026):

Provedli jsme interní test zaměřený na extrakci 15 klíčových datových bodů (smluvní strany, data, finanční částky, sankce) z 200 různých smluv. Náš specializovaný lokální model jsme postavili proti pěti předním komerčním cloudovým AI systémům. Lokální model byl úspěšnější v přesné identifikaci všech 15 bodů a zároveň dosáhl o 78 % až 97 % nižších provozních nákladů na zpracovaný dokument.

5. Oblasti, kde lokální modely stále zaostávají

Bylo by nesprávné tvrdit, že lokální modely jsou všespásné. Naše testy jasně ukazují, kde mají velké komerční modely stále navrch:

  • Složitá právní argumentace: Tvorba komplexní právní argumentace, která vyžaduje syntézu informací z několika právních odvětví (např. kombinace občanského, trestního a evropského práva), je stále doménou velkých modelů a především lidských expertů.
  • Kreativní psaní: Zadání typu „Navrhněte tři různé varianty úvodního odstavce pro odvolání" zvládnou lépe univerzální modely trénované na širším spektru textů.
  • Řešení neočekávaných úkolů: Pokud se dotaz výrazně odchyluje od natrénovaných vzorců, velké modely si s ním díky své robustnosti poradí lépe.

6. Praktický význam pro advokátní kanceláře

Nasazení lokálních, specializovaných AI modelů přináší tři klíčové výhody:

  1. Maximální bezpečnost a důvěrnost: Data klienta nikdy neopustí naši nebo Vaši zabezpečenou infrastrukturu. To eliminuje rizika spojená s cloudovými službami třetích stran a plně respektuje advokátní mlčenlivost. Konfido je Vám navíc k dispozici přímo ve Vašem e-mailu, což zjednodušuje integraci do stávajících pracovních procesů.
  2. Výrazně nižší a předvídatelné náklady: Odpadá platba za každý zpracovaný znak (token). Provozní náklady jsou fixní a předvídatelné, což umožňuje lepší finanční plánování. Cena je jedním z klíčových kritérií při výběru AI řešení VirtualWorkforce.ai: Právní AI asistent: nejlepší AI pomocník pro právní týmy.
  3. Vyšší přesnost pro specifické úkoly: Specializovaný model, který denně nedělá nic jiného než extrakci dat z nájemních smluv, bude v této disciplíně přesnější než univerzální model, který řeší tisíce různých témat.
Pokyn pro ověření:

Ať už používáte lokální, nebo cloudový model, základní princip zůstává stejný: AI je asistent, nikoli autorita. Každý výstup musí být ověřitelný. Konfido tento princip aplikuje důsledně – každá informace v odpovědi je doplněna přesnou citací zdroje a čísla stránky, ze které čerpala. Nikdy nevěřte AI, vždy ověřujte zdroj.

7. Budoucí směřování Konfida

Naše budoucnost je hybridní. Pro úkoly vyžadující maximální bezpečnost a přesnost při práci se strukturovanými daty budeme nadále rozvíjet a nasazovat naše portfolio specializovaných lokálních modelů. Každý z nich bude expertem na úzkou oblast – jeden na due diligence, druhý na analýzu smluvních pokut, třetí na tvorbu časových os.

Současně budeme využívat sílu velkých cloudových modelů tam, kde je to bezpečné a efektivní, například pro pokročilé sumarizace nebo zpracování obecných dotazů, vždy však s garancí, že se klientská data nepoužívají pro jejich další trénink.

Cesta od zavržení lokální AI k jejímu přijetí jako klíčové technologie byla rychlá a poučná. Ukazuje, že v oblasti AI pro právníky neplatí žádná dogmata. To, co nefungovalo včera, může být zítra Vaší největší konkurenční výhodou. A naším úkolem je zajistit, abyste tuto výhodu mohli bezpečně a efektivně využít.

Spočítejte si návratnost nasazení Konfida

Zjistěte, kolik času a nákladů můžete ušetřit automatizací rutinní práce s dokumenty. Naše kalkulačka Vám poskytne jasný přehled.

Vyzkoušet demo

Zdroje a použitá literatura