Jak fungují AI chatboti: Jednoduše a lidsky

K efektivnímu používání AI chatu nepotřebujete rozumět matematice na pozadí. Základní představa o tom, jak funguje, vám ale objasní mnohé: proč znějí odpovědi sebejistě, i když jsou špatně, proč na stejnou otázku dostanete různé odpovědi, proč AI v dlouhých konverzacích ztrácí nit a proč nemusí vědět o nedávných událostech. Zde je srozumitelné vysvětlení bez zbytečného žargonu.

Stručně řečeno

AI chatbot staví na velkém jazykovém modelu (LLM) – obří neuronové síti natrénované na obrovském množství textu k předvídání toho, co následuje. Když odešlete zprávu, model si přečte konverzaci a generuje odpověď po malých kouscích. Pokaždé přitom vybírá nejpravděpodobnější pokračování na základě všeho, co předcházelo. Další trénink ho učí plnit pokyny, vést přirozený dialog a odmítat škodlivé požadavky.

Neexistuje žádná databáze hotových odpovědí, ve které by se vyhledávalo, ani nikdo v zákulisí neodpovídá ručně. Téměř vše v tomto průvodci vychází z tohoto principu.

1. krok: Převod textu na tokeny

Modely nečtou písmena ani celá slova. Text si dělí na tokeny: běžná slova tvoří často jeden token, zatímco delší či méně obvyklá slova se dělí na části. Mezerám, interpunkci i číslům odpovídají také tokeny. Proto může AI chybovat v úlohách, jako je počítání písmen ve slově nebo obracení textu pozpátku – jednotlivá písmena totiž nevidí tak jako vy.

Stejný význam může v různých jazycích zabrat různý počet tokenů, což je jeden z důvodů, proč se kvalita výstupů i limity délky mohou mezi jazyky lišit.

2. krok: Předtrénování na obrovském množství textu

V první a nejrozsáhlejší fázi model zpracuje obrovské množství textu – například veřejně dostupné webové stránky, knihy, kód a další zdroje podle volby vývojáře – a učí se předvídat následující token. Během opakovaných oprav postupně ladí své vnitřní číselné hodnoty, kterým se říká parametry nebo váhy.

Díky snaze o co nejpřesnější předpovídání textu model nakonec pojme ohromné množství gramatiky, faktů, myšlenkových vzorců a stylů. Neuchovává si ale kopii trénovacích dat jako knihovna – ukládá statistické vzorce. Proto dokáže plynně vysvětlit složitý koncept, a přesto si poplést konkrétní datum, jméno nebo citaci.

3. krok: Jemné doladění mění prediktor v asistenta

Model, který pouze předvídá text, by vaši zprávu jen dopsal, místo aby na ni odpověděl. Vývojáři ho proto dále trénují na příkladech kvalitních konverzací. Využívají zpětnou vazbu od lidí – a čím dál častěji i z automatických kontrol a od jiných modelů – k odměňování užitečných, pravdivých a bezpečných odpovědí. Známou metodou je zpětnovazební učení z lidské odezvy (RLHF).

Tato fáze dává chatbotovi jeho „vychování“: učí ho řídit se pokyny, používat formátování, občas přiznat nejistotu a odmítat nebezpečné požadavky. Může však přinést i určité zlozvyky, třeba tendenci přitakávat uživateli nebo působit sebejistěji, než je na místě.

Mnoho moderních modelů se trénuje také k uvažování: před konečnou odpovědí si problém promyslí v mezikrocích. To výrazně zlepšuje výsledky v matematice, programování a plánování, ačkoliv to z nich nedělá neomylné nástroje.

4. krok: Vaše konverzace a kontextové okno

Když chatujete, aplikace pošle modelu balíček textu: skryté instrukce od služby (tzv. systémový prompt), předchozí zprávy v konverzaci a vaši novou zprávu. Samotný model si mezi jednotlivými dotazy nic nepamatuje. Konverzaci si „pamatuje“ jen proto, že mu ji aplikace při každé zprávě posílá celou znovu.

Zjednodušeně řečeno vypadá balíček pro vaši třetí zprávu v chatu zhruba takto:

[system]    Jste užitečný asistent. Odpovídejte jasně...
[user]      Jaké je dobré jméno pro pekárnu?
[assistant] Zde je pár nápadů: Křupavé ráno, Denní střídka...
[user]      Ať to zní víc francouzsky.
[assistant] (tuto část píše model, token po tokenu)

Požadavek „Ať to zní víc francouzsky“ dává smysl jen díky tomu, že balíček obsahuje předchozí zprávy. Kdyby je aplikace vynechala, model by vůbec netušil, co má znít francouzsky.

Množství textu, které dokáže model zpracovat najednou, se nazývá kontextové okno. Aplikace často dlouhé konverzace zkracují, aby se do limitu vešly. Proto může AI ve velmi dlouhém chatu ztratit přehled o detailech ze začátku. Osvědčeným řešením bývá otevřít nový chat se stručným shrnutím.

Některé služby nabízejí samostatnou funkci paměti, která ukládá fakta o vás napříč chaty. Jde ale o funkci aplikace postavenou kolem modelu, nikoli o schopnost modelu samotného.

5. krok: Generování odpovědi

U každého dalšího tokenu model spočítá pravděpodobnost pro mnoho možných variant. Aplikace pak vybere jednu z nich, obvykle s řízenou mírou náhodnosti, aby text nezněl strojově. To vysvětluje dvě věci, kterých jste si možná všimli:

• Stejná otázka může přinést různé odpovědi. Přegenerování odpovědi je rychlý způsob, jak získat alternativy.
• Plynule znějící věta nemusí být pravdivá. Model vybírá slova, která do textu pasují – pravdivost faktů za běhu neověřuje.

Vyzkoušejte si to sami: požádejte chat o vysvětlení tokenů na příkladu, poté odpověď vygenerujte znovu a obě verze porovnejte.

Proč si AI vymýšlí

Když model vyprodukuje sebejistě znějící, ale nepravdivou informaci, mluví se o halucinaci. Důvodem je to, že model má za úkol tvořit uvěřitelný text – a věrohodně vypadající citaci, statistiku nebo životopis vytvoří snadno, i když skutečnost nezná. Tréninkem se tyto chyby daří omezovat, nikoli však zcela vymýtit. K rizikovějším oblastem patří:

• Přesná čísla, data a citace.
• Odkazy na knihy, odborné články, soudní spory a webové stránky.
• Úzce specializovaná témata s malým množstvím trénovacích dat.
• Události, které nastaly po ukončení trénování modelu.

Náš průvodce ověřováním faktů vám ukáže, jak odpovědi rychle zkontrolovat.

Proč AI nemusí znát nedávné události

Znalosti modelu pocházejí z dat posbíraných do určitého data – jde o tzv. knowledge cutoff (uzávěrku znalostí). O novějších věcech neví vůbec nic, pokud mu aplikace nedodá čerstvé informace, například pomocí vyhledávání na webu nebo textu, který sami vložíte. Pokud asistent na webu vyhledává, jeho odpověď je jen tak kvalitní jako stránky, které najde, proto se vyplatí zdroje zkontrolovat. Závisí-li vaše otázka na aktuálních informacích, vložte potřebný text sami nebo si odpověď ověřte v aktuálním zdroji.

Modely, tvůrci a nabídka modelů

Velké jazykové modely vyvíjí řada společností, mimo jiné OpenAI (modely GPT stojící za ChatGPT), Anthropic (Claude), Google (Gemini), Meta (Llama), xAI (Grok), DeepSeek, Alibaba (Qwen) a Mistral AI. Některé své modely zveřejňují volně ke stažení a provozu, jiné je nabízejí pouze přes své aplikace a API. Modely se liší stylem, silnými stránkami, jazykovou výbavou i mírou opatrnosti. Podrobněji je rozebírají naše přehledy modelů a srovnání jako ChatGPT vs Claude.

V ChatG si můžete v nabídce zvolit styl modelu podle sebe, případně ponechat ChatG Auto. ChatG je nezávislý web a není s žádnou z těchto společností propojen.

Časté dotazy

Rozumí AI tomu, co píše?

O tom se stále vedou debaty. Modely bezpochyby zachycují hluboké zákonitosti jazyka i světa a dokážou řešit problémy, které nikdy dříve neviděly. Nemají však žádné prožitky a mohou chybovat způsobem, jakým by člověk rozumějící tématu nikdy nechyboval. V praxi přistupujte k AI jako k šikovnému nástroji, nikoli jako k autoritě.

Učí se AI z mé konverzace?

Během chatu nikoli – váhy modelu se při rozhovoru s vámi nemění. Některé služby však mohou konverzace zpětně využít k trénování budoucích modelů, v závislosti na svých podmínkách a vašem nastavení.

Je AI připojená k internetu?

Samotný model nikoli. Vychází pouze z toho, co se naučil během tréninku, a z informací v aktuální konverzaci. Některé aplikace k němu přidávají vyhledávání na webu jako samostatný nástroj. Pokud odpověď nezobrazuje dohledané zdroje, počítejte s tím, že čerpá z trénovacích dat, která mohou být zastaralá.

Proč jsou některé odpovědi v angličtině lepší než v jiných jazycích?

Modely se při trénování obvykle setkají s podstatně větším množstvím anglických textů než textů v jiných jazycích. Vyjádření téhož obsahu navíc v jiných jazycích často vyžaduje více tokenů. Rozšířené jazyky zvládají velmi dobře, u méně zastoupených však může být kvalita slabší.