Hogyan működnek az AI chatbotok? Egyszerűen elmagyarázva

Nem kell értened a matematikát ahhoz, hogy jól használd az AI-chatet, de a működés alapjai sok mindent megmagyaráznak: miért tűnnek a válaszok magabiztosnak még akkor is, ha tévesek, miért kapsz ugyanarra a kérdésre más-más választ, miért veszíti el a fonalat az AI a hosszú beszélgetésekben, és miért nem tud a friss eseményekről. Íme egy közérthető magyarázat felesleges szakzsargon nélkül.

A lényeg röviden

Az AI-chatbotok alapja egy nagy nyelvi modell (LLM): egy hatalmas neurális hálózat, amelyet rengeteg szövegen tanítottak be arra, hogy megjósolja a következő szót. Amikor üzenetet küldesz, a modell elolvassa a beszélgetést, és apró darabonként generálja a választ, minden lépésben kiválasztva a legvalószínűbb következő elemet az addigi szöveg alapján. További betanítással érik el, hogy kövesse az utasításokat, képes legyen beszélgetni, és elutasítsa a káros kéréseket.

Nincs a háttérben előre megírt válaszokból álló adatbázis, és nem is egy ember gépel a színfalak mögött. Az útmutató szinte minden további része ebből következik.

1. lépés: A szövegből tokenek lesznek

A modellek nem betűket vagy egész szavakat olvasnak. A szöveget tokenekre bontják: a gyakori szavak gyakran egyetlen tokent alkotnak, míg a hosszabb vagy ritkább szavak több darabra esnek szét. A szóközök, az írásjelek és a számok is külön tokenekké válnak. Ezért akad el az AI az olyan feladatoknál, mint a betűk megszámolása egy szóban vagy egy szöveg megfordítása: nem látja az egyes betűket úgy, ahogyan te.

Ugyanaz a jelentés nyelvenként eltérő számú tokent igényelhet, ami az egyik oka annak, hogy a válaszok minősége és a hosszkoriátok eltérhetnek a különböző nyelvek között.

2. lépés: Előtanítás hatalmas mennyiségű szövegen

Az első és legnagyobb szakaszban a modellnek óriási mennyiségű szöveget mutatnak – a fejlesztőtől függően nyilvánosan elérhető weboldalakat, könyveket, kódot és más forrásokat –, miközben megtanulja megjósolni a következő tokent. Újra és újra korrigálják, miközben fokozatosan finomhangolja belső számait, amelyeket paramétereknek vagy súlyoknak nevezünk.

A sikeres szövegjósláshoz a modell rengeteget megtanul a nyelvtanról, a tényekről, a logikai mintákról és a stílusokról. De nem tárolja a tanítóadatok másolatát úgy, mint egy könyvtár; statisztikai mintákat jegyez meg. Ezért képes folyékonyan elmagyarázni egy fogalmat, miközben eltéveszthet egy konkrét dátumot, nevet vagy idézetet.

3. lépés: A finomhangolás segítővé alakítja a szövegjóslót

Egy modell, amely csak a szöveg folytatását jósolja meg, egyszerűen folytatná az üzenetedet ahelyett, hogy válaszolna rá. A fejlesztők ezért jó beszélgetések példáin tanítják tovább, és visszajelzésekkel – emberektől, illetve egyre gyakrabban automatizált ellenőrzésekből és más modellektől – jutalmazzák a hasznos, őszinte és biztonságos válaszokat. Ennek egyik ismert módszere az emberi visszajelzésen alapuló megerősítéses tanulás (RLHF).

Ez a szakasz adja meg a chatbot stílusát: megtanulja követni az utasításokat, formázni a szöveget, elismerni a bizonytalanságot, és elutasítani a káros kéréseket. Furcsaságokat is hozhat, például a felhasználóval való túlzott egyetértést vagy a felesleges magabiztosságot.

Sok újabb modellt a logikai következtetésre (reasoning) is betanítanak: mielőtt megadnák a végső választ, köztes lépésekben gondolják át a problémát. Ez javítja az eredményeket a matematika, a programozás és a tervezés terén, bár tévedhetetlenné nem teszi őket.

4. lépés: A beszélgetésed és a kontextusablak

Amikor chatelsz, az app egy szövegcsomagot küld a modellnek: a szolgáltatás számodra láthatatlan utasításait (a rendszerpromptot), a beszélgetés korábbi üzeneteit és az új üzenetedet. Maga a modell nem őriz meg emlékeket a kérések között. Csak azért „emlékszik” a beszélgetésre, mert azt minden egyes alkalommal újra elküldi neki a rendszer.

Leegyszerűsítve, egy harmadik üzenetváltáskor a csomag valahogy így néz ki:

[system]    Segítőkész asszisztens vagy. Válaszolj érthetően...
[user]      Milyen jó nevet tudnál ajánlani egy pékségnek?
[assistant] Íme néhány ötlet: Hajnali Morzsa, A Kemence Melege...
[user]      Legyenek kicsit franciásabbak.
[assistant] (ezt a részt írja a modell, tokenről tokenre)

A „Legyenek kicsit franciásabbak” kérés csak azért érthető, mert a korábbi üzeneteket is tartalmazza a csomag. Ha az app kihagyná őket, a modellnek fogalma sem lenne, mi legyen franciásabb.

A szöveg mennyiségét, amelyet a modell egyszerre figyelembe tud venni, kontextusablaknak nevezzük, és az appok gyakran levágják a hosszú beszélgetések elejét, hogy a kereten belül maradjanak. Ezért fordulhat elő, hogy egy nagyon hosszú beszélgetésben az AI elfelejti a kezdeti részleteket. Ilyenkor általában segít, ha új chatet indítasz egy rövid összefoglalóval.

Egyes szolgáltatások külön memóriafunkcióval is rendelkeznek, amely a chatek között is elment bizonyos adatokat rólad. Ez azonban a modell köré épített funkció, nem a modell önálló képessége.

5. lépés: A válasz legenerálása

Minden következő tokennél a modell számos lehetséges jelöltre számol valószínűséget. Az app ezután kiválaszt egyet, általában szabályozott mértékű véletlenszerűséggel, hogy a szöveg ne tűnjön gépiesnek. Ez két dolgot is megmagyaráz, amit talán már észrevettél:

• Ugyanarra a kérdésre eltérő válaszok születhetnek. Az újragenerálás gyors módja a változatok megtekintésének.
• Egy folyékonyan megfogalmazott mondat nem feltétlenül igaz. A modell olyan szavakat választ, amelyek illenek a sorba; menet közben nem ellenőrzi a tényeket.

Próbáld ki: kérd meg a chatet, hogy egy példával magyarázza el a tokeneket, majd generáld újra a választ, és hasonlítsd össze a két verziót.

Miért talál ki dolgokat az AI?

Amikor egy modell magabiztosan közöl téves információt, azt hallucinációnak nevezik. Ez azért történik, mert a modell valószínűnek tűnő szöveg létrehozására készült, és egy hitelesnek látszó hivatkozást, statisztikát vagy életrajzot akkor is könnyű legenerálnia, ha a valós adat nem ismert. A betanítás ezt csökkentette, de nem szüntette meg. A kockázatosabb területek közé tartoznak:

• Pontos számok, dátumok és idézetek.
• Könyvekre, tudományos cikkekre, bírósági ügyekre és weboldalakra mutató hivatkozások.
• Rétegtémák, amelyekből kevés adat volt a tanítóanyagban.
• A modell tanítási időszakának lezárulta utáni események.

A tényellenőrzési útmutatónk bemutatja, hogyan ellenőrizheted gyorsan a válaszokat.

Miért nem tud az AI a friss eseményekről?

A modell tudása a tanítási adatok gyűjtésének lezárultáig tart – ez az úgynevezett tudáskorlát (knowledge cutoff). Ezen túl semmi újat nem tud, hacsak az app nem ad neki friss információt, például egy internetes keresőeszközön vagy az általad bemásolt szövegen keresztül. Amikor egy asszisztens rákeres valamire a weben, a válasza csak annyira jó, mint a talált oldalak, így a forrásokat továbbra is érdemes ellenőrizni. Ha a kérdésed friss információktól függ, másold be a releváns szöveget te magad, vagy vesd össze a választ egy naprakész forrással.

Modellek, fejlesztők és a modellválaszték

Számos cég fejleszt nagy nyelvi modelleket, köztük az OpenAI (a ChatGPT mögött álló GPT-modellek), az Anthropic (Claude), a Google (Gemini), a Meta (Llama), az xAI (Grok), a DeepSeek, az Alibaba (Qwen) és a Mistral AI. Némelyikük közzéteszi a modellsúlyokat, így bárki letöltheti és futtathatja őket; mások csak saját appjaikon és API-jaikon keresztül teszik elérhetővé őket. A modellek stílusban, erősségekben, nyelvtudásban és óvatosságban is különböznek. A modellismertetőink és az olyan összehasonlítások, mint a ChatGPT vs Claude, részletesebben is bemutatják őket.

A ChatG-n a menüben kiválaszthatod a kívánt modelltípust, vagy rábízhatod a döntést a ChatG Auto funkcióra. A ChatG független weboldal, és nem áll kapcsolatban ezen vállalatok egyikével sem.

Gyakori kérdések

Érti az AI, amit mond?

Erről máig viták folynak. A modellek egyértelműen sok összefüggést felismernek a nyelvről és a világról, és képesek korábban nem látott feladatokat is megoldani. De nincsenek élményeik, és képesek olyan hibákat véteni, amelyeket a témát ténylegesen értő ember sosem követne el. A gyakorlatban kezeld az AI-t ügyes eszközként, ne tévedhetetlen tekintélyként.

Tanul az AI a beszélgetésünkből?

A chat közben nem: a modell súlyai nem változnak, miközben beszélgetsz vele. Bizonyos szolgáltatások a saját irányelveiktől és a te beállításaidtól függően később felhasználhatják a beszélgetéseket jövőbeli modellek tanítására.

Kapcsolódik az AI az internethez?

Maga a modell nem. Abból dolgozik, amit a betanítás során elsajátított, valamint abból, ami a konkrét beszélgetésben szerepel. Egyes appok külön eszközként beépítik a webes keresést. Hacsak a válasz nem jelenít meg kikeresett forrásokat, indulj ki abból, hogy a tanítóadatokból építkezik, amelyek elavultak lehetnek.

Miért jobbak egyes válaszok angolul, mint más nyelveken?

A modellek a tanítás során jellemzően sokkal több angol nyelvű szöveggel találkoznak, mint bármilyen más nyelvűvel, ráadásul más nyelveken több tokenre lehet szükség ugyanannak a kifejezéséhez. A széles körben használt nyelveket általában jól kezelik; a kevésbé elterjedt nyelveknél gyengébb lehet az eredmény.