Paano Gumagana ang AI Chatbots nang Simple

Hindi mo kailangang intindihin ang math para magamit nang maayos ang AI chat, pero malaki ang maitutulong ng kaunting kaalaman sa takbo nito: bakit mukhang sigurado ang mga sagot kahit mali, bakit nag-iiba ang sagot sa parehong tanong, bakit naliligaw ang AI sa mahahabang chat, at bakit wala itong alam sa mga bagong balita. Narito ang simpleng paliwanag nang walang komplikadong termino.

Sa madaling salita

Binuo ang isang AI chatbot gamit ang isang large language model (LLM): isang napakalaking neural network na sinanay sa napakaraming text para hulaan ang susunod na sasabihin. Kapag nagpadala ka ng mensahe, binabasa ng model ang usapan at bumubuo ito ng tugon nang paunti-unti, bawat piraso ay pinipili batay sa kung ano ang nauna rito. Sa karagdagang training, natututo itong sumunod sa mga tagubilin, makipag-usap, at tanggihan ang mga mapanganib na kahilingan.

Walang database ng mga nakahandang sagot na hinahanap, at walang taong nagta-type sa likod nito. Halos lahat ng iba pang punto sa gabay na ito ay nagmumula sa katotohanang iyan.

Hakbang 1: Nagiging tokens ang text

Hindi nagbabasa ng mga titik o buong salita ang mga model. Hinahati nila ang text sa mga token: ang mga karaniwang salita ay kadalasang isang token lang, habang ang mas mahahaba o di-karaniwang salita ay pinipira-piraso. Nagiging token din ang mga espasyo, bantas, at numero. Ito ang dahilan kung bakit minsan ay nahihirapan ang AI sa pagbilang ng titik sa isang salita o pagbabaligtad ng text: hindi ito nakakakita ng paisa-isang titik tulad mo.

Ang iisang kahulugan ay maaaring gumamit ng magkaibang dami ng token sa iba't ibang wika, kaya naman maaaring magbago ang kalidad at limitasyon sa haba depende sa wika.

Hakbang 2: Pre-training gamit ang napakaraming text

Sa una at pinakamalaking yugto, pinapakitaan ang model ng napakaraming text—gaya ng mga pampublikong web page, libro, code, at iba pang sanggunian depende sa developer—at natututo itong hulaan ang susunod na token. Paulit-ulit itong itinatama at dahan-dahang inaayos ang mga panloob na numero nito, na tinatawag na parameters o weights.

Para makapanghula nang maayos, natututunan ng model ang balarila, mga katotohanan, estilo, at paraan ng pangangatwiran. Pero hindi ito nagtatabi ng kopya ng training data tulad ng isang aklatan. Ang itinatago nito ay mga statistical pattern. Kaya naman kaya nitong magpaliwanag ng konsepto nang napakahusay pero maaari pa ring magkamali sa partikular na petsa, pangalan, o quote.

Hakbang 3: Pag-fine-tune mula predictor tungo sa pagiging assistant

Kung text lang ang huhulaan ng isang model, idudugtong lang nito ang mensahe mo sa halip na sagutin ito. Kaya naman sinasanay pa ito ng mga developer gamit ang mga halimbawa ng magagandang usapan at feedback—mula sa mga tao, automated checks, at iba pang model—para hikayatin ang mga sagot na kapaki-pakinabang, totoo, at ligtas. Isang sikat na paraan dito ang reinforcement learning from human feedback (RLHF).

Ang yugtong ito ang nagbibigay ng "asal" sa chatbot: pagsunod sa mga tagubilin, paggamit ng tamang formatting, pag-amin kung hindi tiyak minsan, at pagtanggi sa mga mapanganib na utos. Maaari din itong magdulot ng ilang gawi, gaya ng madalas na pagsang-ayon sa user o pagtunog na masyadong sigurado kahit hindi dapat.

Marami ring bagong model ang sinanay na mag-reason: sinusuri at nilulutas muna nila ang problema nang sunod-sunod na hakbang bago ibigay ang huling sagot. Nagpapahusay ito sa math, coding, at pagpaplano, bagamat hindi pa rin ito perpekto.

Hakbang 4: Ang iyong usapan at ang context window

Kapag nakikipag-chat ka, nagpapadala ang app ng bungkos ng text sa model: mga tagubilin mula sa serbisyo na hindi mo nakikita (ang system prompt), ang mga naunang mensahe sa usapan, at ang bago mong mensahe. Walang memory na naitatabi ang model sa bawat mensahe. "Naaalala" lang nito ang usapan dahil ipinapadala itong muli sa bawat pagkakataon.

Sa simpleng paliwanag, ganito ang hitsura ng ipinapadala para sa iyong ikatlong mensahe sa chat:

[system]    Isa kang kapaki-pakinabang na assistant. Sumagot nang malinaw...
[user]      Ano ang magandang pangalan para sa isang bakery?
[assistant] Narito ang ilang ideya: Rise and Shine, The Daily Crumb...
[user]      Gawin mong mas tunog Pranses.
[assistant] (isinusulat ng model ang bahaging ito, token bawat token)

May saysay lang ang "Gawin mong mas tunog Pranses" dahil kasama ang mga naunang mensahe. Kung inalis iyon ng app, walang ideya ang model kung ano ang tinutukoy mo.

Ang dami ng text na kayang iproseso ng model nang sabay-sabay ay tinatawag na context window, at madalas na pinuputol ng mga app ang mahahabang chat para hindi lumagpas sa limitasyon. Ito ang dahilan kung bakit sa napakahabang chat, maaaring malimutan ng AI ang mga detalye sa simula. Karaniwang nakakatulong ang pagsisimula ng bagong chat na may maikling buod.

May ilang serbisyo na may hiwalay na memory feature para itabi ang ilang impormasyon tungkol sa iyo sa pagitan ng mga chat. Feature iyon ng app sa paligid ng model, hindi sariling kakayahan ng mismong model.

Hakbang 5: Pagbuo ng sagot

Para sa bawat susunod na token, kinakalkula ng model ang posibilidad ng maraming kandidatong salita. Pipili ang app ng isa, karaniwang may kaunting randomness para hindi tunog robot ang sagot. Ipinapaliwanag nito ang dalawang bagay na maaaring napansin mo na:

• Maaaring magkaiba ang sagot sa parehong tanong. Ang pag-regenerate ay mabilis na paraan para makakita ng ibang opsyon.
• Ang tuluy-tuloy at magandang pangungusap ay hindi laging totoo. Pumipili ang model ng mga salitang bagay gamitin; hindi nito sinusuri ang katotohanan habang bumubuo ng sagot.

Subukan mo mismo: hilingin sa chat na ipaliwanag ang mga token gamit ang isang halimbawa, pagkatapos ay i-regenerate ang sagot at ikumpara ang dalawang bersyon.

Bakit nag-iimbento ng impormasyon ang AI

Kapag nagbigay ang model ng mali ngunit mukhang siguradong impormasyon, tinatawag itong hallucination. Nangyayari ito dahil binuo ang model para gumawa ng mukhang makatotohanang text, at madaling mag-imbento ng mukhang totoong citation, datos, o talambuhay kahit wala naman itong aktwal na basehan. Nabawasan na ito dahil sa training ngunit hindi pa tuluyang nawawala. Kasama sa mga mas delikadong sitwasyon ang:

• Tiyak na mga numero, petsa, at quote.
• Mga sanggunian sa mga libro, research paper, kaso sa korte, at web page.
• Mga espesyal o kakaibang paksa na kaunti lang ang training data.
• Mga pangyayari matapos ang cutoff date ng training data ng model.

Ipinapaliwanag sa aming gabay sa pag-fact-check kung paano mabilis na susuriin ang mga sagot.

Bakit maaaring walang alam ang AI sa mga bagong balita

Nagmumula ang kaalaman ng isang model sa data na nakalap hanggang sa isang partikular na petsa, ang knowledge cutoff nito. Pagkatapos niyon, wala na itong alam na bago maliban na lang kung bibigyan ito ng app ng bagong impormasyon, halimbawa sa pamamagitan ng web search tool o text na i-paste mo. Kapag naghanap nga sa web ang assistant, kasing-husay lang din ito ng mga page na nakita nito, kaya mahalaga pa ring suriin ang mga sanggunian. Kung bago ang impormasyong hinahanap mo, i-paste mismo ang kaugnay na text o kumpirmahin ang sagot sa pinakabagong mapagkukunan.

Mga model, tagalikha, at ang menu ng mga model

Ilang kumpanya ang gumagawa ng malalaking language model, kabilang ang OpenAI (ang mga GPT model sa likod ng ChatGPT), Anthropic (Claude), Google (Gemini), Meta (Llama), xAI (Grok), DeepSeek, Alibaba (Qwen), at Mistral AI. Inilalabas ng ilan ang kanilang model weights para ma-download at mapagana ito ng kahit sino; ang iba naman ay nag-aalok lang ng kanilang mga model sa sarili nilang mga app at API. Nagkakaiba ang mga model sa estilo, kalakasan, sakop na wika, at antas ng pag-iingat. Inilalarawan ang mga ito nang mas detalyado sa aming mga gabay sa model at paghahambing tulad ng ChatGPT laban sa Claude.

Sa ChatG, maaari mong piliin ang estilo ng model na gusto mo sa menu, o iwanan ito sa ChatG Auto. Ang ChatG ay isang independiyenteng website at walang kaugnayan sa alinman sa mga kumpanyang ito.

FAQ

Naiintindihan ba ng AI ang sinasabi nito?

Pinagtatalunan pa rin ito. Malinaw na natututunan ng mga model ang kayarian ng wika at kaalaman tungkol sa mundo, at kaya nilang lumutas ng mga problemang hindi pa nila nakita dati. Ngunit wala silang karanasan, at maaari silang magkamali sa mga paraang hindi gagawin ng isang taong tunay na nakakaunawa sa paksa. Sa totoo lang, ituring ang AI bilang isang mahusay na kagamitan, hindi isang ganap na awtoridad.

Natututo ba ang AI mula sa usapan namin?

Hindi habang nag-uusap kayo: hindi nagbabago ang weights ng model habang ka-chat mo ito. Maaaring gamitin ng ilang serbisyo ang mga usapan sa paglaon para magsanay ng mga susunod na model, depende sa kanilang patakaran at sa iyong mga setting.

Konektado ba ang AI sa internet?

Hindi konektado ang mismong model. Umaasa lang ito sa natutunan nito sa training at sa anumang nasa usapan ninyo. Nagdaragdag ang ilang app ng web search bilang hiwalay na tool. Maliban kung may ipinakitang mga sinuring sanggunian ang sagot, asahan na nagmula ito sa training data na maaaring luma na.

Bakit mas maganda ang ilang sagot sa Ingles kaysa sa ibang wika?

Kadalasan ay mas maraming text sa Ingles ang nakita ng mga model noong training kumpara sa karamihan ng iba pang wika, at maaaring mangailangan ng mas maraming token ang ibang wika para maipahayag ang parehong bagay. Karaniwang maayos na napoproseso ang mga wikang malawakang ginagamit; maaaring mas mahina naman ito sa mga di-gaanong karaniwan.