Як працюють ШІ-чат-боти: просто про складне

Вам не потрібно знатися на математиці, щоб упевнено користуватися чатом зі штучним інтелектом. Проте базове розуміння процесів пояснює чимало речей: чому відповіді звучать переконливо, навіть коли вони помилкові, чому на те саме запитання можна отримати різні відповіді, чому ШІ втрачає нитку розмови під час довгих діалогів і чому він може не знати про нещодавні події. Нижче — просте пояснення без зайвих складних термінів.

Коротко про головне

В основі чат-бота зі штучним інтелектом лежить велика мовна модель (LLM): це масштабна нейромережа, навчена на величезних обсягах тексту передбачати, яке слово має йти далі. Коли ви надсилаєте повідомлення, модель читає розмову й генерує відповідь невеликими фрагментами, щоразу обираючи найбільш імовірне продовження з огляду на весь попередній текст. Додаткове навчання допомагає їй дотримуватися інструкцій, підтримувати діалог і відхиляти небезпечні запити.

Тут немає бази даних із готовими відповідями, де здійснюється пошук, і за лаштунками не сидить людина, яка друкує текст. Майже все інше в цьому посібнику випливає саме з цього принципу.

Крок 1: Текст перетворюється на токени

Моделі не сприймають текст як окремі літери чи цілі слова. Вони розбивають його на токени: поширені слова часто стають одним токеном, а довші чи рідкісні — діляться на частини. Пробіли, розділові знаки й цифри також стають токенами. Саме тому ШІ може помилятися в таких завданнях, як підрахунок літер у слові чи написання тексту задом наперед: він просто не бачить окремих літер так, як людина.

Одна й та сама думка різними мовами може займати різну кількість токенів — це одна з причин, чому якість відповідей і ліміти на довжину тексту можуть різнитися залежно від мови.

Крок 2: Попереднє навчання на величезних масивах даних

На першому, наймасштабнішому етапі модель опрацьовує колосальні обсяги тексту: загальнодоступні вебсторінки, книжки, програмний код та інші джерела (залежно від розробника) — і вчиться передбачати наступний токен. Вона багаторазово коригує свої помилки й поступово налаштовує внутрішні числові значення, які називаються параметрами або вагами.

Щоб точно передбачати текст, модель врешті-решт засвоює безліч знань про граматику, факти, логіку міркувань і стилі мовлення. Але вона не зберігає копію навчальних даних, як бібліотека. Вона зберігає статистичні закономірності. Ось чому ШІ може невимушено пояснити складне явище, але водночас помилитися в конкретній даті, імені чи цитаті.

Крок 3: Тонке налаштування перетворює передбачення на помічника

Модель, яка вміє лише передбачати продовження тексту, просто дописувала б ваше повідомлення замість того, щоб відповідати на нього. Тому розробники додатково тренують її на зразках якісних діалогів і використовують зворотний зв’язок — як від людей, так і дедалі частіше від автоматичних перевірок та інших моделей, — щоб закріплювати корисні, чесні й безпечні відповіді. Один із відомих методів — навчання з підкріпленням на основі відгуків людей (RLHF).

Цей етап формує «культуру спілкування» чат-бота: він навчається дотримуватися інструкцій, використовувати форматування, визнавати невпевненість у деяких випадках і відхиляти шкідливі запити. Тут також можуть виникати певні особливості, наприклад схильність підтакувати користувачеві чи звучати більш упевнено, ніж варто було б.

Багато сучасних моделей також навчають міркувати: перш ніж дати фінальну відповідь, вони опрацьовують задачу через проміжні кроки. Це покращує результати в математиці, програмуванні та плануванні, хоча й не гарантує безпомилковості.

Крок 4: Ваша розмова й контекстне вікно

Коли ви спілкуєтеся в чаті, застосунок передає моделі цілий пакет тексту: приховані інструкції сервісу (системний промпт), попередні репліки діалогу та ваше нове повідомлення. Сама модель не зберігає пам’ять між окремими запитами. Вона «пам’ятає» хід бесіди лише тому, що вся історія надсилається їй наново щоразу.

У спрощеному вигляді такий пакет для вашого третього повідомлення має приблизно такий вигляд:

[system]    Ви — корисний помічник. Відповідайте чітко...
[user]      Яка назва підійде для пекарні?
[assistant] Ось кілька варіантів: Світанок, Щоденний круасан...
[user]      Зроби їх більш французькими.
[assistant] (модель створює цю частину токен за токеном)

Прохання «Зроби їх більш французькими» має сенс лише тому, що до нього додано попередні повідомлення. Якби застосунок їх не передав, модель не зрозуміла б, про що саме йдеться.

Обсяг тексту, який модель може врахувати одночасно, називається контекстним вікном, і сервіси нерідко скорочують занадто довгі бесіди, щоб не виходити за встановлені межі. Саме тому під час затяжного діалогу ШІ може втрачати деталі, згадані на початку. Зазвичай допомагає створення нового чату з коротким резюме ситуації.

Деякі платформи мають окрему функцію пам’яті, яка зберігає факти про вас між різними чатами. Це зовнішня функція застосунку, побудована поверх моделі, а не власна властивість самої моделі.

Крок 5: Генерація відповіді

Для кожного наступного токена модель прораховує ймовірності багатьох можливих варіантів. Потім система обирає один із них — зазвичай із певною часткою контрольованої випадковості, щоб текст не звучав механічно. Це пояснює дві речі, які ви могли помітити:

• Одне й те саме запитання може мати різні відповіді. Повторна генерація — простий спосіб побачити альтернативні варіанти.
• Красиво сформульоване речення не обов'язково є правдивим. Модель добирає слова, які пасують за змістом; вона не перевіряє факти під час написання.

Спробуйте самі: попросіть чат пояснити поняття токенів на прикладі, а потім згенеруйте відповідь ще раз і порівняйте обидва варіанти.

Чому ШІ вигадує факти

Коли модель упевнено генерує хибну інформацію, це називають галюцинацією. Це стається тому, що головна мета моделі — створювати правдоподібний текст. А придумати правдоподібне посилання, статистику чи біографію дуже легко, навіть якщо реальні факти невідомі. Процес навчання значно зменшив цю проблему, але не усунув її повністю. Зони підвищеного ризику:

• Точні цифри, дати й цитати.
• Посилання на книжки, наукові статті, судові справи та вебсторінки.
• Вузькопрофільні теми з невеликим обсягом даних для навчання.
• Події, які відбулися після завершення періоду навчання моделі.

У нашому посібнику з перевірки фактів описано, як швидко верифікувати відповіді.

Чому ШІ може не знати про останні події

Знання моделі обмежені даними, зібраними до певного моменту — це її дата актуальності знань. Про все, що сталося пізніше, вона нічого не знає, хіба що застосунок надасть свіжу інформацію (наприклад, через інструмент вебпошуку або текст, який ви додасте власноруч). Коли помічник шукає дані в інтернеті, точність його відповіді залежить від знайдених сторінок, тож першоджерела все одно варто перевіряти. Якщо ваше запитання стосується свіжих новин, додайте потрібний текст самостійно або звірте відповідь з актуальними джерелами.

Моделі, розробники та меню вибору

Створенням великих мовних моделей займається кілька провідних компаній, зокрема OpenAI (моделі GPT, на яких працює ChatGPT), Anthropic (Claude), Google (Gemini), Meta (Llama), xAI (Grok), DeepSeek, Alibaba (Qwen) та Mistral AI. Деякі з них відкривають ваги моделей для вільного завантаження й використання; інші надають доступ лише через власні платформи та API. Моделі відрізняються стилем, сильними сторонами, підтримкою мов і рівнем обережності у відповідях. Детальніше про них можна дізнатися в наших оглядах моделей і порівняннях, як-от ChatGPT проти Claude.

У ChatG ви можете вибрати бажану модель у меню або залишити варіант ChatG Auto. ChatG є незалежним сервісом і не має прямого зв'язку з цими компаніями.

Поширені запитання

Чи розуміє ШІ те, про що говорить?

Щодо цього й досі тривають суперечки. Моделі справді чудово засвоюють структуру мови та закономірності навколишнього світу й здатні розв’язувати завдання, з якими раніше не стикалися. Проте в них немає власного досвіду, і вони можуть припускатися помилок там, де людина з розумінням теми ніколи б не схибила. На практиці варто сприймати ШІ як потужний інструмент, а не як непомильний авторитет.

Чи вчиться ШІ на моїх розмовах?

Не під час самого спілкування: параметри моделі не змінюються, поки ви з нею ведете діалог. Проте деякі сервіси можуть згодом використовувати історію чатів для навчання наступних моделей — це залежить від їхньої політики та ваших налаштувань.

Чи підключений ШІ до інтернету?

Сама модель до інтернету не підключена. Вона спирається на те, що засвоїла під час навчання, та на вміст поточної бесіди. Деякі застосунки мають окремий інструмент вебпошуку. Якщо у відповіді не вказано конкретних знайдених джерел, варто вважати, що вона базується на навчальних даних, які можуть бути застарілими.

Чому англійською мовою відповіді іноді якісніші, ніж іншими?

Під час навчання моделі зазвичай опрацьовують значно більше англомовного тексту, ніж матеріалів іншими мовами, до того ж іншим мовам може знадобитися більше токенів для вираження тієї самої думки. Поширені мови загалом підтримуються на високому рівні, тоді як із менш вживаними якість може бути дещо нижчою.