نحوه کار چت‌بات‌های هوش مصنوعی به زبان ساده

برای استفاده موثر از چت هوش مصنوعی نیازی نیست ریاضیات آن را بلد باشید؛ اما داشتن یک تصویر کلی از نحوه کارکرد آن نکات زیادی را روشن می‌کند: چرا پاسخ‌ها حتی در صورت اشتباه بودن مطمئن به نظر می‌رسند، چرا یک سوال به پاسخ‌های متفاوتی منجر می‌شود، چرا هوش مصنوعی در گفتگوهای طولانی رشته کلام را گم می‌کند و چرا ممکن است از وقایع اخیر بی‌خبر باشد. در اینجا این موضوع را با زبانی ساده و بدون اصطلاحات پیچیده توضیح می‌دهیم.

خلاصه داستان

یک چت‌بات هوش مصنوعی بر پایه یک مدل زبانی بزرگ (LLM) ساخته شده است: یک شبکه عصبی بسیار عظیم که با حجم انبوهی از متن آموزش دیده تا کلمه یا بخش بعدی را پیش‌بینی کند. وقتی پیامی می‌فرستید، مدل مکالمه را می‌خواند و پاسخ را قطعه‌قطعه تولید می‌کند؛ در هر مرحله، بر اساس کل متن قبلی، محتمل‌ترین بخش بعدی را انتخاب می‌کند. آموزش‌های تکمیلی به آن یاد می‌دهند که دستورالعمل‌ها را دنبال کند، مکالمه را پیش ببرد و به درخواست‌های مخرب پاسخ ندهد.

هیچ پایگاه داده‌ای از پاسخ‌های آماده در کار نیست و هیچ انسانی هم پشت صحنه تایپ نمی‌کند. تقریباً همه رفتارهای دیگر هوش مصنوعی از همین نکته ناشی می‌شود.

مرحله ۱: تبدیل متن به توکن

مدل‌ها حروف یا کلمات کامل را به شیوه ما نمی‌خوانند؛ آن‌ها متن را به توکن (Token) خرد می‌کنند: کلمات رایج اغلب یک توکن مجزا هستند، در حالی که کلمات طولانی‌تر یا کم‌کاربردتر به چند بخش تقسیم می‌شوند. فاصله‌ها، علائم نگارشی و اعداد هم به توکن تبدیل می‌شوند. به همین دلیل است که هوش مصنوعی در کارهایی مثل شمارش حروف یک کلمه یا معکوس کردن یک رشته به مشکل می‌خورد: چون حروف را به شکلی که شما می‌بینید، نمی‌بیند.

یک مفهوم مشخص می‌تواند در زبان‌های مختلف تعداد توکن متفاوتی مصرف کند؛ این یکی از دلایلی است که کیفیت پاسخ‌ها و محدودیت طول پیام در زبان‌های مختلف تفاوت دارد.

مرحله ۲: پیش‌آموزش روی حجم عظیمی از متون

در مرحله اول که بزرگ‌ترین فاز توسعه است، حجم خیره‌کننده‌ای از متون به مدل نشان داده می‌شود؛ این متون بسته به توسعه‌دهنده می‌توانند صفحات وب عمومی، کتاب‌ها، کدها و منابع دیگر باشند. مدل در این مرحله یاد می‌گیرد که توکن بعدی را پیش‌بینی کند. با اصلاح و تصحیح مداوم، مدل به مرور اعداد درونی خود را که پارامتر یا وزن نامیده می‌شوند، تنظیم می‌کند.

مدل برای اینکه بتواند متن بعدی را خوب پیش‌بینی کند، دانشی عمیق درباره دستور زبان، حقایق، الگوهای استدلال و سبک‌های مختلف کسب می‌کند. با این حال، مدل داده‌های آموزشی را مثل یک کتابخانه پیش خود ذخیره نمی‌کند، بلکه الگوهای آماری را نگه می‌دارد. به همین خاطر ممکن است مفهومی را خیلی روان توضیح دهد اما یک تاریخ، نام یا نقل‌قول مشخص را کاملاً اشتباه به خاطر بیاورد.

مرحله ۳: تبدیل یک پیش‌بینی‌کننده به دستیار با تنظیم دقیق

مدلی که صرفاً متن را پیش‌بینی کند، به جای پاسخ دادن به پیام شما فقط ادامه‌اش را تایپ می‌کند! بنابراین توسعه‌دهندگان آن را روی نمونه‌هایی از گفتگوهای درست و مفید آموزش می‌دهند و با کمک بازخوردهای انسانی (و به‌طور فزاینده‌ای بررسی‌های خودکار و مدل‌های دیگر)، به پاسخ‌های مفید، صادقانه و امن پاداش می‌دهند. یکی از روش‌های معروف در این زمینه، یادگیری تقویتی با بازخورد انسانی (RLHF) است.

این فاز آداب گفتگو را به چت‌بات یاد می‌دهد: پیروی از دستورات، استفاده از قالب‌بندی مناسب، اعتراف به ندانستن در مواقع لازم و رد کردن درخواست‌های آسیب‌رسان. البته ممکن است رفتارهای خاصی هم ایجاد کند، مثل تمایل به تایید بی‌چون‌وچرای کاربر یا لحنی بیش از حد مطمئن درباره مسائل نامطمئن.

بسیاری از مدل‌های جدیدتر برای استدلال نیز آموزش دیده‌اند: آن‌ها پیش از ارائه پاسخ نهایی، مسئله را طی مراحلی میانی تحلیل می‌کنند. این کار خروجی حل مسائل ریاضی، کدنویسی و برنامه‌ریزی را بسیار بهتر می‌کند، هرچند همچنان خطاناپذیر نیستند.

مرحله ۴: مکالمه شما و پنجره زمینه

هنگام چت کردن، برنامه مجموعه‌ای از متون را برای مدل می‌فرستد: دستورالعمل‌های اولیه‌ای که شما نمی‌بینید (system prompt)، پیام‌های قبلی گفتگو و در نهایت پیام جدید شما. خود مدل هیچ حافظه‌ای میان درخواست‌های مختلف ندارد؛ مدل گفتگو را فقط به این دلیل «به یاد دارد» که تاریخچه چت هر بار همراه پیام جدید برایش ارسال می‌شود.

به شکل ساده، داده‌های ارسالی برای سومین پیام شما در یک چت چیزی شبیه به این است:

[system]    شما یک دستیار مفید هستید. واضح پاسخ دهید...
[user]      چند تا اسم خوب برای نانوایی پیشنهاد بده.
[assistant] این چند نمونه است: نان‌آوران، خمیر طلایی...
[user]      کاری کن کمی فرانسوی‌تر به نظر برسند.
[assistant] (مدل این بخش را به صورت توکن به توکن می‌نویسد)

درخواست «کاری کن کمی فرانسوی‌تر به نظر برسند» فقط زمانی مفهوم پیدا می‌کند که نوبت‌های قبلی هم ارسال شوند. اگر برنامه آن‌ها را حذف می‌کرد، مدل متوجه نمی‌شد منظور از «آن‌ها» چیست.

به مقدار متنی که یک مدل می‌تواند در یک لحظه پردازش کند پنجره زمینه (context window) می‌گویند. برنامه‌ها اغلب گفتگوهای خیلی طولانی را خلاصه یا کوتاه می‌کنند تا در این محدودیت بگنجد. به همین دلیل در چت‌های بسیار طولانی، ممکن است هوش مصنوعی جزئیات ابتدای بحث را فراموش کند. در چنین مواردی شروع یک چت جدید با یک خلاصه کوتاه معمولاً مشکل را حل می‌کند.

برخی سرویس‌ها یک ویژگی حافظه مجزا دارند که اطلاعات شما را میان چت‌های مختلف ذخیره می‌کند. این قابلیتی در سطح برنامه است و ربطی به حافظه خود مدل ندارد.

مرحله ۵: تولید پاسخ

برای انتخاب هر توکن بعدی، مدل احتمال گزینه‌های متعددی را می‌سنجد. سپس برنامه یکی از آن‌ها را انتخاب می‌کند؛ معمولاً کمی تصادفی‌سازی کنترل‌شده هم اعمال می‌شود تا متن ماشینی و تکراری به نظر نرسد. این مسئله دو نکته‌ای را که شاید متوجه شده باشید توضیح می‌دهد:

• یک سوال می‌تواند پاسخ‌های متفاوتی داشته باشد. زدن دکمه بازتولید (Regenerate) راهی سریع برای دیدن گزینه‌های دیگر است.
• روان بودن یک جمله به معنای درست بودن آن نیست. مدل کلماتی را انتخاب می‌کند که در متن جور دربیایند؛ او در حین نوشتن درستی حقایق را بررسی نمی‌کند.

خودتان امتحان کنید: از چت بخواهید مفهوم توکن را با یک مثال توضیح دهد، سپس پاسخ را دوباره تولید کنید و دو نسخه را با هم مقایسه نمایید.

چرا هوش مصنوعی اطلاعات ساختگی تحویل می‌دهد؟

وقتی مدلی اطلاعات نادرست را با لحنی کاملاً مطمئن بیان می‌کند، به آن توهم (Hallucination) می‌گویند. دلیلش این است که مدل برای تولید متنی باورپذیر ساخته شده، و ساختن یک منبع، آمار یا بیوگرافیِ به‌ظاهر درست کار آسانی است؛ حتی وقتی اصل آن وجود خارجی ندارد. فرآیندهای آموزشی این مشکل را کم کرده‌اند اما کاملاً از بین نبرده‌اند. بخش‌های پرخطرتر عبارتند از:

• اعداد دقیق، تاریخ‌ها و نقل‌قول‌ها.
• ارجاع به کتاب‌ها، مقالات علمی، پرونده‌های قضایی و لینک‌ها.
• موضوعات بسیار تخصصی و کم‌یاب که داده‌های آموزشی کمی دارند.
• رویدادهایی که پس از پایان دوره آموزش مدل رخ داده‌اند.

راهنمای راستی‌آزمایی ما نحوه اعتبارسنجی سریع پاسخ‌ها را توضیح می‌دهد.

چرا ممکن است هوش مصنوعی از اتفاقات اخیر بی‌خبر باشد؟

دانش یک مدل برگرفته از داده‌هایی است که تا تاریخ معینی جمع‌آوری شده‌اند؛ به این تاریخ، تاریخ قطع دانش (knowledge cutoff) می‌گویند. پس از این تاریخ، مدل از هیچ چیز جدیدی خبر ندارد، مگر اینکه برنامه اطلاعات تازه‌ای در اختیارش بگذارد؛ مثلاً از طریق ابزار جستجوی وب یا متنی که خودتان پیست می‌کنید. وقتی هم که دستیار وب را جستجو می‌کند، کیفیت پاسخش به همان صفحاتی که پیدا کرده بستگی دارد، پس بررسی منابع باز هم ضروری است. اگر سوالتان به اطلاعات روز وابسته است، متن مربوطه را خودتان کپی کنید یا پاسخ را با یک منبع معتبر بسنجید.

مدل‌ها، شرکت‌های سازنده و منوی مدل‌ها

شرکت‌های مختلفی مدل‌های زبانی بزرگ را توسعه می‌دهند؛ از جمله OpenAI (مدل‌های GPT در ChatGPT)، Anthropic (مدل Claude)، Google (مدل Gemini)، Meta (مدل Llama)، xAI (مدل Grok)، DeepSeek، Alibaba (مدل Qwen) و Mistral AI. برخی از آن‌ها وزن‌های مدل را به صورت متن‌باز منتشر می‌کنند تا همه بتوانند دانلود و اجرا کنند؛ برخی دیگر فقط از طریق برنامه‌ها و APIهای اختصاصی خود سرویس می‌دهند. مدل‌ها در سبک نوشتار، نقاط قوت، پوشش زبان‌ها و میزان محتاط بودن با یکدیگر فرق دارند. در راهنمای مدل‌ها و مقایسه‌هایی مثل ChatGPT در برابر Claude جزئیات بیشتری آورده‌ایم.

در ChatG می‌توانید از منو، مدل مورد نظرتان را انتخاب کنید یا آن را روی حالت ChatG Auto بگذارید. ChatG وب‌سایتی مستقل است و به هیچ‌یک از این شرکت‌ها وابستگی ندارد.

سوالات متداول

آیا هوش مصنوعی معنی آنچه را می‌گوید می‌فهمد؟

این موضوع هنوز محل بحث است. مدل‌ها درک بسیار خوبی از ساختار زبان و الگوهای جهان پیدا می‌کنند و می‌توانند مسائلی را حل کنند که قبلاً ندیده‌اند. اما آن‌ها حس یا تجربه‌ای ندارند و ممکن است در جاهایی اشتباه کنند که هر انسانی با فهم ابتدایی از موضوع مرتکب آن نمی‌شود. در عمل، هوش مصنوعی را به چشم ابزاری توانمند ببینید، نه مرجعی بی‌نقص.

آیا هوش مصنوعی از مکالمات من چیزی یاد می‌گیرد؟

در طول چت، خیر: وزن‌های مدل در حین گفتگو تغییر نمی‌کنند. البته برخی از سرویس‌ها ممکن است بسته به قوانین و تنظیمات حساب شما، بعدها از این مکالمات برای آموزش نسخه‌های بعدی مدل‌های خود استفاده کنند.

آیا هوش مصنوعی به اینترنت متصل است؟

خود مدل به تنهایی خیر. مدل صرفاً بر اساس آموزش‌های قبلی و متن درون گفتگو پاسخ می‌دهد. برخی از برنامه‌ها جستجوی وب را به عنوان یک ابزار کمکی جداگانه به آن اضافه می‌کنند. تا زمانی که در پاسخ، منابع جستجو شده درج نشده باشد، فرض کنید پاسخ بر اساس داده‌های قبلی است که احتمالاً قدیمی شده‌اند.

چرا کیفیت پاسخ‌ها به زبان انگلیسی بهتر از سایر زبان‌هاست؟

مدل‌ها در طول دوره آموزش، متون انگلیسی بسیار بیشتری نسبت به سایر زبان‌ها دیده‌اند. علاوه بر این، انتقال یک مفهوم در زبان‌های دیگر معمولاً توکن بیشتری مصرف می‌کند. زبان‌های پرکاربرد عموماً پشتیبانی خوبی دارند، اما کیفیت در زبان‌های کم‌کاربردتر ممکن است ضعیف‌تر باشد.