AI के जवाबों का फैक्ट-चेक कैसे करें
AI के जवाब सुनने में सही लेकिन पूरी तरह गलत हो सकते हैं। किसी भी जवाब पर भरोसा करने से पहले उसे जांचने का आसान तरीका।
AI चैट के जवाब धाराप्रवाह, व्यवस्थित और अक्सर सही होते हैं। ठीक यही बात गलत जवाबों को जोखिम भरा बनाती है: एक मनगढ़ंत आंकड़ा भी बिल्कुल असली जैसा लग सकता है। आपको हर चीज़ जांचने की ज़रूरत नहीं है, लेकिन ज़रूरी बातों के लिए एक तेज़ और भरोसेमंद तरीका होना चाहिए। यह गाइड आपको वही तरीका सिखाती है।
AI के जवाब गलत क्यों हो सकते हैं
- यह संभावित शब्दों का अनुमान लगाता है। एक लैंग्वेज मॉडल ऐसे शब्द बनाता है जो संदर्भ में फिट बैठें; जब तक सर्च टूल का इस्तेमाल न हो, यह तथ्यों को खोजता नहीं है। हमारी गाइड AI चैटबॉट्स कैसे काम करते हैं बताती है कि ऐसा क्यों है।
- इसकी जानकारी की एक सीमा (कटऑफ़) होती है। ट्रेनिंग डेटा इकट्ठा होने के बाद कीमतें, कानून, पदों पर बैठे लोग, प्रोडक्ट वर्शन और समय-सारणी बदल जाते हैं।
- यह नकली स्रोत बना सकता है। किताबों के नाम, लेखक, पेज नंबर, लिंक और अदालती मामले बिल्कुल असली दिखने वाले फॉर्मेट में गढ़े जा सकते हैं।
- यह आपसे सहमत होने की कोशिश करता है। "क्या यह सच नहीं है कि...?" जैसा सवाल इसे वही पुष्टि करने के लिए प्रेरित कर सकता है जो आप पहले से मानते हैं।
- यह चीज़ों को आपस में मिला देता है। एक जैसे नाम वाले दो लोग, दो मिलते-जुलते कानून, या एक ही सॉफ्टवेयर के दो अलग वर्शन।
तय करें कि क्या जांचना ज़रूरी है
जोखिम के हिसाब से ही मेहनत तय करें। एक सामान्य गाइड के तौर पर:
| जोखिम | उदाहरण | क्या करें |
|---|---|---|
| कम | नामों पर विचार करना, ईमेल को बेहतर बनाना, रेसिपी का आइडिया | अपनी समझ का इस्तेमाल करें; किसी औपचारिक जांच की ज़रूरत नहीं है |
| मध्यम | स्कूल निबंध, वर्क प्रजेंटेशन या ब्लॉग पोस्ट के तथ्य | अपने इस्तेमाल किए गए हर खास दावे को कम से कम एक भरोसेमंद स्रोत से जांचें |
| ज़्यादा | सेहत, कानूनी, पैसे, सुरक्षा, या आपके नाम से पब्लिश होने वाली कोई भी चीज़ | प्राथमिक स्रोतों और ज़रूरत पड़ने पर किसी पेशेवर विशेषज्ञ से पुष्टि करें |
खास दावों पर सबसे ज़्यादा ध्यान देने की ज़रूरत होती है: संख्याएं, तारीखें, नाम, कोट्स, कानून, दवाओं की खुराक, कीमतें, तकनीकी स्पेसिफिकेशन और संदर्भ।
तथ्य जांचने का 5-चरणीय रूटीन
1. जवाब को दावों में बांटें
AI से ही इसका पहला हिस्सा करने को कहें:
अपने पिछले जवाब के हर तथ्यात्मक दावे को एक नंबर वाली लिस्ट में लिखें। हर दावे के लिए बताएं कि आप कितने आश्वस्त हैं (ज़्यादा, मध्यम या कम) और किस तरह का स्रोत इसकी पुष्टि कर सकता है।
सिर्फ़ आत्मविश्वास के स्तर पर भरोसा न करें, क्योंकि मॉडल पूरे विश्वास के साथ भी गलत हो सकते हैं, लेकिन यह लिस्ट आपको साफ दिखा देती है कि क्या जांचना है।
2. मूल स्रोत (ओरिजिनल सोर्स) तलाशें
हर ज़रूरी दावे के लिए पता लगाएं कि वह कहां से आया है। प्राथमिक स्रोतों को प्राथमिकता दें: आंकड़ों के लिए आधिकारिक सांख्यिकी विभाग, कानून के लिए सरकार की लेजिस्लेशन वेबसाइट, किसी स्टडी के लिए ओरिजिनल जर्नल, निर्माता का मैन्युअल या संगठन की खुद की वेबसाइट। कोई समाचार लेख या ब्लॉग जो किसी आंकड़े को कोट करता है, वह मूल स्रोत से एक कदम दूर होता है।
3. समानांतर जांच (Lateral Reading) करें
पेशेवर फैक्ट-चेकर्स किसी स्रोत को सिर्फ इस बात से नहीं आंकते कि वह कितना प्रोफेशनल दिखता है। वे नए टैब खोलते हैं और देखते हैं कि अन्य भरोसेमंद स्रोत उस दावे और उस स्रोत के बारे में क्या कह रहे हैं। अगर कई स्वतंत्र और प्रतिष्ठित स्रोत सहमत हैं, तो जानकारी सही है।
4. जांचें कि उद्धरण (साइटेशन) मौजूद हैं और वही कह रहे हैं
अगर AI कोई संदर्भ देता है, तो सर्च इंजन, लाइब्रेरी कैटलॉग या रिसर्च डेटाबेस में उसका सटीक शीर्षक खोजें। फिर उसे खोलें और पुष्टि करें कि क्या वह वाकई उस दावे का समर्थन करता है। AI कभी-कभी असली रिसर्च पेपर का हवाला ऐसी बात के लिए दे देता है जो उसमें लिखी ही नहीं होती।
5. तारीख ज़रूर देखें
क्या यह जानकारी अभी भी मान्य है? देखें कि स्रोत कब पब्लिश हुआ था या आखिरी बार कब अपडेट किया गया था, और क्या तब से कुछ बदला है: नए नियम, नए वर्शन, नई कीमतें।
प्रॉम्प्ट्स जिनसे जवाब जांचना आसान हो जाता है
आपके पूछने का तरीका गलतियों को पहले ही कम कर सकता है:
कमज़ोर: [दवा] के साइड इफ़ेक्ट क्या हैं?
बेहतर: [दवा] के आम तौर पर बताए जाने वाले साइड इफ़ेक्ट क्या हैं? पुख्ता तथ्यों को उन बातों से अलग रखें जिनके बारे में आप कम आश्वस्त हैं, और अगर आपको नहीं पता तो साफ बताएं। मुझे बताएं कि पुष्टि के लिए मुझे कौन सा आधिकारिक दस्तावेज़, जैसे पेशेंट लीफ़लेट, देखना चाहिए।
जोड़ने के लिए कुछ अन्य उपयोगी लाइनें:
- "अगर आपको पक्का नहीं पता, तो अंदाज़ा लगाने के बजाय साफ बता दें।"
- "सिर्फ़ नीचे दिए गए टेक्स्ट के आधार पर जवाब दें। अगर टेक्स्ट में नहीं है, तो मुझे बताएं।"
- "इस जवाब से असहमत होने वाला व्यक्ति क्या कहेगा?"
- "इस जवाब के कौन से हिस्से पुराने (आउटडेटेड) हो सकते हैं?"
आपके द्वारा दिए गए टेक्स्ट से जवाब पाना सबसे भरोसेमंद तरीका है। दस्तावेज़ पेस्ट करें और उस पर सवाल पूछें, या summarizer का इस्तेमाल करें, फिर परिणाम की तुलना मूल दस्तावेज़ से करें। आप अपनी जांच की योजना बनाने के लिए चैट में फैक्ट-चेकिंग प्रॉम्प्ट भी खोल सकते हैं।
AI के जवाब में चेतावनी के संकेत (रेड फ्लैग्स)
- बिना किसी स्रोत के बहुत सटीक संख्याएं, जैसे दशमलव के एक अंक तक प्रतिशत।
- प्रसिद्ध हस्तियों के नाम से जुड़े ऐसे कोट्स जो आपको कहीं और नहीं मिलते।
- अजीब विवरण वाले संदर्भ: ऐसा जर्नल जो उस विषय से जुड़ा न हो, ऐसा लेखक जो उस क्षेत्र में काम न करता हो, या ऐसा लिंक जो खुलता ही न हो।
- ऐसा जवाब जो दोबारा जनरेट करने पर या "क्या आपको पक्का पता है?" पूछने पर पूरी तरह बदल जाए।
- देश, खुराक या परिस्थितियों का ज़िक्र किए बिना कानूनी या मेडिकल सलाह।
- बिना तारीख के दी गई हालिया घटनाओं की जानकारी।
"क्या आपको पक्का पता है?" पूछना मददगार हो सकता है, लेकिन बदले हुए जवाब को ही सही न मान लें। दबाव पड़ने पर मॉडल कभी-कभी सही जवाब से भी पीछे हट जाते हैं। चैट से बाहर जाकर जांच करें।
क्या किसी दूसरे AI से पूछने से मदद मिलती है?
चैट मेन्यू में अलग-अलग मॉडल स्टाइल्स से, या किसी दूसरी AI सर्विस से जवाबों की तुलना करने पर ऐसे मतभेद सामने आ सकते हैं जिनकी पड़ताल करनी चाहिए। लेकिन AI सिस्टम्स को एक जैसे डेटा पर ट्रेन किया जाता है और वे एक जैसी गलतियां कर सकते हैं, इसलिए दो AI की सहमति कोई पुख्ता सबूत नहीं है। उनका इस्तेमाल यह जानने के लिए करें कि क्या जांचना है, न कि अंतिम जांच के रूप में।
छात्रों और रिसर्चर्स को छात्रों के लिए AI, रिसर्चर्स के लिए ChatG और स्टडी प्रॉम्प्ट्स में और तरीके मिलेंगे।
अलग-अलग तरह के दावों की जांच कहां करें
| दावे का प्रकार | जांचने के लिए सबसे अच्छी जगहें |
|---|---|
| आंकड़े और आर्थिक डेटा | राष्ट्रीय सांख्यिकी कार्यालय या डेटा पब्लिश करने वाली अंतरराष्ट्रीय संस्था, साल के साथ |
| कानून और नियम | आपके देश की आधिकारिक सरकारी लेजिस्लेशन वेबसाइट, यह देखते हुए कि वर्शन मौजूदा है |
| सेहत और दवाएं | दवा के साथ मिलने वाला लीफ़लेट, राष्ट्रीय स्वास्थ्य सेवाएं और आपके डॉक्टर या फार्मासिस्ट |
| विज्ञान और रिसर्च | मूल रिसर्च पेपर, और आदर्श रूप से उसकी पुष्टि करने वाले बाद के अध्ययन या समीक्षाएं |
| कोट्स | मूल भाषण, इंटरव्यू, किताब या रिकॉर्डिंग, न कि कोट्स वाली वेबसाइट्स |
| सॉफ्टवेयर और प्रोडक्ट्स | आपके द्वारा इस्तेमाल किए जा रहे वर्शन के लिए आधिकारिक दस्तावेज़ या निर्माता की साइट |
| हालिया समाचार | कई जाने-माने समाचार माध्यम, उनकी रिपोर्ट की तारीखों की तुलना करते हुए |
अक्सर पूछे जाने वाले सवाल (FAQ)
AI कितनी बार गलत होता है?
यह मॉडल, विषय और सवाल के प्रकार पर बहुत निर्भर करता है, इसलिए इसका कोई एक तय आंकड़ा नहीं है। जाने-माने विषयों पर यह आमतौर पर कम चर्चित विषयों, हालिया घटनाओं, सटीक आंकड़ों और संदर्भों की तुलना में बेहतर काम करता है।
क्या मेडिकल या कानूनी सवालों के लिए AI का इस्तेमाल सुरक्षित है?
शब्दावली समझने, सवाल तैयार करने और सामान्य जानकारी पाने के लिए इसका इस्तेमाल करें। किसी योग्य पेशेवर के बिना इलाज, दवा, कानूनी कार्रवाई या पैसों से जुड़ा फैसला लेने के लिए इसका इस्तेमाल न करें। आपात स्थिति में अपनी स्थानीय आपातकालीन सेवाओं से संपर्क करें।
क्या मुझे AI से स्रोतों के बारे में पूछना चाहिए?
हाँ, क्योंकि इससे आपको पता चलता है कि क्या खोजना है। लेकिन हर स्रोत को हमेशा खुद खोलकर देखें, क्योंकि AI ऐसे संदर्भ भी बना सकता है जो असल में मौजूद ही नहीं हैं या जिनमें वह बात नहीं कही गई है।
AI के जवाबों में दिए गए लिंक कभी-कभी काम क्यों नहीं करते?
जब तक AI ने खुद उस पेज को सर्च न किया हो, उसके जवाब में दिया गया लिंक भी बाकी चीज़ों की तरह केवल जनरेट किया गया टेक्स्ट होता है। हो सकता है कि वह पेज हट चुका हो, या वह एड्रेस कभी था ही नहीं लेकिन देखने में सही लगता है। एड्रेस पर भरोसा करने के बजाय शीर्षक या संगठन का नाम सर्च करें।
किसी एक तथ्य को जांचने का सबसे तेज़ तरीका क्या है?
उस खास दावे को सर्च करें और शुरुआती नतीजों में कोई प्राथमिक या बेहद प्रतिष्ठित स्रोत देखें। अगर आपको कुछ मिनटों में ऐसा स्रोत नहीं मिलता है, तो उस दावे पर भरोसा न करें।
संबंधित
जब आप चाहें, तैयार है
चैट खोलें और अपना पहला सवाल पूछें। यह मुफ़्त है, और कुछ भी इंस्टॉल करने की ज़रूरत नहीं है।
चैट शुरू करें