Så faktagranskar du AI-svar

Svar från AI-chattar är flytande, välstrukturerade och ofta helt rätt. Det är precis det som gör felaktiga svar så riskabla: ett påhittat statistiskt samband ser minst lika övertygande ut som ett äkta. Du behöver inte dubbelkolla allt, men du behöver en snabb och pålitlig rutin för det som faktiskt spelar roll. Den här guiden ger dig just det.

Varför AI-svar kan bli fel

• Den förutsäger sannolik text. En språkmodell genererar ord som passar in; den slår inte upp fakta om inte ett sökverktyg används. Vår guide om hur AI-chattbotar fungerar förklarar varför.
• Kunskapen har ett slutdatum. Priser, lagar, makthavare, programversioner och tidtabeller ändras efter att träningsdatan samlades in.
• Den kan hitta på källor. Titlar, författare, sidnummer, länkar och rättsfall kan fabriceras i ett fullständigt trovärdigt format.
• Den tenderar att hålla med dig. En ledande fråga som "Visst är det så att...?" kan få modellen att bekräfta det du redan tror på.
• Den blandar ihop saker. Två personer med snarlika namn, två liknande lagar eller två versioner av samma mjukvara.

Avgör vad som behöver kollas

Anpassa insatsen efter vad som står på spel. En enkel tumregel:

Specifika påståenden kräver mest uppmärksamhet: siffror, datum, namn, citat, lagar, doseringar, priser, tekniska specifikationer och källhänvisningar.

En faktagranskningsrutin i fem steg

1. Dela upp svaret i enskilda påståenden

Be AI:n göra det första steget åt dig:

Lista alla faktapåståenden i ditt förra svar som en numrerad lista.
Ange för varje påstående hur säker du är (hög, medel eller låg) och
vilken typ av källa som skulle kunna bekräfta det.

Säkerhetsnivåerna är inte pålitliga i sig, eftersom modeller kan ha tvärsäkert fel, men listan visar dig exakt vad du behöver undersöka.

2. Leta efter ursprungskällan

Ta reda på varifrån varje viktigt påstående kommer. Föredra primärkällor: SCB eller officiella statistikmyndigheter för siffror, lagtexten på riksdagens webbplats, själva studien i forskningstidskriften, tillverkarens manual eller organisationens egen webbplats. En nyhetsartikel eller blogg som citerar en siffra är redan ett steg bort från källan.

3. Läs i sidled (lateral reading)

Professionella faktagranskare bedömer inte en källa utifrån hur proffsig den ser ut. De öppnar nya flikar och kollar vad andra pålitliga källor säger om påståendet – och om källan i sig. Om flera oberoende, välrenommerade källor är överens står du på stadig grund.

4. Kontrollera att källorna finns och faktiskt stödjer påståendet

Om AI:n ger dig en referens, sök på den exakta titeln i en sökmotor, bibliotekskatalog eller databas med forskningsrapporter. Öppna den sedan och säkerställ att den faktiskt stödjer påståendet. AI citerar ibland en verklig rapport för något som rapporten inte alls säger.

5. Kolla datumet

Är informationen aktuell? Se efter när källan publicerades eller senast uppdaterades, och om något har ändrats sedan dess: nya regler, nya versioner eller nya priser.

Prompter som gör svaren lättare att granska

Hur du ställer frågan kan minska felen redan innan de uppstår:

Svag:
Vilka är biverkningarna av [läkemedel]?

Starkare:
Vilka är de vanligt förekommande biverkningarna av [läkemedel]? Skilj
på väletablerade fakta och sådant du är mindre säker på, och säg tydligt
till om du inte vet. Ange vilket officiellt dokument, till exempel
bipacksedeln, jag bör kontrollera för att verifiera detta.

Andra användbara fraser att lägga till:

• "Om du inte är säker, säg det i stället för att gissa."
• "Svara enbart utifrån texten jag klistrat in nedan. Om svaret inte framgår av texten, meddela mig."
• "Vad skulle någon som inte håller med om detta svar säga?"
• "Vilka delar av det här svaret kan vara inaktuella?"

Att låta modellen svara utifrån text du själv bifogar är särskilt tillförlitligt. Klistra in dokumentet och ställ frågor om det, eller använd vårt sammanfattningsverktyg, och gör sedan stickprov mot originalet. Du kan också öppna en prompt för faktagranskning i chatten för att planera dina kontroller.

Varningstecken i ett AI-svar

• Mycket precisa siffror utan källhänvisning, som en procentsats med en decimal.
• Citat från kända personer som du inte hittar någon annanstans.
• Referenser med märkliga detaljer: en tidskrift som inte täcker ämnet, en författare som inte är verksam inom området eller en länk som inte fungerar.
• Ett svar som ändras helt när du genererar om det eller frågar "Är du säker?".
• Juridiska eller medicinska påståenden utan uppgift om land, dosering eller sammanhang.
• Information om färska händelser som presenteras utan datum.

Att fråga "Är du säker?" kan vara avslöjande, men ta inte för givet att det nya svaret är rätt. Modeller kan också backa från helt korrekta svar när de blir ifrågasatta. Verifiera alltid utanför chatten.

Hjälper det att fråga en annan AI?

Att jämföra svar från olika modeller i chattmenyn, eller från en annan AI-tjänst, kan belysa motsägelser som är värda att titta närmare på. Men AI-system är tränade på överlappande data och kan göra samma misstag, så att två AI-modeller är överens är inget bevis. Använd jämförelsen för att hitta vad du behöver kolla upp, inte som själva kontrollen.

Studenter och forskare hittar fler idéer i AI för studenter, ChatG för forskare och bland våra studieprompter.

Var du kontrollerar olika typer av påståenden

Vanliga frågor

Hur ofta har AI fel?

Det varierar kraftigt beroende på modell, ämne och typ av fråga, så det finns ingen rättvisande procentsats. Väletablerade ämnen hanteras generellt bättre än nischade områden, dagsaktuella händelser, exakta siffror och källhänvisningar.

Är det säkert att använda AI för medicinska eller juridiska frågor?

Använd den för att förstå begrepp, förbereda frågor och få allmän översikt. Använd den inte för att fatta beslut om behandling, medicinering, juridiska tvister eller ekonomi utan att rådfråga en behörig expert. Kontakta 112 vid akuta nödsituationer.

Bör jag be AI:n om källor?

Ja, eftersom det ger dig en fingervisning om vad du ska leta efter. Men klicka dig alltid fram till källan själv, eftersom AI kan hitta på referenser som inte existerar eller inte säger det som påstås.

Varför fungerar inte länkar i AI-svar ibland?

Om inte AI:n faktiskt har sökt upp en webbsida är länken i svaret bara genererad text precis som allt annat. Den kan leda till en sida som har flyttats, eller till en adress som ser rimlig ut men aldrig har funnits. Sök på titeln eller organisationen i stället för att lita blint på webbadressen.

Vad är det snabbaste sättet att dubbelkolla ett enskilt faktum?

Sök på det specifika påståendet och leta efter en primärkälla eller en mycket pålitlig källa bland de första sökresultaten. Om du inte hittar någon inom ett par minuter bör du inte lita på påståendet.