Egy AI-válasz lehet végig koherens és meggyőző úgy is, hogy már az első kiindulópont téves. Ezért nemcsak azt érdemes ellenőrizni, hogyan jutott a ChatGPT a következtetéshez, hanem azt is: miből indult ki?
Felteszel a ChatGPT-nek egy összetett kérdést.
A válasz rendezett. Az érvek követik egymást. A következtetés logikusnak tűnik. Talán még példákat és részletes magyarázatot is kapsz.
Csak egy probléma van.
Már az első kiindulópont hibás volt.
És ha ezt nem veszed észre, a teljes gondolatmenet meggyőző lehet úgy is, hogy valójában rossz irányba visz.
A jó érvelés nem javítja ki a rossz alapfeltevést
Képzelj el egy vállalkozót, aki ezt kérdezi:
„Ha azért nem vásárolnak elegen, mert túl magas az árunk, mennyivel kellene csökkentenünk?”
A kérdés már tartalmaz egy feltételezést:
az értékesítési probléma oka a magas ár.
De mi van, ha nem ez az ok?
Lehet, hogy az ajánlat nem érthető. Nem megfelelő közönség látja. Kevés a bizalom. Rossz a pozicionálás. Vagy egyszerűen nincs elég forgalom.
Ha az AI kérdés nélkül elfogadja az eredeti premisszát, akkor akár kiváló elemzést is készíthet arról, hogyan kellene árat csökkenteni.
A válasz lehet logikus.
Csak éppen egy olyan problémát old meg, amelyről még nem tudjuk, hogy valóban létezik.
Az első dominó problémája
Gondolj az érvelésre dominósorként.
Ha minden dominó jó helyen áll, az egyik szépen ledönti a következőt.
De az egész rendszer csak akkor visz jó eredményhez, ha az első dominó is jó helyről indul.
Ugyanez igaz az AI-válaszokra:
alapfeltevés → érvelés → következtetés
Ha az alapfeltevés hibás, attól a további logikai lépések még lehetnek teljesen következetesek.
Csak a végeredmény lesz félrevezető.
Az OpenAI is arra figyelmeztet, hogy a ChatGPT helytelen vagy félrevezető válaszokat adhat, és kétértelmű vagy összetett kérdéseknél akár túlzott magabiztossággal is fogalmazhat. A fontos információk kritikus értékelését és ellenőrzését ezért külön is javasolja.
Az AI nem feltétlenül állítja meg magát
Ez nem pusztán elméleti probléma.
Egy 2025-ös kutatás 15 nyelvi modellnél vizsgálta, mennyire képesek felismerni és kritizálni a hibás vagy egymásnak ellentmondó premisszákat.
A kutatók azt találták, hogy a legtöbb modell jelentősen támaszkodott arra, hogy explicit felszólítást kapjon a premissza ellenőrzésére. Az önálló, proaktív kritika korlátozottabb volt.
Még érdekesebb: a jobb általános érvelési képesség nem járt következetesen együtt a hibás premisszák jobb felismerésével.
Vagyis:
attól, hogy egy AI jól érvel, még nem biztos, hogy jól választotta meg azt, amiből érvel.
Egy korábbi EMNLP-kutatás külön fogalmat is használ az olyan helyzetekre, amikor egy modell hibás előfeltevést tartalmazó kérdésre építve hallucinált választ generál: false premise hallucination.
Előbb auditáld a kiindulópontot
A megoldás ezért nem az, hogy minden AI-választ még hosszabban elemeztetsz.
Hanem hogy megváltoztatod az ellenőrzés sorrendjét.
Ne így:
ALAPFELTEVÉS → ÉRVELÉS → KÖVETKEZTETÉS
Hanem így:
ALAPFELTEVÉS → ELLENŐRZÉS → ÉRVELÉS → KÖVETKEZTETÉS
Mielőtt az AI megoldani kezdi a problémát, érdemes három kérdést feltenni:
- Milyen kimondott és rejtett alapfeltevésekből indulsz ki?
- Ezek közül melyik tény, és melyik csak feltételezés?
- Hogyan változna a válasz, ha valamelyik fontos alapfeltevés hibás lenne?
Ez apró változtatásnak tűnik.
Pedig teljesen más szerepet ad az AI-nak.
Nemcsak végrehajtja a kérdésedben rejlő logikát, hanem előbb megvizsgálja, hogy érdemes-e egyáltalán abból kiindulni.
„De hát a gondolatmenet teljesen logikus…”
Pontosan ez teszi veszélyessé.
A belső következetesség és a valósághűség két külön dolog.
Egy érvelés matematikailag vagy logikailag kifogástalanul következhet egy premisszából úgy is, hogy maga a premissza nem igaz.
Ezért fontos AI-használatnál nemcsak ezt kérdezni:
„Helyesen gondolkodott?”
Hanem előtte ezt:
„Helyes dologból indult ki?”
Egy 2025-ös kutatás szerint a hibás feltételezést tartalmazó kérdések kezelését javíthatja, ha a rendszer először különálló feltételezésekre bontja a problémát, ezeket bizonyítékok alapján ellenőrzi, és csak utána válaszol az eredeti kérdésre.
Egy egyszerű prompt az első dominó ellenőrzésére
Próbáld ki fontosabb kérdéseknél ezt:
„Mielőtt válaszolsz, azonosítsd a kérdésem legfontosabb kimondott és rejtett alapfeltevéseit. Jelezd, melyik alátámasztott, melyik bizonytalan, és melyiket kellene megkérdőjelezni. Csak ezután vond le a következtetést.”
Ez nem garantál hibátlan választ.
Viszont növeli annak esélyét, hogy ne csak a logikai láncot vizsgáld, hanem azt az első dominót is, amely az egészet elindítja.
Ha ezt nem szeretnéd minden alkalommal külön kérni, rendszerpromptban is beépítheted az AI alapműködésébe.
Ehhez találsz gyakorlati megoldást a www.scalera.hu/rendszerprompt oldalon.
Röviden: mit érdemes megjegyezned?
- Egy logikus válasz is épülhet hibás alapfeltevésre.
- A jó érvelési képesség nem garantálja a hibás premissza felismerését.
- Fontos döntéseknél először azt ellenőrizd: miből indult ki az AI?
- Használd a sorrendet: alapfeltevés → ellenőrzés → érvelés → következtetés.
- Ne csak a végső választ auditáld. Auditáld az első dominót is.
Gyakori kérdések
Mi az AI hibás alapfeltevés?
Olyan kimondott vagy rejtett kiindulópont, amelyet az AI elfogad a válasz felépítésekor, miközben annak igazsága nem bizonyított vagy téves.
Lehet logikus egy hibás AI-válasz?
Igen. A következtetés logikusan következhet egy hibás premisszából. A belső koherencia ezért önmagában nem bizonyítja, hogy a válasz megfelel a valóságnak.
Hogyan ellenőrizzem az AI alapfeltevéseit?
Kérd meg, hogy válaszadás előtt nevezze meg a kimondott és rejtett premisszákat, és külön jelezze, melyek alátámasztottak, bizonytalanok vagy megkérdőjelezendők.
Mikor különösen fontos ez?
Olyan üzleti, szakmai vagy személyes döntéseknél, ahol egy hibás kiindulópont a teljes további elemzést és döntést rossz irányba viheti.