Az AI megbízható használata nem állandó gyanakvást jelent. A valódi cél az, hogy a bizalmad mértéke igazodjon a feladat tétjéhez, a válasz ellenőrizhetőségéhez és ahhoz, mi történik, ha az AI téved.
Felteszel a ChatGPT-nek egy kérdést. Válaszol.
Mit csinálsz ezután?
Az egyik véglet, hogy elfogadod. „Az AI ezt mondta, valószínűleg rendben van.”
A másik, hogy semmit nem hiszel el neki. Minden állítást újrakeresel, minden forrást ellenőrzöl, gyakorlatilag újra elvégzed azt a munkát, amelynek egy részét éppen az AI-ra bíztad.
Az első gyors, de kockázatos lehet.
A második biztonságosabbnak tűnik, de könnyen elveszi az AI egyik legnagyobb előnyét: a gyorsaságot.
A jó AI-használat valahol a kettő között van.
A „bízom / nem bízom” gondolkodás túl egyszerű
A Microsoft Research az appropriate reliance fogalmával írja le azt az állapotot, amikor megfelelően támaszkodunk egy AI-rendszerre.
Ennek két rossz véglete van.
Overreliance: elfogadod az AI válaszát akkor is, amikor hibás.
Underreliance: nem használod vagy elutasítod a választ akkor is, amikor az AI jól teljesít.
Mindkettő ronthatja az ember és az AI közös teljesítményét. A cél tehát nem a lehető legnagyobb vagy legkisebb bizalom, hanem az, hogy a helyes AI-választ elfogadd, a hibásat pedig felismerd és elutasítsd.
Ez egészen más szemlélet.
Nem azt kérdezed:
„Megbízhatok a ChatGPT-ben?”
Hanem ezt:
„Ebben a feladatban, ennél a válasznál mennyire indokolt megbíznom benne?”
A kritikus AI-használat nem állandó gyanakvás
Ha öt alternatív címsort kérsz egy prezentációhoz, nincs sok értelme minden mondatot külső forrásokból ellenőrizni.
Ha viszont egy komoly üzleti döntéshez kapsz piacelemzést, vagy pénzügyi, jogi, egészségügyi kérdésben támaszkodsz az AI-ra, teljesen más kontroll indokolt.
A kutatások szerint ráadásul az appropriate reliance nem egy fix állapot. Függ a feladattól, a felhasználó szakértelmétől, az AI képességeitől és attól is, milyen interakcióban használjuk a rendszert.
Vagyis nem kell minden AI-választ egyformán kezelni.
A bizalomnak fokozatai lehetnek.
Három bizalmi fokozat
Egy egyszerű gyakorlati keret segíthet eldönteni, mennyi kontrollra van szükséged.
1. Alacsony tét: gyors bizalom
Ötletelés. Szövegváltozatok. Brainstorming. Egy belső e-mail első verziója.
Ha az AI nem a legjobb választ adja, kevés a következmény, és te magad is könnyen meg tudod ítélni az eredményt.
Itt nyugodtan használhatod gyorsan.
2. Közepes tét: bizalom + gyors kontroll
Konkurenciaelemzés. Szakmai összefoglaló. Marketingjavaslat. Döntés-előkészítés.
Itt már érdemes megkérdezni:
Mely állítások határozzák meg leginkább a következtetést? Ezek közül mit kell ellenőriznem?
Nem auditálsz mindent. Csak a döntéskritikus részeket.
3. Magas tét: bizonyítékhoz kötött bizalom
Jelentős pénzügyi döntés. Jogi vagy egészségügyi kérdés. Komoly üzleti kockázat.
Itt az AI válasza önmagában már kevés lehet. Elsődleges forrás, független ellenőrzés vagy megfelelő szakértő bevonása is szükséges lehet.
A lényeg:
minél nagyobb a tévedés ára, annál erősebb bizonyíték kell ahhoz, hogy az AI-ra támaszkodj.
Ne azt kérdezd: „Hihetek neki?”
Tegyél fel inkább három kérdést:
Mi a tét?
Mi történik, ha a válasz hibás?
Mennyire tudom ellenőrizni?
Van forrás? Saját szakértelem? Független adat?
Mekkora kontroll indokolt?
Elég egy gyors ellenőrzés, vagy szükség van másik forrásra, szakértőre?
Ezzel a bizalom nem érzés lesz.
Döntési szabály lesz.
Miért nem elég az, hogy „megbízhatónak tűnik”?
Az egyik probléma, hogy könnyen rossz jelek alapján döntünk a bizalomról.
Egy professzionálisan megírt válasz, egy hosszú magyarázat vagy akár egy forráslista is növelheti a megbízhatóság érzetét anélkül, hogy önmagában bizonyítaná a válasz helyességét. A generatív AI ráadásul részben helyes, részben hibás válaszokat és akár hibás hivatkozásokat is képes előállítani.
Ezért fontos különbség:
ne azt figyeld, mennyire érzed megbízhatónak a választ. Azt vizsgáld, milyen okod van megbízni benne.
Hogyan tovább?
A következő fontos AI-válasznál próbáld ki ezt:
„Segíts eldönteni, milyen mértékben támaszkodhatok erre a válaszra. Vedd figyelembe a tévedés lehetséges következményét, jelöld meg a kritikus állításokat, és mondd meg, melyeket lenne indokolt függetlenül ellenőriznem.”
Így nem automatikusan kételkedsz.
És nem is automatikusan hiszel.
Kalibrálod a bizalmat.
Ha pedig azt szeretnéd, hogy a ChatGPT alapból így kezelje a bizonytalanságot, a kockázatot és az ellenőrzést, ezeket az elveket rendszerpromptban is meghatározhatod.
Ehhez találsz gyakorlati megoldást a www.scalera.hu/rendszerprompt oldalon.
Röviden: mit érdemes megjegyezned?
- A vak bizalom és az állandó bizalmatlanság is ronthatja az AI használhatóságát.
- Az AI megbízható használata azt jelenti, hogy a bizalom mértékét a helyzethez igazítod.
- Alacsony tétű feladatnál elég lehet a gyors bizalom.
- Nagyobb tétnél egyre több ellenőrzés indokolt.
- Ne azt kérdezd, hogy „bízhatok-e az AI-ban?”, hanem azt: „ebben a helyzetben mennyire indokolt megbíznom benne?”
Gyakori kérdések
Mit jelent az appropriate reliance?
Azt, hogy megfelelően támaszkodsz az AI-ra: elfogadod a helyes eredményt, miközben képes vagy elutasítani a hibásat.
Akkor mindig ellenőrizni kell a ChatGPT válaszát?
Nem. Az ellenőrzés mélységét a feladat tétjéhez és a tévedés lehetséges következményéhez érdemes igazítani.
Mi a legegyszerűbb szabály?
Minél nagyobb kárt okozhat egy tévedés, annál erősebb bizonyítékot kérj, mielőtt az AI válaszára támaszkodsz.