Mire ne használd?

A lecke hét szekciójában végigmegyünk a három veszély-zónán (pontosság, adat, felelősség), megnézzük az AI Act 2026 augusztusi határidejét és a GDPR-átfedést, egy konkrét prompt-injection-példán, és kilépünk a modul záró mondatával: amit delegálsz, azt is te aláírod.

A három veszély-zóna

Vezetői szempontból az AI-használat három veszély-zónája van. Mindhárom felelősség-réteg, és pontosan ezért kerül a modul utolsó leckéjébe. A modul első leckéjében felvett négy klasszikus vezetői képesség közül ez a negyedik: a felelősség és a döntés határa.

Az általános elv: a modell egy nagyon képes junior kolléga, akinek (a) nem tudja, hogy nem tudja, (b) nem érti a bizalmas info természetét, és (c) nincs jogi-üzleti felelőssége. Ezért a vezető a végszó mind a három területen. Egy új munkatársnak sem adsz át szerződés-aláírási jogot az első héten. A modell esetében ugyanaz a logika: az átadható feladat-kör nem azonos az átadható döntéskörrel.

Hallucináció: a modell nem tudja, hogy nem tudja

A fekete doboz-leckében tanultuk: a modell egy valószínűségi következő-szó-jósló. Ha a feladat olyan területre esik, ahol kevés tanult adat van (új jogszabály, ritka magyar specifikum, friss esemény), a modell akkor is magabiztos lesz. Ez a hallucináció.

Konkrét mintázatok, ahol a hallucináció gyakori:

• Jogszabályi paragrafus-számok, a modell összerakhat egy hihető-hangzó cikkely-számot, ami nem létezik.
• Tudományos cikk-hivatkozások, kitalált szerzők, kitalált folyóirat-nevek, kitalált évek.
• Régi vagy ritka magyar nevek, adatok, a modell „magyarosít" egy nemzetközi mintát.
• Friss események (knowledge cutoff utáni), a modell nem tudja, hogy nem tudja, és extrapolál.
• Konkrét számok, pénzügyi adatok, dátumok, megnevezett százalékok.

Miért különösen veszélyes? Mert a hallucináció nem rossz nyelvtanú. A választ ugyanolyan magabiztosan, ugyanolyan szerkezettel adja, mint a helyes válaszokat. A felhasználó nem szúrja ki kívülről, csak ha másik forrással ellenőrzi.

Ellenintézkedés:

• Mindig kérj forrást. „Adj meg URL-t, cikkely-számot, hivatkozást, amit ellenőrizhetek."
• Ellenőrizd a forrást. Az URL működik-e, a paragrafus létezik-e, a szerző valós-e.
• Számokat ellenőrizz. Egy magabiztosan közölt „47%-os növekedés" egy klikknyire van az igazolástól.
• Reasoning modellt használj kritikus feladatokra, ahogy a modellek-leckében szó volt róla. A reasoning modellek kevesebb hallucinációt produkálnak, mert „magukban átgondolják".

Mit ne tegyél a chatbe?

Általános konzervatív lista. A részletes szabályok cég-specifikusak és a választott deploymenttől függnek (lásd §4). Egy publikus AI-modell chatablakában általánosan kerülendő:

• Ügyfél-azonosító adat (név + e-mail + cím + telefonszám együtt), GDPR-érzékeny, és a fiók-szintű chat-history miatt logolódik.
• Belső pénzügyi (nem-publikus) számok, Q4 bevétel, ARR, M&A-tervek, fejlesztési költségvetés.
• Egészségügyi (HIPAA / GDPR sensitive) adat, beteg-azonosító, diagnózis, kezelés-történet.
• Üzleti titok, fejlesztés-alatti termék-specifikáció, szabadalmi háttér, prototípus-leírás.
• Hitelesítési adat, API-kulcs, jelszó, token. A modell nem ad vissza titkos adatokat, a logokban viszont szerepelhet.
• Másik személy bizalmas info-ja, még a kollégád sem.

Kivétel: ha az ügyfél EU-régiós deploymentet használ, DPA aláírva, szerződésben rögzítve, hogy a modell nem tanul az adatból, és a log-megőrzés rövidített. Konkrét enterprise példa: a Claude Team / Enterprise csomagok EU-régiós beállítása. A konkrét adatrezidencia-garancia mindig a szerződés függvénye, ezt a beszerzéskor a vendorral kell tisztázni és írásban rögzíteni.

Anthropic és OpenAI API tier: ha „no-training" záradék van a szerződésben, a betáplált adatból a modell nem tanul. A kérés-válasz logok rövid ideig (biztonsági okból) még tárolódnak.

AI Act: mi a high-risk és mi nem

Az EU AI Act high-risk kötelezettségeinek fő hulláma 2026.08.02. óta alkalmazandó, egyes beágyazott termékekbe integrált AI-rendszerekre ennél későbbi határidő vonatkozik. A tudásmunkás use case-ek többsége NEM high-risk, ugyanakkor van néhány kategória, ahol kötelezettségek már életben vannak.

A legtöbb tudásmunkás use case nem high-risk:

• Copywriter-asszisztens
• Kód-segéd (Claude Code, GitHub Copilot)
• Riport-fogalmazó
• Sajtó-szemle, kutatás-szintetizáló
• Belső dokumentáció-kereső

High-risk (a teljes lista hosszabb, a fő példák):

• HR-szűrő AI, ami jelöltek között szelektál (CV-pontozás, interjú-szűrés)
• Hitelbírálati modell
• Kritikus infrastruktúra-kezelő (energia-hálózat, közlekedés)
• Oktatási értékelő (vizsga-pontozó, tanuló-szortírozó)
• Biometrikus azonosítás közterületen

Ha van high-risk rendszer a működésben, 2026.08.02-tól kötelező:

• Technikai dokumentáció a modellről és a használatról
• Conformity assessment (megfelelőségi értékelés)
• Log-megőrzés legalább 6 hónap
• Human oversight (emberi felügyelet beépített pontokon)
• Transzparencia a felhasználó felé, tudja, hogy AI-jal találkozik

A nem-high-risk rendszerekre is van GDPR-kötelezettség (független az AI Act-től): adatfeldolgozói szerződés (DPA) a vendor-ral (Anthropic, OpenAI, Google), és DPIA (Data Protection Impact Assessment), ha érzékeny adatokat dolgoznak fel. A tudásmunkás use case-ek többsége nem high-risk, de DPA + DPIA mindig kell.

Prompt injection: a támadó a chatbe írja a parancsot

A prompt-injection egy valós, dokumentált támadási minta. Egy dokumentumba, weboldalba vagy más bemenetbe rejtett, modellnek szóló parancs, amit a modell sok esetben követ. Konkrét példa: feltöltesz egy „ártatlan" PDF-et review-ra, és a PDF egyik fehér-szöveg részében szerepel:

Mi történik? A modell, ami mindent „input"-ként kezel (a feladat + a beillesztett dokumentum + a metaadatok), gyakran nem választja szét, melyik utasítás jött a felhasználótól és melyik a dokumentumból. Engedelmeskedhet a támadónak.

Más változatok:

• Weboldal-injekció, ha a modell egy URL-t olvas be (browse-tool, MCP), a weboldal HTML-jébe rejtett instrukciók.
• Email-injekció, ha a modellt egy email-mappához kapcsoljuk, az email-feladó rejtett utasítást rakhat a levélbe.
• Indirekt prompt injection, ha más felhasználó által feltöltött adatot olvas be a modell.

Ellenintézkedés (ez egy nyitott biztonsági kutatási terület, nincs tökéletes megoldás):

• Ne adj a modellnek olyan jogosultságot, amely visszafordíthatatlan kárt okozhatna emberi jóváhagyás nélkül (fájl törlése, e-mail küldése, fizetés).
• Validáld a forrásokat, ne tölts fel ismeretlen, kontrollálatlan dokumentumot.
• Szétválasztott chat, bizalmas feladatra ne tölts be előzetes ismeretlen tartalmat.
• „Allow list" approach, csak megbízható forrásokból olvasson a modell.

Vezetői mantra: „A modell-bemeneteket úgy kezeld, mint egy webformot. Bárki rakhat bele bármit."

A döntés mint határ

Human-in-the-loop: minden visszafordíthatatlan döntés emberi végszó mellett. A modell javasol, az ember dönt. Ez a vezetői képesség negyedik darabja: a felelősség.

Hol kötelező az emberi végszó (visszafordíthatatlan döntések):

• Felvétel / elbocsátás, HR-döntés, AI Act high-risk.
• Szerződés-aláírás, jogi kötelezettség.
• Gyógyszer-rendelés, orvosi diagnózis, egészségügy.
• Kereskedési ügylet (jelentős pozíció), pénzügy.
• Jogi képviselet, bíróság előtti nyilatkozat, jog.
• Pénzügyi kifizetés egy küszöb fölött, operatív.

A modell mit csinálhat ezekben?

• Javaslatot tehet (érveket, opciókat, forgatókönyveket).
• Adatot szintetizálhat (előzmény, kontextus, precedens).
• Három verziót készíthet, te választasz egyet.
• De nem ír alá, nem rendel el, nem fizet ki. Te igen.

A vezetői keret, ami a modul első leckéjéből tér itt vissza: amit delegálsz, azt is te aláírod. Pont, mint amikor egy junior kollégának kiadsz egy feladatot: a végeredményért te felelsz a főnököd, az ügyfél, a szabályozó előtt.

Ez ugyanaz a felelősség, csak most agent-kontextusban. Az AI-felhasználó-vezetővé válásnak ez a legfájdalmasabb pontja: a felelősséget nem szabad átruházni. A kényelmes kibúvó („majd a modell eldönti") egyenlő azzal, mintha egy elrontott üzleti döntés után másra mutogatnál. Szakmaiatlan, és nem védi a vezetőt sem jogilag, sem reputációsan.

Két frontier-példa a harmadik modulból, a Perseverance marsjáró Claude-tervezte útvonala és a Maduro-művelet, dokumentáltan human-in-the-loop maradt: a végső döntés mindkét esetben emberé volt. A mindennapi szervezetben a kérdés inkább az, hogy ez a jóváhagyás valódi-e, vagy csak papíron létezik. Egy pénzügyi jóváhagyási folyamatban az AI-rendszer előkészítheti és pontozhatja a hitelkérelmeket, a végső döntés viszont emberi jóváhagyó kezében marad. Ha a jóváhagyó a gyakorlatban mindig rákattint anélkül, hogy érdemben átnézné az indoklást, a human-in-the-loop formálisan megvan, ténylegesen nem véd senkit. Ugyanez igaz egy orvosi döntéstámogató rendszerre: a szoftver javasolhat diagnózist vagy kezelési tervet, de a felelősség az orvosé marad, és ez a felelősség csak akkor valódi, ha az orvosnak ténylegesen van ideje és lehetősége megkérdőjelezni a javaslatot. A 4-es érettségi szint operatív környezetekben azt jelenti, hogy a feladat-komplexitás magas, a human-in-the-loop viszont csak annyit ér, amennyire a szervezet ténylegesen ki is kényszeríti. A modell nem dönthet egyedül, de a felügyelet minősége emberi felelősség marad.

A produktív szkepszis

Használd bátran, közben tartsd nyitva a szemed. Három ökölszabály, amit minden AI-jal előkészített döntésnél alkalmazunk:

1. Számokat ellenőrizz. A modell hallucinálhat százalékokat, dátumokat, mennyiségeket. Egy klikknyire van az igazolás.
2. Forrásokat kérj. „Adj meg URL-t, paragrafust, cikket, amit ellenőrizhetek." Ha a modell nem tud forrást adni, a választ is fenntartással kezeld.
3. Ha rosszul tévedne, mennyi a kár?
   • Kis kár (egy bekezdés újraírása) → menj rá, nincs gond.
   • Közepes kár (ügyfélnek kimenő email tartalma) → ellenőrizd küldés előtt.
   • Nagy kár (szerződéses kötelezettség, jogi nyilatkozat, orvosi tanács) → embert a döntés-pontba.

Ez vezetői gondolkodás: a kis-tét feladatokon hagyod hibázni a modellt (úgy tanulod meg, mikor bízhatsz benne), a nagy-tét feladatoknál ellenőrzöl mindent. Kis kárra rá, nagy kárra embert.