Az AI-ügynökökről szóló vita eddig főként arról szólt, mire lesznek képesek ezek a rendszerek. A Google DeepMind új iránymutatása (AI Control Roadmap) már egy másik kérdést tesz fel:

mi történik akkor, ha egy autonóm AI-ügynök rossz irányba indul el?

A Google DeepMind nem abból indul ki, hogy az AI-rendszerek mindig pontosan az emberi szándék szerint működnek. Épp ellenkezőleg: konzervatív, kockázatkerülő megközelítést javasol, amely szerint

az AI-ügynökök köré több védelmi réteget kell építeni.

Ez fontos fordulópont az agentic AI-ról (magyarul a cselekvő AI-ról) szóló gondolkodásban. Eddig a legtöbb vállalati AI-projekt fókuszában a hatékonyság, az automatizálás és a felhasználói élmény állt.

A következő szakaszban viszont legalább ilyen fontos kérdés lesz,

milyen jogosultságokat kapnak az AI-ügynökök, ki felügyeli őket, hogyan lehet megállítani őket, és milyen gyorsan észlelhető, ha egy rendszer nem a várt módon működik.

Az AI hibázni fog – a kérdés, mi történik utána

A DeepMind kutatói a kiberbiztonságból ismert gondolkodásmódot ültetnék át az AI-ügynökök világába. A kiindulópontjuk az ellenőrzött bizalomépítés:

teljes bizalom helyett a rendszernek fokozatosan, igazolt működéssel kell kiérdemelnie a jogosultságait.

A Google hasonlata szerint

ez olyan, mint amikor az oktatóautóban az oktató megbízik a tanulóban, de bármikor át tudja venni a kormányt vagy rá tud lépni a fékre.

Az AI-ügynökök esetében ez azt jelenti, hogy a rendszer nem kap azonnal széles körű jogosultságokat. A hozzáférés fokozatos, kontrollált, és a viselkedés ellenőrzéséhez kötött.

Három kockázat: kontrollvesztés, szabotázs, közvetlen kár

A Google DeepMind három fő kockázati területet azonosít.

Az első a kontrollvesztés. Ez olyan helyzet, amikor egy belső környezetben működő AI-ügynök nem a várt célok szerint viselkedik, és a szervezet elveszíti felette a tényleges irányítást.

A második a munkafolyamatok szabotálása. Ez különösen érzékeny terület az AI-biztonsági kutatásokban, ahol egy hibás vagy szándékosan félrevitt eredmény később más rendszerek működésére is hatással lehet.

A harmadik a közvetlen károkozás. Ide tartozhat kritikus eszközök törlése, bizalmas adatok kiszivárogtatása vagy olyan műveletek végrehajtása, amelyeknek már technológiai, üzleti és jogi következményei is vannak.

A közös pont mindhárom esetben ugyanaz: ezeknek a rendszereknek a kockázata abból ered, hogy cselekedni is tudnak – nem pusztán abból, hogy hibázhatnak.

AI felügyeli az AI-t

A Google javaslata szerint a kockázatok mérséklésének egyik eszköze az lehet, hogy

megbízható AI-rendszerek felügyelik az ügynökök működését.

Ezek a felügyelő rendszerek folyamatosan vizsgálnák az AI-ügynökök érvelését, terveit és műveleteit. Ha azt észlelik, hogy az ügynök eltér a várt működéstől, vagy potenciálisan káros műveletet próbál végrehajtani, akkor közbeavatkozhatnak, és megállíthatják az adott folyamatot.

Miért fontos ez a pénzügyi szektornak?

Az AI-ügynökök megjelenése alapjaiban kérdőjelezi meg a jelenlegi digitális biztonsági logikát.

A PYMNTS szaklap által idézett adatok szerint az automatizált rendszerek már a globális webes forgalom 57,4%-át adják. Észak-Amerikában ez az arány 68,6%.

A korábbi védekezési logika viszonylag egyszerű volt: azonosítani kellett a botot, majd blokkolni.

Ez a modell azonban egyre kevésbé működik, mert a „gép” ma már nem feltétlenül támadó: lehet legitim ügyfél vagy az ügyfél nevében eljáró digitális asszisztens is.

Az AI-ügynökök böngésznek, fiókokat kezelnek, vásárlási folyamatokban vesznek részt, és ugyanazokat a digitális felületeket használják, amelyeket eddig a csalók is célba vettek.

Ez a pénzügyi intézmények számára azt jelenti, hogy a megkülönböztetendők köre tovább bővül: emberek, csalók és hagyományos botok mellett hamarosan a megbízható és a nem megbízható AI-ügynököket is szét kell tudniuk választani.

Hol tart az AI-kontrollban a szervezeted?

Ez a kérdés minden szervezetnél nagyon konkrét lesz. Az alábbi gyorsteszt hat kérdésben megmutatja, mennyire kontrollált és auditálható nálatok az AI-ügynökök működése, és megnevezi, a TechShow X. mely szekcióiban kaptok élő választ a leggyengébb pontjaitokra:

Felhasznált források: PYMNTS, Google Devises Battle Plan to Combat Rogue AI Agents, 2026.