Célegyenesben a mesterséges intelligenciáról szóló rendelet

Szerző: | 2023. 06. 19. | Banki és fintech hírek, mesterséges intelligencia, Összes hír, technológia

BankTechShow | A jövő digitális bankja

Az Európai Parlament plenáris ülése elfogadta a mesterséges intelligencia rendelet parlamenti bizottságok által javasolt szövegtervezetét. Néhány – például a magas kockázatú MI alkalmazások körét érintő – kérdésben azonban folytatódik a vita az intézményközi egyeztetéseken. A jogszabály végső szövege a spanyol elnökség alatt kerülhet kialakításra és kihirdetésre.

Az Európai Parlament plenáris ülése június 14-én elsöprő többséggel fogadta el a mesterséges intelligenciára vonatkozó rendelettervezetet, így az az utolsó jogalkotási szakaszba érkezett.

Ebben a szakaszban az európai parlamenti képviselők intézményközi tárgyalásokat folytatnak az európai kormányokat képviselő Miniszterek Tanácsával és az Európai Bizottsággal.

A jogszabály végső szövegének egyeztetését követően kerülhet kihirdetésre a világ első, átfogó mesterséges intelligenciáról szóló szabályozása.

Legfontosabb változások a parlamenti bizottsági viták során

1. Elfogadták a mesterséges intelligencia jövőbemutató definícióját

A szabályozás legfontosabb alapköve a mesterséges intelligencia definíciója, hiszen ez határozza meg a szabályozás hatályát, kiterjedését. A végső szövegtervezetbe – több definíciós javaslat megvitatása után – az OECD jövőbetekintő definíciója került:

“‘Artificial intelligence system’ (AI system) means a machine-based system designed to operate with varying levels of autonomy and that can, for explicit or implicit objectives, generate outputs such as predictions, recommendations, or decisions, that influence physical or virtual environments.”

Mesterséges intelligencia rendszer” (AI rendszer): olyan gépi alapú rendszer, amelyet úgy terveztek, hogy különböző szintű autonómiával működjön, és amely explicit vagy implicit célok érdekében képes olyan kimeneteket, például előrejelzéseket, ajánlásokat vagy döntéseket létrehozni, amelyek befolyásolják a fizikai vagy virtuális környezetet.”

2. Változtatásokat hagyott jóvá a Parlament a magas kockázati kategóriájú MI alkalmazások körében és egyes esetekben a kapcsolódó szabályozási kötelezettségek tekintetében.

A jogszabály kockázatalapú megközelítést követ, amelynek alapja a mesterséges intelligencián alapuló alkalmazások emberi életre gyakorolt hatásának felmérése.

A különböző kockázati szintekhez a kockázat növekedésével szigorodó kötelezettségeket rendelt a szabályozó.

Kockázati kategóriák:

1. Elfogadhatatlan kockázatú MI alkalmazások és rendszerek

A tervezett szabályozás azokat sorolja ebbe a kategóriába, amelyek az emberre veszélyesek.

  • Ide tartoznak az emberek viselkedésének manipulációjára, vagy az emberek társadalmi-gazdasági státusz, vagy akár személyes jellemzők alapján történő osztályozására alkalmas megoldások, rendszerek.
  • Ide tartoznak pl. a valós idejű biometrikus azonosítási rendszerek is.
  • A tervezett szabályozás ezen alkalmazások piaci bevezetését, forgalmazását tiltja.

2. Magas kockázatú MI rendszerek

Azok a rendszerek, amelyek alkalmasak a biztonság vagy az alapvető jogok negatív befolyásolására. Az ilyen rendszerek alkalmazását többek között szigorúbb adatvédelemhez, tájékoztatási kötelezettséghez, emberi felügyelet alkalmazásához és előzetes megfelelőségértékeléshez köti a tervezet.

A magas kockázatú rendszereknél két kategóriát alkalmaz a tervezett szabályozás:

1) Azon MI-rendszerek, amelyek az Unió termékbiztonsági jogszabályai hatálya alá tartozó termékekben kerülnek alkalmazásra, pl. közlekedés, orvosi eszközök terén.

2) Az alábbi területeken alkalmazott MI rendszerek:

  • természetes személyek (távoli, nem valós idejű) biometrikus azonosítása és kategorizálása,
  • kritikus infrastruktúra kezelése és üzemeltetése,
  • oktatás és szakképzés,
  • foglalkoztatás, munkavállalók irányítása,
  • hozzáférés az alapvető magán-, valamint a közszolgáltatásokhoz,
  • bűnüldözés,
  • migráció, menekültügy és határellenőrzés kezelése,
  • segítségnyújtás a jogértelmezésben és a jogalkalmazásban.

A pénzügyek területén ide sorolja a szabályozás például a távoli biometrikus azonosítást, hitelképesség vizsgálatot, biztosítás scoringot.

3. Korlátozott kockázatú MI rendszerek

Ezen rendszereknek és alkalmazásoknak olyan átláthatósági követelményeknek kell megfelelniük, amelyek lehetővé teszik a felhasználók számára a megalapozott döntést. Az alkalmazásokat úgy kell kialakítani, hogy a felhasználó – az alkalmazással történő kapcsolatba kerüléskor – eldönthesse, szeretné-e azt tovább használni (tájékoztatási kötelezettség).

  • Ide tartoznak többek között a kép-, hang- vagy videotartalmat generáló vagy módosító rendszerek ( pl. “deepfakes”).

4. Minimális kockázatú MI alkalmazások

Ezen rendszerek (pl. spam szűrő) esetében nem határoz meg külön kötelezettséget a tervezett szabályozás.

A parlamenti bizottságok vitái során változás történt a magas kockázatú kategóriába tartozó mesterséges intelligencia-alkalmazások körében.

  • A bűnüldözés és a migráció ellenőrzése területén pontosították és kibővítették az ide tartozó területek és felhasználási esetek listáját.
  • A közösségi média platformok számára nem jó hír, hogy a DSA szerint “very large online platform” kategóriába sorolt közösségi média cégek ajánlórendszerei is a magas kockázatú csoportba kerültek.
  • A magas kockázatú mesterséges intelligencia alkalmazásokat fejlesztő és szolgáltató társaságok számára a kockázatkezeléssel, adat menedzsmenttel és műszaki dokumentációval kapcsolatos kötelezettségek szigorúbbá válnak.

Továbbá, új követelményeket vezettek be az alapvető jogok gyakorlására – különösen a kisebbségben lévő csoportok esetében – vonatkozó hatásvizsgálatok elvégzésére és a környezeti hatások nyomon követésére vonatkozóan.

A határokon átnyúló ügyek koordinációjának támogatására létrehozták a mesterséges intelligenciával foglalkozó hivatalt, bár a hatóságokon belüli viták rendezésének kritikus felelőssége a Bizottságra maradt.

3) Tiltott gyakorlatok

A parlamenti plenáris vitában az utolsó pillanatban számos módosítást kezdeményeztek a parlamenti bizottságok által már elfogadott szövegen. A módosítási kísérletek leginkább az elfogadhatatlan kockázatú, ezért tiltott mesterséges intelligencia-alkalmazások típusainak határvonalát érintették.

A fő vitapont a távoli biometrikus azonosításhoz kapcsolódott. Egyes parlamenti tagok a technológiának a valós idejű használatának betiltása mellett érveltek, ugyanakkor engedélyezték volna használatát a súlyos bűncselekmények utólagos vizsgálatánál. Más parlamenti képviselők a valós idejű biometrikus azonosítás használatának tilalma alól kivették volna pl. a terrortámadások esetén vagy eltűnt személyek keresésekor történő használatát.

Ezek a módosítási kísérletek kudarcba fulladtak; a plenáris szavazás során a bizottsági szinten elfogadott szövegen kívül minden más módosítást elutasítottak.

4) Alapmodellek és generatív mesterséges intelligencia

Az uniós jogalkotók

többszintű megközelítést vezettek be az úgynevezett általános célú (General Purpose) mesterséges intelligenciára, és szigorúbb szabályozást vezettek be az alapmodellekre, a nagy nyelvi modellekre,

amelyekre más mesterséges intelligencia-rendszerek építhetők.

A legfelső szint a generatív mesterséges intelligenciára vonatkozik, mint például a ChatGPT. Ezekben az esetekben

az Európai Parlament kötelezővé tenné az AI által generált tartalmak megjelölését (címke) és kikényszerítené a szerzői jogvédelem alatt álló tréning adatok nyilvánosságra hozatalát.

A ChatGPT piacra kerülésével a generatív mesterséges intelligencia tömeges figyelmet kapott. Ezért az Európai Bizottság kísérletet tesz arra, hogy előretekintő szabályozási normákat alkosson legalább az alapmodellek és a generatív mesterséges intelligencia alkalmazása tekintetében, valamint ösztönzi a szabályozás harmonizációs a G7 csoporttal.

Következő lépések

A jogszabály a 2023 július 1-jével induló soros spanyol elnökség időszaka alatt kerülhet legkorábban kihirdetésre annál is inkább, mert az spanyol elnökség prioritásai között szerepel a mesterséges intelligenciáról szóló szabályozás befejezése.

Ahogy a Parlamenti vitából és módosítókból is látszik, a háromoldalú egyeztetések során a nagy kockázatú kategóriák tartalma, az alapvető jogok kezelése és az alapmodellek megítélése és kapcsolódó követelmények köre áll majd a viták középpontjában.

Címlapfotó forrása: stock.adobe.com – Licenc: FinTech Group Kft.

BankTechShow | A jövő digitális bankja
BankTechShow

A fintechzone.hu kiadója a FinTech Group Kft.
“A digitális pénzügyi technológiák, FinTech szolgáltatások terjedését segítjük.”
Web: fintechgroup.hu

Aktuális cikkeink:

A szerzőről

Németh Monika

A Magyar Telekomnál szabályozással, majd “smart” projektekkel foglakozott. A pénzügyi szektorban végmenő digitális transzformáció kísértetiesen hasonlít a telko iparág átalakulására, így korábbi tapasztalatait most a digi pénzügyek világában hasznosítja. Ha ma lenne óvodás, akkor a PSD2 lenne belevarrva a takarójába. A #regtech trendeket és megoldásokat is vizsgálja a szabályozói kihívások mellett. #banktech #regtechguru

KÖVETKEZŐ ESEMÉNY

PAYTECHSHOW 5.0

KEDVEZMÉNYES JEGYÁR:
02.29-IG

FinTechShow-7.0

Terítéken a legújabb elektronikus fizetési trendek, megoldások, iránymutatások

2024. április 16.

Budapest Kongresszusi Központ

TOVÁBBI ESEMÉNYEINK

FINTECHSHOW 8.0: Minden, ami fintech | 2024.10.15.

BANKTECHSHOW 2.0: Megoldások a jövő digitális bankjához | 2024.11.26.