Az új szabályok tiltják az olyan MI-alkalmazásokat, amelyek sérthetik az állampolgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan töltenek le. Tiltják továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszerek alkalmazását, az állampolgárok mesterséges intelligencia révén történő, társadalmi hovatartozásukra, vagy előélükre alapozott kockázati besorolását, valamint az olyan rendszerek használatát, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.

A távoli biometrikus azonosító (RBI) rendszereket - néhány különleges kivételtől eltekintve - a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos - a bűnelkövetés tényének megállapítását követő - használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.

Más, magas kockázatú mesterségesintelligencia-rendszerekre is egyértelmű kötelezettségek vonatkoznak. Ezek közé tartoznak például a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások a bűnüldözés, a migráció és a határigazgatás, az igazságszolgáltatás és a demokratikus folyamatok egyes rendszerei. Az ilyen rendszerek használatánál, értékelni és csökkenteni kell a kockázatokat, naplót kell vezetni a használatról, és biztosítani kell az emberi felügyeletet. Az állampolgároknak joguk lesz panaszt tenni a mesterséges intelligencia rendszerekkel kapcsolatban, és magyarázatot kaphatnak a magas kockázatú mesterséges intelligencia rendszereken alapuló, a jogaikat érintő döntésekről.

Az általános célú mesterségesintelligencia-rendszereknek és az általuk használt MI-modelleknek átláthatósági követelményeknek kell megfelelniük, többek között az uniós szerzői jognak és a képzéshez használt tartalmak részletes összefoglalóinak közzé kell tenni. A nagyobb teljesítményű, rendszerkockázatot jelentő MI-modellekre további követelmények vonatkoznak, többek között a modellértékelések elvégzése, a rendszerkockázatok értékelése és mérséklése, valamint az incidensekről való jelentéstétel.

Az új jogszabály szerint, az uniós tagállamokban szabályozói tesztkörnyezetet kell létrehozni és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kis-és középvállalkozásokat, és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki.

A jogszabály végleges szövegét még a tagállamokat tömörítő tanácsnak is hivatalosan jóvá kell hagynia, majd közzéteszik az EU hivatalos közlönyében. A rendelet a közzététel utáni huszadik napon lép hatályba.

"Fontos lépés a mai, hiszen egy olyan jogalkotási folyamat végére tettünk pontot, amely lefekteti a mesterséges intelligencia használatának jogi kereteit, szolgálva az uniós állampolgárok és vállalkozások érdekeit" - mondta Tóth Edina fideszes EP-képviselő a jogszabály elfogadásával kapcsolatban. Hidvéghi Balázs, a Fidesz uniós parlamenti képviselője szerint az új szabályok segítik a mesterséges intelligenciával szembeni állampolgári félelmek kezelését és az emberek MI iránti bizalmának növelését.

A képviselők kiemelték: emberközpontú szabályozás született, amely a fogyasztók védelmére helyezi a hangsúlyt, ugyanakkor teret enged az innovációnak, a gazdasági lehetőségek kiaknázásának is. "Számunkra mindvégig kiemelt szempont volt, hogy a mesterséges intelligencia uniós szabályozása amellett, hogy az emberek biztonságát helyezze a középpontba és kezelje az MI használatával kapcsolatban felmerülő kockázatokat, egyúttal tisztességes versenyfeltételeket is biztosítson a digitális kkv-k számára"" - mondták el az EP-képviselők.

Tóth Edina hozzátette: fontos, hogy az MI Európán belüli fejlesztése és alkalmazása maradjon emberi felügyelet alatt, legyen biztonságos, átlátható és megkülönböztetésmentes, illetve a társadalom és a környezet jólétét szolgálja. Bízom benne, hogy az elfogadott szabályozás ösztönözni fogja a szektort érintő beruházásokat és innovációt Magyarországon" - tette hozzá az EP-képviselő.