Legyünk körültekintőek a mesterséges intelligencia használatával kapcsolatban, mivel új szabályozások léptek életbe, amelyek súlyos büntetéseket vonhatnak maguk után.
A legújabb rendelet bevezetése új dimenziót ad a rendszerek értékelésének, hiszen kockázatalapú megközelítést alkalmaz. Ez azt jelenti, hogy a társadalomra gyakorolt lehetséges károk mértéke határozza meg a szabályozás szigorúságát: minél nagyobb a kockázat, annál szigorúbbak a követelmények. Az új szabályozás a mesterséges intelligencia különböző formáit aszerint kategorizálja, hogy milyen mértékű kockázatot hordoznak magukban.
A rendelet tehát kihat azokra a magyar vállalkozásokra, amelyek az Európai Unió területén mesterséges intelligencián alapuló rendszereket kínálnak, értékesítenek vagy üzemeltetnek. Emellett a cégek által alkalmazott MI-rendszerek átfogó vizsgálatának szükségessége is felmerül, hogy pontosan meghatározhassák a velük járó kockázatok besorolását.
A rendelet számos mesterséges intelligencia rendszert betilt, főként a bennük rejlő kockázatok miatt. Ezek közé tartozik például a kognitív manipuláció, valamint a társadalmi profilalkotás, amelyek képesek befolyásolni az emberek döntéseit és viselkedését. Emellett a biometrikus adatok alapján történő következtetések is tilalom alá esnek, különösen ha azok egy személy faji származását, vallási hovatartozását vagy szexuális orientációját érintik.
A hatályba lépett jogszabály négy kockázati kategóriát állít fel:
Az első kategóriába sorolhatók azok a manipuláló rendszerek és egyének, akik a tudatalattira gyakorolnak hatást, illetve azok, akik mások sebezhetőségét kihasználva igyekeznek előnyhöz jutni. Ide tartoznak továbbá a biometrikus adatokra épülő osztályozási rendszerek is. A második csoportban olyan eszközöket találunk, mint az oktatási és munkahelyi teljesítményértékelések, valamint az olyan rendszerek, amelyek képesek megállapítani, hogy egy személy jogosult-e bizonyos egészségügyi szolgáltatásokra, vagy éppen hogy milyen eséllyel pályázhat hitelre.
A harmadik kategóriába azok a tartalmak sorolhatók, amelyeket deep fake technológia vagy chatbotok hoztak létre. Ezen a területen kulcsfontosságú az átláthatóság, hiszen a felhasználóknak világosan tudniuk kell, hogy milyen mesterséges intelligencia áll a tartalom mögött. A legalsó kategóriába pedig olyan eszközök és alkalmazások tartoznak, mint a spam szűrők vagy a videójátékok, amelyek szintén a digitális világ részét képezik.
A Finextra által készített összegzés alapján az alábbi tevékenységek számítanak tiltottnak:
A rendelet értelmében a büntetések mértéke úgy van meghatározva, hogy az Európai Unió akár 35 millió eurós bírságot is kiszabhat, vagy az érintett szolgáltató éves globális árbevételének 7%-át képező összeget. Ez azonban kizárólag akkor történhet meg, ha a jogsértés súlyossága indokolja a keményebb fellépést.
Az uniós jogszabály egyik lényeges aspektusa, hogy minden szolgáltatóra kiterjed, függetlenül attól, hol található a székhelyük. Ez azt jelenti, hogy akár egy amerikai alapítású cég is, amely az európai piacon tevékenykedik, alá van vetve ennek a szabályozásnak. Érdekes, hogy míg az Egyesült Államokban még nem létezik hasonló szövetségi szintű szabályozás a mesterséges intelligenciára vonatkozóan, az európai jogalkotók már lépéseket tettek a terület biztonságosabbá tétele érdekében.
Az Egyesült Királyságban nemrégiben négy új törvény lépett hatályba, amelyek szigorúan tiltanak minden olyan mesterséges intelligencia alapú eszköz birtoklását, létrehozását vagy terjesztését, amely gyermekek szexuális zaklatására irányuló anyagok készítésére használható. A törvények értelmében a vétkesek akár öt évig terjedő börtönbüntetéssel is sújthatók, ezzel is hangsúlyozva a gyermekek védelmét és a társadalom felelősségét a visszaélések megelőzésében.
A brit belügyminiszter, Yvette Cooper a BBC-nek nyilatkozva kifejtette, hogy...
A kormány határozottan lépni fog a gyermekek online biztonságának védelme érdekében, és elkötelezett amellett, hogy jogszabályaink mindig lépést tartsanak a legfrissebb kihívásokkal.
Egy másik jogszabály bűncselekményként értékeli azokat a weboldalakat, ahol pedofilok gyermekekkel kapcsolatos szexuális visszaélésekkel kapcsolatos anyagokat oszthatnak meg. A határrendészetet felhatalmazzák arra, hogy ha gyanú merül fel, miszerint egy személy szexuális veszélyt jelenthet a gyermekek számára, akkor elrendelhetik, hogy az érintettek digitális eszközeik ellenőrzésére nyissanak hozzáférést.
Egyre aggasztóbb jelenség, hogy léteznek olyan szoftverek, amelyek a gyermekek bántalmazóit segítik, lehetővé téve, hogy valós fényképeken manipulációkat végezzenek. Ezek a programok képesek "lemezteleníteni" a képeket, és a gyermekek arcát egymásra cserélni, így rendkívül élethű hamisítványokat hozva létre. Az ilyen módon előállított képek sajnos gyakran szolgálnak zsarolásra, hogy a bántalmazók további visszaélésekre kényszerítsék az áldozatokat.
