Az EU AI Törvény. Hogyan szabályozza Európa a mesterséges intelligencia használatát | AI az üzletben #68

Mi az AI törvény, és miért fontos a KKV-k (kis- és középvállalkozások) számára?

Az AI törvény a világ első olyan szabályozása, amely átfogóan foglalkozik a mesterséges intelligenciával, emberközpontú megközelítéssel. Célja, hogy biztosítsa, hogy az Európában használt AI rendszerek biztonságosak legyenek és ösztönözzék az innovációt, miközben tiszteletben tartják az alapvető jogokat, különös figyelmet fordítva a következőkre:

• egészségügy – például a betegadatok magánéletének tiszteletben tartása,
• oktatás – az Európai Unió által támogatott értékek betartása és a diszkrimináció elkerülése,
• határvédelem – a biztonság biztosítása a polgárok jogainak megsértése nélkül,
• közszolgáltatások – a legjobb gyakorlatok követése az adatvédelem, az információhoz való jog és a világos kommunikáció terén.

A KKV-k számára az AI törvény elsősorban nagyobb jogi bizonyosságot hoz, mivel világosan meghatározza az innováció kereteit: az AI rendszerek tervezésének, fejlesztésének és alkalmazásának elveit. Megkönnyíti a cégek számára az AI-alapú megoldásokba való befektetést, csökkentve a jogi kockázatokat. Ezenkívül az egész Unióra vonatkozó szabályozások megakadályozzák a piaci fragmentációt.

A mesterséges intelligenciára vonatkozó európai szabályozásokat az Európai Parlament és az Európa Tanács 2023. december 9-én fogadták el. Most mindkét intézménynek hivatalosan is el kell fogadnia őket ahhoz, hogy hatályba lépjenek.

Az AI törvény kulcsfontosságú aspektusai az üzleti élet számára

Az EU AI törvény egy sor követelményt vezet be az AI rendszerek számára, a kockázat szintje alapján. Ezek a követelmények többek között a következőket tartalmazzák:

• a transzparencia kötelezettsége és a felhasználók értesítése chatbotokkal, biometrikus rendszerekkel vagy érzelemfelismerő technológiákkal való interakció esetén,
• érzékeny attribútumok biometrikus kategorizálás céljából történő használatának tilalma,
• kötelező megfelelőségi értékelés a piacra lépés előtt a magas kockázatú rendszerek esetén,
• kötelező nyilvántartás az EU adatbázisában – az AI törvény hatályba lépése után a kulcsfontosságú szektorokban, mint az oktatás, foglalkoztatás, egészségügy és a jogi végrehajtás, használt AI rendszerek regisztrálása kötelező lesz.

A gyártóknak és az AI rendszereket használó cégeknek is kötelező lesz a kockázatok figyelemmel kísérése a piacra lépés után. Ez közvetlen hatással lesz az AI rendszerek tervezésével és megvalósításával foglalkozó cégekre.

Az AI rendszerek kockázati szintjei az EU AI törvény szerint

Az AI törvény négy kategóriába sorolja az AI rendszereket a kockázat szintje alapján:

1. Elfogadhatatlan kockázat
2. Magas kockázat
3. Korlátozott kockázat
4. Minimális kockázat

Nézzük meg közelebbről, hogyan lesznek meghatározva az egyes csoportok, példákkal a rendszerekre és azok osztályozására.

Elfogadhatatlan kockázat

Az Európai Unió teljes tilalmat rendel el az AI törvényben elfogadhatatlan kockázatú rendszereként felsorolt technológiák használatára. Ezek főként olyan rendszerek, amelyek az egyének javaslatokra való fogékonyságát manipuláció vagy megtévesztés céljából kihasználják, olyan rendszerek, amelyek mesterséges intelligenciát adnak döntéshozatali képességgel kritikus ügyekben, és azok, amelyek hatalommal való visszaéléshez vezethetnek. Az elfogadhatatlan kockázatú AI példái a következők:

• emberi felügyelet nélküli autonóm fegyverek,
• hitelesség-értékelő rendszerek, amelyeket a jogi végrehajtó ügynökségek használnak,
• automatikus azonosító rendszerek nyilvános helyeken, például megfigyelő kamerák felvételei alapján,
• olyan mesterséges intelligencia rendszerek, amelyek károsak lehetnek a fizikai vagy mentális fogyatékkal élők számára,
• jogi végrehajtási célokra használt AI, korlátozott kivételekkel,
• olyan mesterséges intelligencia rendszerek, amelyek káros “szubliminális” és manipuláló technikákat alkalmaznak.

A vállalkozások számára az utolsó kategória különösen fontos. Ezért a felhasználóknak javaslatokat adó rendszerek működésének átláthatósága kulcsfontosságú lesz az Európai Unió új jogszabályainak való megfeleléshez.

Magas kockázat

A magas kockázatú AI megoldásként besorolt mesterséges intelligenciának szigorú követelményeknek kell megfelelnie a piacra lépés előtt. Ez megfelelőségi értékeléseket és szigorú tesztelést igényel a használat jóváhagyása előtt. Ez a kockázati kategória nyolc területet foglal magában, például:

• autonóm járművek,
• orvosi diagnosztikai rendszerek,
• prediktív algoritmusok, amelyek támogatják az igazságszolgáltatást,
• migrációs és menedékjogi kezelés, határellenőrzés, valamint
• foglalkoztatás és munkaerő-gazdálkodás.

Korlátozott kockázat

A korlátozott kockázatú rendszerek, amelyeket leggyakrabban üzleti célokra használnak, a jogalkotók szerencsére sokkal kevesebb figyelmet kaptak. Ez a kategória a következőket tartalmazza:

• AI chatbotok – amelyek ügyfélszolgálatra vagy gyakran ismételt kérdések megválaszolására szolgálnak szabadon folyó beszélgetés formájában,
• érzelemfelismerő rendszerek – például a vásárlói vélemények adatainak összegyűjtésére,
• biometrikus kategorizáló rendszerek – például a vásárlók nemének vagy korának felmérése egy fizikai boltban,
• kép-, audio- vagy videógenerálás – a deep fake-ek által jelentett fenyegetés ellenére ez a terület korlátozott kötelezettségek alá fog tartozni.

Alacsony vagy minimális kockázat

Az alacsony kockázatú AI megoldások nem tartoznak jogi szabályozás alá. Az AI törvény csak annyit említ, hogy az ilyen megoldások készítőinek és felhasználóinak önkéntesen kell használati politikákat kialakítaniuk. Ez olyan megoldásokra vonatkozik, mint:

• tartalomajánló rendszerek streaming szolgáltatásokban, vagy
• weboldalakon található chatbotok, amelyek a tipikus vásárlói kérdésekre válaszolnak.

Milyen követelményeket támaszt az AI törvény a cégem által használt megoldásokkal szemben?

Ahhoz, hogy ellenőrizze, hogy a cég által használt mesterséges intelligencia megfelel-e az AI törvénynek, a következőket kell tennie:

• besorolni az előbb említett négy kockázati kategória egyikébe,
• ha magas kockázatú AI, végezzen megfelelőségi értékelést,
• alkalmazza a jó gyakorlatokat az alacsony kockázatú AI esetében.

Nézzük meg a cégek által gyakran használt AI megoldások példáit. Milyen követelményeknek kell megfelelniük?

Ügyfélszolgálati chatbot, amely alapvető információkat nyújt a termékekről vagy válaszol a tipikus vásárlói kérdésekre, valószínűleg minimális kockázatú rendszernek minősül. Szükséges lesz:

• értesíteni a felhasználókat, hogy AI-val lépnek interakcióba,
• lehetőséget biztosítani arra, hogy egy emberi tanácsadóhoz irányítsák őket,
• betartani az átláthatóságra, diszkriminációmentességre stb. vonatkozó általános követelményeket.

Termékajánló rendszer az e-kereskedelemben valószínűleg alacsony kockázatú rendszernek minősül. Szükséges lesz értesíteni a vásárlókat, hogy személyre szabott ajánlásokat kapnak, és lehetőséget biztosítani az ajánlások letiltására.

Másrészt, automatikus orvosi diagnosztikai rendszer magas kockázatú rendszernek lesz besorolva. Szigorú értékelésen kell átesnie a piacra lépés előtt, és emberi felügyelet alatt kell állnia. Ezenkívül szükséges lesz a működésének figyelemmel kísérése és az incidensek jelentése.

A városi bűnmegelőző rendszert is magas kockázatúnak fogják tekinteni. Meg kell felelnie a magánélet védelméről és más alapvető jogokról szóló szabályozásoknak. Működésének folyamatos emberi felügyelet alatt kell állnia.

Nem világos, hogy az AI-alapú döntéshozatali rendszerek melyik kategóriába fognak tartozni. Valószínű, hogy egy AI-alapú toborzási rendszer, amely önállóan hoz döntéseket a felvételről, elfogadhatatlan kockázatú AI megoldásnak minősül. Másrészről, egy toborzási támogató rendszer, amely segíti az embereket a munkájuk elvégzésében, magas kockázatú megoldásnak számítana.

A felhasználók jóléte, valamint a lehetséges osztályozási változások érdekében nagyon fontos, hogy az AI rendszerek tervezését és használatát etikus és felelős módon közelítsük meg a kezdetektől fogva.

Mik lesznek a következményei az AI törvény be nem tartásának?

Az AI törvény be nem tartása jelentős bírságokhoz vezethet a cégek számára, amelyek 35 millió eurótól vagy a globális forgalom 7%-ától a nagyvállalatok esetében, 7,5 millió eurótól vagy 1,5%-tól a KKV-k esetében terjedhetnek. A jogellenes AI rendszereket eltávolíthatják a piacról, és használatukat korlátozhatják.

Hogyan készüljünk fel az AI törvény hatályba lépésére?

Hogyan készítheti fel a mesterséges intelligenciát használó céget az AI törvény 2025-ös hatályba lépésére? Íme néhány tipp, hogyan készülhetnek fel erre a KKV-k és startupok:

• tartsák szemmel a munka előrehaladását és a szabályozások végrehajtásának idővonalát,
• értékeljék a már használt AI rendszereket, és alkalmazzák az új követelményekhez,
• különös figyelmet fordítsanak az etikai szempontokra az AI tervezése során.

Összefoglalás

Az AI törvény bevezetése nagy változást jelent az AI ökoszisztémában Európában. Azonban világos és következetes szabályokkal ígéri, hogy biztosítja ennek a technológiának a biztonságos és etikus fejlődését, amely különösen a KKV-k és startupok számára lesz előnyös.

Az AI törvény, amely 2025-ben lép hatályba, jelentős változásokat hoz abban, ahogyan a kis- és középvállalkozások (KKV-k) kihasználhatják a mesterséges intelligenciát. A KKV-k számára ez elsősorban a használt AI megoldások gondos mérlegelését és elemzését jelenti, mind a szabályozásoknak való megfelelés, mind a vásárlókra és a közösségre gyakorolt potenciális hatás szempontjából.

A kisvállalkozás-tulajdonosoknak és menedzsereknek fontos megérteniük, hogy az AI rendszereik hogyan vannak kategorizálva a kockázat szempontjából, és milyen lépéseket kell tenniük ahhoz, hogy összhangba hozzák őket a közelgő szabályozásokkal. Például vegyük az ügyfélkezelésben vagy marketingben használt AI rendszereket, amelyeket korábban viszonylag szabadon használtak. Most alapos elemzésre lesz szükségük az AI törvénynek való megfelelés érdekében. Ez új lehetőségeket teremthet a technológiai jogi tanácsadásra specializálódott cégek számára, támogatva a KKV-kat az új követelményekhez való alkalmazkodásban.

Ha tetszik a tartalmunk, csatlakozzon aktív méheink közösségéhez a Facebookon, Twitteren, LinkedInen, Instagramon, YouTube-on, Pinterest-en, TikTokon.