V posledných týždňoch sa objavujú rôzne informácie o povinnosti zamestnávateľov preškoliť zamestnancov v oblasti umelej inteligencie (AI). Niektoré firmy dokonca rozposielajú pozvánky na povinné AI školenia, čím vytvárajú dojem, že ide o záväznú povinnosť, ktorú musia všetky organizácie splniť do februára 2025.
Čo hovorí legislatíva?
V oblasti AI je pre nás aktuálne smerodajné NARIADENIE EURÓPSKEHO PARLAMENTU A RADY (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie, známe aj ako Akt o umelej inteligencii (AI Act). Toto nariadenie nadobudlo účinnosť v auguste 2024, väčšina jeho ustanovení sa však začne uplatňovať až od 2. augusta 2026.
Niektoré ustanovenia však nadobudnú účinnosť skôr – nájdeme ich v článku 113. Konkrétne kapitoly I a II sa začali uplatňovať už od 2. februára 2025. V týchto kapitolách nájdeme aj zakázané praktiky využívajúce AI a požiadavky na gramotnosť v oblasti AI.
O čom sú zakázané AI praktiky?
Jednou z častí AI Act, ktorá platí už od februára 2025, je zákaz určitých praktík pri využívaní umelej inteligencie. Patria sem napríklad:
a) Keď môže dochádzať k manipulácii správania
- Príklad 1: Aplikácia na duševné zdravie využíva AI na odporúčanie riešení, pričom cielene podsúva určité produkty (napr. lieky alebo doplnky výživy) bez vedomia používateľa. Jemné farebné zmeny v rozhraní môžu viesť k podvedomému výberu platených služieb.
- Príklad 2: AI v online hre manipuluje pravdepodobnosť výhry tak, aby podporovala hráčsku závislosť a udržala hráča v hre čo najdlhšie.
b) Keď môžu byť zneužívané zraniteľnosti
Príklad 1: AI chatbot v aplikácii pre deti cielene odporúča platené nákupy alebo propaguje nevhodný obsah, pričom využíva ich obmedzené kritické myslenie.
Príklad 2: Banka analyzuje výdavky osôb so zdravotným postihnutím prostredníctvom AI a ponúka im úvery za nevýhodnejších podmienok, pretože ich považuje za „nízke riziko úteku“ (nižšia pravdepodobnosť zmeny banky).
A čo gramotnosť? Je potrebné do februára 2025 zabezpečiť školenie zamestnancov?
Nie je dôvod na paniku…