Nariadenie EÚ o umelej inteligencii určuje pravidlá, aby sa AI vo vzdelávaní používala bezpečne a spravodlivo. Školy môžu využívať len také nástroje, ktoré sú transparentné, spoľahlivé a chránia osobné údaje.
Niektoré nástroje AI sú zakázané, iné patria medzi takzvané systémy s vysokým rizikom. Musia mať jasne určeného prevádzkovateľa či umožniť kontrolu rozhodnutí človekom.
Systémy s vysokým rizikom sú nástroje AI, ktoré môžu výrazne ovplyvniť život človeka. Napríklad môžu rozhodnúť o prijatí na školu, známke alebo prístupe k vzdelaniu.
Školy budú môcť používať len overené a bezpečné AI nástroje, ktoré spĺňajú pravidlá EÚ. Vo vzdelávaní musia fungovať pod ľudským dohľadom, byť transparentné a bezpečné.
Školy budú musieť sledovať, aké AI nástroje používajú, a posúdiť ich riziká. Mali by informovať žiakov a rodičov a vytvoriť si pravidlá na bezpečné používanie umelej inteligencie.
Zákaz používania AI nástrojov s neprijateľným rizikom. V školskom prostredí ide o nástroje, ktoré by napríklad manipulovali správanie žiakov, vytvárali skóre na základe profilovania, alebo sledovali ich správanie pomocou biometrie.
Od augusta 2026 sa budú uplatňovať povinnosti týkajúce sa systémov s vysokým rizikom. Ak školy takéto systémy používajú, musia zabezpečiť transparentnosť, ľudský dohľad, či dokumentáciu využívania týchto nástrojov.
Od augusta 2027 budú platiť dodatočné povinnosti pre systémy s vysokým rizikom, ak budú súčasťou iných regulovaných produktov (napríklad robotov, zdravotníckych pomôcok, elektronických zariadení a podobne).
Vytvorte si prehľad nástrojov umelej inteligencie, ktoré sa vo vašej škole používajú. Určite osobu (napríklad školský digitálny koordinátor) zodpovednú za evidenciu a aktualizáciu používaných nástrojov. Preskúmajte, či používané nástroje patria do kategórie systémov s vysokým rizikom. Takéto nástroje budú od augusta 2026 podliehať prísnym pravidlám.
Väčšina bežne používaných nástrojov umelej inteligencie, napríklad na prípravu hodiny, návrhov testov, zjednodušenie či prispôsobenie učiva potrebám žiakov, nepatrí medzi systémy s vysokým rizikom. Pribúdajú však nástroje, ktoré ponúkajú pomoc pri hodnotení a známkovaní žiakov. Bude preto nevyhnutné zabezpečiť ľudský dohľad nad výstupmi AI systému. Najmä v prípadoch, ak by malo strojové hodnotenie vplyv napríklad na koncoročné výsledky žiaka. Posledné slovo musí mať vždy pedagóg, nie AI.
Informujte žiakov aj rodičov, keď používate AI systém, ktorý môže ovplyvniť hodnotenie výsledkov alebo rozhodovanie o budúcnosti žiaka. Vysvetlite, čo nástroj robí, čo nerobí a ako je pod kontrolou. Umožnite žiakovi alebo rodičovi požiadať o preskúmanie výsledku človekom.
Využívajte nástroje, ktoré dodržiavajú platné zásady ochrany osobných údajov (napríklad GDPR). Žiaci mladší ako 13 rokov by nemali samostatne využívať nástroje ako ChatGPT, Gemini alebo Copilot. Žiaci vo veku od 13 do 16 rokov môžu tieto nástroje využívať iba so súhlasom zákonného zástupcu so spracovaním osobných údajov.
Vytvorte v škole jasné a transparentné pravidlá používania nástrojov umelej inteligencie, vrátane etických usmernení pre žiakov aj zamestnancov školy.
Pravidelne (napríklad raz ročne) zhodnoťte, aké AI nástroje škola používa. Využívajte možnosti školení a vzdelávania pre pedagogických, odborných a dalších zamestnancov v oblasti digitálnych zručností a používania umelej inteligencie.
Regulačný rámec, ktorý zakazuje najnebezpečnejšie AI systémy, prísne reguluje tie s vysokým rizikom a zaisťuje transparentnosť aj inovácie v celej Európskej únii.
Usmernenie pre riaditeľov škôl k zodpovednému využívaniu AI vo vzdelávaní. Zdôrazňuje potrebu nastaviť spoločné pravidlá, chrániť súkromie žiakov, získavať súhlas rodičov a podporovať učiteľov.
Odporúčania pre pedagógov, ako bezpečne a zodpovedne zapájať umelú inteligenciu do výučby. Upozorňujú na potrebu otvorenej komunikácie, podporu kritického myslenia, bezpečné používanie technológií.
