Európska komisia predstavila balík Digital Omnibus, ktorý posúva účinnosť prísnych pravidiel pre umelú inteligenciu s vysokým rizikom. Ak návrh prejde, dodávatelia aj používatelia AI nástrojov vrátane škôl a vzdelávacích inštitúcií získajú viac času prispôsobiť sa novým pravidlám.
Komisia navrhla posunúť účinnosť pravidiel pre umelú inteligenciu s vysokým rizikom z augusta 2026 na december 2027. Tento krok je súčasťou širšieho balíka zmien, ktoré upravujú digitálne pravidlá v Európskej únii. Prípadná zmena je dôležitá aj pre školy, ktoré stále intenzívnejšie pracujú s rôznymi AI nástrojmi.
Čo sú systémy s vysokým rizikom
Väčšina AI nástrojov, ktoré učitelia používajú pri príprave hodín, vytváraní materiálov, komunikácii alebo podpore žiakov, nepatrí medzi systémy s vysokým rizikom. Do tejto kategórie patria najmä nástroje, ktoré môžu významne ovplyvniť prístup žiaka k vzdelaniu alebo jeho hodnotenie.
Ide o riešenia, ktoré by napríklad rozhodovali o prijímaní žiakov na školu, automaticky hodnotia testy bez ľudského dohľadu alebo monitorujú správanie počas skúšok. Práve tieto typy systémov podliehajú najprísnejším pravidlám.
Systémy AI s vysokým rizikom v oblasti vzdelávania a odbornej prípravy:
- na určovanie prístupu alebo prijatia, na prideľovanie osôb do inštitúcií alebo programov vzdelávania a odbornej prípravy na všetkých stupňoch,
- na hodnotenie učebných výsledkov osôb,
- na posúdenie primeranej úrovne vzdelania pre jednotlivca a podstatné ovplyvňovanie úrovne vzdelávania a odbornej prípravy, ktoré jednotlivci dostanú alebo ku ktorým budú mať prístup,
- na monitorovanie a odhaľovanie zakázaného správania študentov počas testov.
Aké budú povinnosti školy pri nasadení systému s vysokým rizikom:
- zabezpečiť ľudský dohľad na výstupmi systému,
- informovať žiakov (a zákonných zástupcov), študentov o použití umelej inteligencie,
- kontrolovať kvalitu dát, monitorovať prevádzku, manažovať riziká, viesť záznamy.
Ako môže dôjsť k posunu termínov
Navrhovaný odklad je iniciatívou Európskej komisie, ktorú musí potvrdiť Európsky parlament a Rada Európskej únie. Posun termínov začne platiť až po ich súhlase. Ak sa parlament alebo rada nedohodnú, ostáva v platnosti pôvodný harmonogram.
Prípadný odklad by dal školám viac priestoru na prípravu. Ministerstvo školstva odporúča, aby si už teraz vytvorili prehľad všetkých AI nástrojov, ktoré používajú, a určili osobu zodpovednú za ich sledovanie, bezpečnosť a posudzovanie, či patria medzi vysokorizikové systémy.
Zároveň by mali mať jasné pravidlá, ako informujú rodičov a žiakov o používaní AI a o tom, ako tieto nástroje vplývajú na učenie a výsledky.
Odporúčame
TUKE a STU spúšťajú prvý spoločný program v umelej inteligencii na Slovensku
Ministerstvo chce do konca roka sprístupniť AI nástroje pre všetkých učiteľov na Slovensku
