Skip to main content

Ako používať AI
v škole bezpečne

Umelá inteligencia môže učiteľom uľahčiť prípravu, pomôcť žiakom pri učení a podporiť moderné riadenie školy. Aby však bola pre školu prínosom, potrebuje jasné pravidlá, ľudský dohľad, ochranu údajov a otvorenú komunikáciu so žiakmi aj rodičmi.

Táto stránka ponúka praktický návod pre vedenie škôl, učiteľov a odborných zamestnancov. Pomôže vám nastaviť používanie AI tak, aby bolo zmysluplné, bezpečné, férové a v súlade s hodnotami školy. Cieľom nie je AI zakázať ani používať za každú cenu, ale vedieť rozhodnúť, kedy pomáha učeniu a kedy je potrebná opatrnosť.

Ako používať AI bezpečne

Ako začať s AI

Zistite, ktoré AI nástroje škola používa, na čo slúžia a kto za ne zodpovedá. Praktický rámec pomôže nastaviť používanie AI zrozumiteľne a bezpečne.

Otázky pred použitím

Pred používaním AI si položte otázky k férovosti, transparentnosti, inklúzii a pedagogickému prínosu. Pomôžu odhaliť riziká skôr, než sa dostanú do triedy.

Pravidlá EÚ o AI

Školy musia vedieť, kedy AI iba pomáha a kedy už môže ovplyvniť hodnotenie alebo prístup k vzdelaniu. Vtedy sú potrebné prísnejšie pravidlá aj informovanie.

6 zásad používania AI

Základné pravidlá, o ktoré sa môže škola oprieť pri tvorbe vlastných postupov, školského poriadku alebo internej smernice k používaniu AI.

AI má mať jasný
vzdelávací účel

AI používajte tam, kde podporuje učenie, tvorivosť, spätnú väzbu, inklúziu alebo znižovanie administratívnej záťaže. Pred použitím nástroja si vždy položte otázku: čo sa má žiak naučiť a ako mu v tom AI pomôže?

Posledné slovo
má človek

Výstupy AI vždy kontroluje učiteľ alebo poverený zamestnanec školy. AI môže navrhovať, sumarizovať alebo odporúčať, ale nemá samostatne rozhodovať o hodnotení, podpore žiaka ani o jeho ďalšej vzdelávacej ceste.

Chráňte údaje
a súkromie žiakov

Do AI nástrojov nezadávajte osobné, zdravotné, rodinné ani iné citlivé údaje o žiakoch. Pri každom nástroji si overte, aké dáta zbiera, kde ich ukladá, ako dlho ich uchováva a či ich používa na ďalší tréning modelov.

Učte žiakov priznať
a overiť použitie AI

Žiaci by mali vedieť, kedy môžu AI použiť, ako majú jej pomoc označiť a prečo nesú zodpovednosť za výslednú prácu. Súčasťou výučby má byť overovanie zdrojov, hľadanie chýb a kritické premýšľanie nad výstupmi AI.

AI nesmie
prehlbovať nerovnosti

Škola má zabezpečiť, aby používanie AI nezvýhodňovalo len žiakov s lepším prístupom k technológiám alebo vyššími digitálnymi zručnosťami. Pri úlohách s AI ponúknite alternatívu a sledujte, či nástroj funguje férovo pre rôzne skupiny žiakov.

Pravidlá
pravidelne vyhodnocujte

AI sa rýchlo mení, preto nestačí nastaviť pravidlá raz. Škola by mala aspoň raz ročne zhodnotiť, aké nástroje používa, či sú bezpečné, či pomáhajú učeniu a či im rozumejú učitelia, žiaci aj rodičia.

Etické otázky v praxi

Navádzajúce otázky pomáhajú škole posúdiť, či je konkrétny AI nástroj vhodný, bezpečný a pedagogicky zmysluplný. Môžu slúžiť ako podklad pre pedagogickú radu, stretnutie vedenia školy, rozhovor s rodičmi alebo diskusiu so žiakmi.

Etické usmernenia pre pedagógov

Usmernenia Európskej komisie ponúkajú praktický návod, ako AI zavádzať do výučby zodpovedne, bezpečne a v súlade s pravidlami.

Stiahnuť usmernenia

Rámcový etický kódex pre školy

Rámcový etický kódex pre využívanie umelej inteligencie vo vzdelávaní určený pre základné a stredné školy.

Viac informácií

AI, pohoda a vzťahy: otázky pre školskú komunitu

AI, pohoda a vzťahy: otázky pre školskú komunitu

Keď AI urobí chybu: otázky k bezpečnosti a zodpovednosti

Keď AI urobí chybu: otázky k bezpečnosti a zodpovednosti

AI bez predsudkov: otázky k spravodlivosti a nediskriminácii

AI bez predsudkov: otázky k spravodlivosti a nediskriminácii

Dáta žiakov a AI: čo si má škola overiť

Dáta žiakov a AI: čo si má škola overiť

AI pre všetkých žiakov: otázky k férovosti a inklúzii

AI pre všetkých žiakov: otázky k férovosti a inklúzii

Ako transparentne používať umelú inteligenciu v škole

Ako transparentne používať umelú inteligenciu v škole

Človek má posledné slovo: otázky pre učiteľov a vedenie školy

Človek má posledné slovo: otázky pre učiteľov a vedenie školy

EÚ a umelá inteligencia

Čo má škola vedieť o Nariadení EÚ o umelej inteligencii? Nariadenie určuje, ktoré spôsoby používania AI sú neprijateľné a pri ktorých musí škola postupovať zvlášť opatrne.

Zakázané použitie AI

Niektoré použitia AI sú vo vzdelávaní zakázané, najmä ak ohrozujú práva žiakov alebo zneužívajú ich zraniteľnosť. Škola nemá používať nástroje, ktoré odvodzujú emócie, skryto ovplyvňujú správanie alebo priraďujú žiakom sociálne skóre.

Vysokorizikové systémy

AI nástroje, ktoré môžu ovplyvniť prijatie na školu, hodnotenie, vzdelávaciu dráhu alebo priebeh skúšok, patria medzi vysokorizikové. Škola musí vedieť, ako fungujú, aké riziká prinášajú a kto nad nimi vykonáva dohľad.

Zodpovednosť školy

Škola má vedieť, aké AI nástroje používa, na aký účel a s akými údajmi pracujú. Zároveň má mať jasné pravidlá, informovať učiteľov, žiakov a rodičov a zabezpečiť, aby o dôležitých otázkach rozhodoval človek.

Ako posúdiť riziko

Pri AI nástrojoch je dôležité rozlišovať, či pomáhajú pri bežnej práci, alebo môžu ovplyvniť práva, hodnotenie či vzdelávaciu dráhu žiaka. Čím väčší dopad má nástroj na žiaka, tým prísnejšie pravidlá a silnejší dohľad škola potrebuje.

Ktoré systémy AI
sú vo vzdelávaní zakázané?

  • Systémy AI, ktoré odvodzujú emócie osôb,
  • manipulatívne alebo klamlivé systémy,
  • systémy využívajúce zraniteľnosť osôb,
  • systémy pre sociálne skórovanie osôb,
  • biometrické systémy na odvodzovanie citlivých údajov.
Zistiť viac

Ktoré systémy AI sú vysokorizikové?

  • Systémy na určenie prístupu, prijatia alebo pridelenia osôb do inštitúcií vzdelávania,
  • systémy na hodnotenie vzdelávacích výstupov,
  • systémy na posúdenie primeranej úrovne vzdelania,
  • systémy na monitorovanie a zisťovanie zakázaného správania študentov počas skúšok.
Zistiť viac

Harmonogram

2025

Zákaz neprijateľných použití AI. V školskom prostredí ide napríklad o nástroje, ktoré by skryto manipulovali správanie žiakov, vytvárali sociálne skóre alebo odvodzovali citlivé údaje pomocou biometrických systémov.

2027

Od decembra 2027 sa budú uplatňovať povinnosti týkajúce sa systémov s vysokým rizikom. Ak školy takéto systémy používajú, musia zabezpečiť transparentnosť, ľudský dohľad a dokumentáciu používania týchto nástrojov.

2028

Od augusta 2028 budú platiť dodatočné povinnosti pre systémy s vysokým rizikom, ak budú súčasťou iných regulovaných produktov (napríklad robotov, zdravotníckych pomôcok, elektronických zariadení a podobne).