Skip to main content

Ako používať AI
v škole bezpečne

Umelá inteligencia môže pomôcť pri príprave výučby, učení žiakov aj organizácii práce školy. Aby bola prínosom, škola potrebuje vedieť, na čo AI používa, kto za jej používanie zodpovedá, aké údaje sú chránené a kedy musí rozhodnúť človek.

Táto stránka ponúka praktický postup pre vedenie škôl, učiteľov a odborných zamestnancov. Pomôže rozlíšiť bezpečné používanie AI od situácií, ktoré si vyžadujú väčšiu opatrnosť, jasné pravidlá alebo právne posúdenie.

Zistite, kde sa AI používa

Začnite prehľadom nástrojov, účelov a používaných údajov. Škola má vedieť, ktoré AI nástroje používa a kto vie vysvetliť ich prínosy a riziká.

Nastavte pravidlá

Pravidlá majú byť zrozumiteľné pre učiteľov, žiakov aj rodičov. Majú hovoriť, čo je povolené, čo nie a ako sa priznáva pomoc AI.

Rozlišujte mieru rizika

Iné pravidlá potrebuje nástroj na prípravu pracovného listu a iné nástroj, ktorý ovplyvňuje hodnotenie, skúšky alebo vzdelávaciu dráhu žiaka.

Ako začať s AI v škole

Škola nemusí začať veľkou stratégiou. Dôležité je, aby mala prehľad o tom, kde sa AI používa, kto za jej používanie zodpovedá, aké pravidlá platia a ako sa chránia žiaci.

1. Zmapujte používanie AI

Zistite, ktoré AI nástroje už používajú učitelia, žiaci alebo vedenie školy. Zapíšte si účel používania, typ údajov a osobu, ktorá vie používanie nástroja vysvetliť.

2. Nastavte školské pravidlá

Určte, kedy je používanie AI povolené, kedy nie, ako sa má priznať v žiackej práci a aké údaje sa do AI nástrojov nesmú zadávať.

3. Najprv používajte AI ako podporu

Najskôr používajte AI tam, kde pomáha s prípravou, spätnou väzbou, tvorbou materiálov alebo precvičovaním učiva, ale nerozhoduje o žiakovi.

4. Učte žiakov overovať výstupy AI

Žiaci aj učitelia majú vedieť, že výstupy AI môžu byť neúplné, nepresné alebo zaujaté. Súčasťou práce s AI má byť overovanie zdrojov a vysvetlenie vlastného postupu.

5. Informujte rodičov

Rodičia majú vedieť, ako škola pristupuje k AI, čo je pri školských úlohách povolené a ako škola chráni údaje a bezpečnosť žiakov.

Zásady používania AI

Tieto zásady môžu slúžiť ako základ pre školský poriadok, internú smernicu, pravidlá hodnotenia alebo diskusiu pedagogickej rady.

AI má mať jasný vzdelávací účel

AI používajte tam, kde podporuje učenie, tvorivosť, spätnú väzbu, inklúziu alebo znižovanie administratívnej záťaže. Pred použitím nástroja si vždy položte otázku: čo sa má žiak naučiť a ako mu v tom AI pomôže?

Posledné slovo má človek

Výstupy AI vždy kontroluje učiteľ alebo poverený zamestnanec školy. AI môže navrhovať, sumarizovať alebo odporúčať, ale nemá samostatne rozhodovať o hodnotení, podpore žiaka ani o jeho ďalšej vzdelávacej ceste.

Chráňte údaje a súkromie žiakov

Do AI nástrojov nezadávajte osobné, zdravotné, rodinné ani iné citlivé údaje o žiakoch. Pri každom nástroji si overte, aké údaje zbiera, kde ich ukladá, ako dlho ich uchováva a či ich používa na ďalší tréning modelov.

Učte žiakov priznať a overiť použitie AI

Žiaci by mali vedieť, kedy môžu AI použiť, ako majú jej pomoc označiť a prečo nesú zodpovednosť za výslednú prácu. Súčasťou výučby má byť overovanie zdrojov, hľadanie chýb a kritické premýšľanie nad výstupmi AI.

AI nesmie prehlbovať nerovnosti

Škola má zabezpečiť, aby používanie AI nezvýhodňovalo len žiakov s lepším prístupom k technológiám alebo vyššími digitálnymi zručnosťami. Pri úlohách s AI ponúknite alternatívu a sledujte, či nástroj funguje férovo pre rôzne skupiny žiakov.

Pravidlá pravidelne vyhodnocujte

AI sa rýchlo mení, preto nestačí nastaviť pravidlá raz. Škola by mala aspoň raz ročne zhodnotiť, aké nástroje používa, či sú bezpečné, či pomáhajú učeniu a či im rozumejú učitelia, žiaci aj rodičia.

Od pravidiel k praxi

Zodpovedné používanie AI nie je jednorazové rozhodnutie. Škola by mala mať jednoduchý ročný cyklus, v ktorom pravidlá nastaví, používa a upravuje podľa potrieb žiakov a učiteľov.

September

Zmapujte používané nástroje, určte zodpovednosť a pripomeňte základné pravidlá učiteľom aj žiakom.

Október

Schváľte alebo aktualizujte pravidlá používania AI a informujte rodičov o prístupe školy.

Počas roka

Zdieľajte príklady dobrej praxe, riešte otázky učiteľov a sledujte riziká pri používaní nástrojov.

Jún

Vyhodnoťte, čo fungovalo, čo spôsobilo problémy a čo treba upraviť v ďalšom školskom roku.

Etické otázky pre školu

Pred použitím konkrétneho AI nástroja si škola má položiť otázky k pedagogickému prínosu, ochrane údajov, férovosti, transparentnosti, ľudskému dohľadu a vplyvu na školské prostredie.

Pohoda a vzťahy: Ako AI vplýva na školské prostredie

Pohoda a vzťahy: Ako AI vplýva na školské prostredie

Zodpovednosť a riadenie: Jasný postup pri chybách

Zodpovednosť a riadenie: Jasný postup pri chybách

Spravodlivosť a nediskriminácia: Ako predísť zaujatosti AI

Spravodlivosť a nediskriminácia: Ako predísť zaujatosti AI

Dáta žiakov a AI: Čo si má škola overiť

Dáta žiakov a AI: Čo si má škola overiť

AI pre všetkých žiakov: Otázky k férovosti a inklúzii

AI pre všetkých žiakov: Otázky k férovosti a inklúzii

Transparentnosť: Ako nastaviť pravidlá

Transparentnosť: Ako nastaviť pravidlá

Ľudský dohľad: Rozhodnutia zostávajú na učiteľovi

Ľudský dohľad: Rozhodnutia zostávajú na učiteľovi

Užitočné odkazy

Etické usmernenia pre pedagógov

Usmernenia Európskej komisie ponúkajú praktický návod, ako AI zavádzať do výučby zodpovedne, bezpečne a v súlade s pravidlami.

Stiahnuť etické usmernenia

Rámcový etický kódex pre školy

Rámcový etický kódex pre využívanie umelej inteligencie vo vzdelávaní určený pre základné a stredné školy.

Viac informácií

Usmernenie pre pedagógov

Praktické odporúčania, ako pracovať s AI vo výučbe zodpovedne, bezpečne a s dôrazom na práva žiakov, kritické myslenie a férový prístup.

Usmernenie pre pedagógov

Usmernenie pre riaditeľov

Odporúčania, ako na úrovni školy nastaviť pravidlá, komunikáciu, rozvoj AI gramotnosti a zodpovedné zapájanie učiteľov aj žiakov do používania AI.

Usmernenie pre riaditeľov

EÚ a umelá inteligencia

Čo má škola vedieť o Nariadení EÚ o umelej inteligencii? Nariadenie rozlišuje medzi bežným používaním AI, zakázanými praktikami a vysokorizikovými systémami.

Zakázané použitie AI

Škola nemá používať nástroje, ktoré skryto ovplyvňujú správanie žiakov, zneužívajú ich zraniteľnosť, vytvárajú sociálne skóre alebo odvodzujú emócie a citlivé údaje spôsobom, ktorý ohrozuje ich práva.

Vysokorizikové systémy

Osobitnú opatrnosť vyžadujú nástroje, ktoré môžu ovplyvniť prijatie, hodnotenie, vzdelávaciu dráhu alebo priebeh skúšok. Pri nich škola potrebuje jasný účel, dokumentáciu, transparentnosť a ľudský dohľad.

Zodpovednosť školy

Škola má vedieť, aké AI nástroje používa, na aký účel a s akými údajmi pracujú. Zároveň má mať jasné pravidlá, informovať učiteľov, žiakov a rodičov a zabezpečiť, aby o dôležitých otázkach rozhodoval človek.

Ako posúdiť riziko

Čím väčší vplyv má AI nástroj na žiaka, tým prísnejšie pravidlá potrebuje. Nástroj na prípravu pracovného listu má iné riziko ako nástroj, ktorý hodnotí výkon alebo odporúča ďalší postup.

Ktoré systémy AI
sú vo vzdelávaní zakázané?

  • Systémy AI, ktoré odvodzujú emócie osôb,
  • manipulatívne alebo klamlivé systémy,
  • systémy využívajúce zraniteľnosť osôb,
  • systémy pre sociálne skórovanie osôb,
  • biometrické systémy na odvodzovanie citlivých údajov.
Zistiť viac

Ktoré systémy AI sú vysokorizikové?

  • Systémy na určenie prístupu, prijatia alebo pridelenia osôb do inštitúcií vzdelávania,
  • systémy na hodnotenie vzdelávacích výstupov,
  • systémy na posúdenie primeranej úrovne vzdelania,
  • systémy na monitorovanie a zisťovanie zakázaného správania študentov počas skúšok.
Zistiť viac