AI nástroje sa učia z dát, ktoré môžu obsahovať nepresnosti, stereotypy alebo nerovnomerné zastúpenie rôznych skupín ľudí. Preto sa môže stať, že výstup AI niekoho opisuje jednostranne, ponúka menej vhodné odporúčania alebo nevedomky posilňuje predsudky, ktoré do školy nepatria.
Tento článok ponúka navádzajúce otázky k spravodlivosti a nediskriminácii pri používaní AI. Pomáha učiteľom a vedeniu školy sledovať, či sa nástroj správa férovo voči všetkým žiakom, či neznevýhodňuje konkrétne skupiny a či má škola postup, ako zasiahnuť, keď sa objaví zaujatý alebo nespravodlivý výstup.
Prečo využiť navádzajúce otázky
Pri zvažovaní používania AI nemusíte rozumieť jej technickému fungovaniu. Dôležité je, aby škola alebo pedagóg vedeli klásť relevantné otázky a viesť vecný dialóg s poskytovateľmi technológií aj s príslušnými verejnými orgánmi.
Tieto otázky využijete:
- pred zavedením nástroja AI do školy,
- počas jeho používania,
- ako podklad pre diskusiu s učiteľmi, žiakmi, rodičmi a širšou školskou komunitou.
Otázky pomáhajú škole používať AI dôveryhodne a zohľadniť jej vplyv na vzdelávací proces.
Otázky pre učiteľov
Som presvedčený/á, že sa nástroj AI prispôsobuje individuálnym potrebám s cieľom podporiť učenie všetkých?
Skôr než nasadíte nástroj do triedy, otestujte ho aj z pohľadu žiakov so špeciálnymi potrebami. Dá sa zväčšiť písmo? Funguje s čítačkou obrazovky? Dá sa zjednodušiť jazyk? Ak nástroj tieto možnosti nemá, neznamená to automaticky, že ho nemôžete použiť, ale znamená to, že budete musieť tieto medzery sami vyplniť. Ak si nie ste istí, ako na to, poraďte sa so školským špeciálnym pedagógom alebo podporným tímom.
Viem overiť, že nástroj AI zohľadňuje vek a úroveň porozumenia žiakov?
Jednoduchý test: nechajte nástroj vygenerovať nejaký výstup a dajte ho prečítať žiakovi, pre ktorého je určený. Rozumie mu? Ak nie, buď upravte nastavenia nástroja, alebo prepracujte prompt tak, aby ste explicitne zadali vek a úroveň žiakov. Napríklad: „Vysvetli tento pojem pre žiaka 5. ročníka základnej školy jednoduchými vetami.“ Správne sformulované zadanie dokáže výrazne zlepšiť relevantnosť výstupu.
Všimol/la som si výstupy AI, ktoré nesprávne, stereotypne alebo negatívne zobrazujú určité skupiny?
Ak áno, neberte to na ľahkú váhu. Takýto výstup by nemal byť použitý v triede bez korekcie a ideálne by mal byť podnetom na rozhovor so žiakmi o tom, prečo AI niečo takéto vygenerovala a prečo je to problém. Zároveň to nahláste, buď správcovi nástroja, digitálnemu koordinátorovi, alebo priamo dodávateľovi. Zaznamenané prípady pomáhajú zlepšovať nástroje aj chrániť ostatných učiteľov pred rovnakým problémom.
Viem zasiahnuť, ak sa systém správa voči jednotlivcovi alebo skupine nespravodlivo?
Ak spozorujete, že nástroj opakovane navrhuje menej náročné úlohy určitej skupine žiakov, generuje iný tón spätnej väzby podľa mena alebo inak znevýhodňuje konkrétnych žiakov, zastavte jeho používanie a situáciu eskalujte.
Otázky pre školu
Zabezpečila škola, aby bol nástroj AI pred zavedením otestovaný na zaujatosť voči rôznym skupinám žiakov?
Pred tým, ako nástroj pustíte do tried, oplatí sa ho otestovať aj z tohto uhla. Skúste zadať rovnaké otázky s rôznymi menami, jazykmi alebo kontextmi a sledujte, či nástroj odpovedá rovnako. Zapojte do testovania učiteľov z rôznych predmetov, prípadne aj žiakov. Nie každá škola má kapacitu robiť hĺbkový audit, ale základná pozornosť pred nasadením môže odhaliť zjavné problémy skôr, než sa dostanú do triedy. Zoznam preverených nástrojov nájdete na tejto stránke.
Sú učitelia podporovaní v nahlasovaní situácií, keď AI skresľuje alebo vylučuje určité skupiny?
Učitelia sú prvá línia, ktorá si problémy v praxi všimne. Aby to mohli nahlásiť, musia vedieť, na koho sa obrátiť, a musia mať istotu, že ich hlásenie nebude ignorované. Určte jasnú osobu alebo kanál na takéto podnety, napríklad digitálneho koordinátora, a dajte učiteľom vedieť, že ich spätná väzba je vítaná a užitočná.
Má škola jasné postupy na riešenie prípadov zaujatosti alebo nespravodlivého zaobchádzania, ktoré sa objavia po zavedení nástroja?
Ani dôkladné testovanie pred nasadením nezachytí všetko. Dôležité je mať pripravený plán na situáciu, keď sa problém objaví v praxi. Postup by mal byť jednoduchý: určte kto problém zaznamená, kto ho posúdi, kto rozhodne o ďalšom postupe a kto komunikuje so žiakmi alebo rodičmi, ak je to potrebné. Tento postup by mal byť súčasťou internej smernice školy k používaniu AI.
Je používanie AI v súlade s právnymi povinnosťami v oblasti nediskriminácie?
Školy majú právnu povinnosť zabezpečiť rovnaké zaobchádzanie so všetkými žiakmi, a to platí aj pri používaní AI nástrojov. Európska únia navyše od roku 2026 sprísnila pravidlá pre vysokorizikové AI systémy používané vo vzdelávaní, pričom dôraz kladie práve na transparentnosť a ochranu práv žiakov. Ak si nie ste istí, či je konkrétny nástroj v súlade s týmito požiadavkami, overte si to s dodávateľom alebo sa poraďte so zriaďovateľom.
Príklad ako používať navádzajúce otázky
Učiteľ anglického jazyka experimentuje s veľkým generatívnym modelom AI na poskytovanie formatívnej spätnej väzby k esejam. Žiaci môžu v priebehu niekoľkých minút získať anotované odporúčania k štruktúre, argumentácii a práci so zdrojmi.
Učiteľ zároveň skúma, ako môže agregované údaje využiť na plánovanie cielených opakovaní učiva. Tento prístup má potenciál poskytovať rýchlejšiu a kvalitnejšiu spätnú väzbu a zároveň uvoľniť čas na individuálnu podporu žiakov.
Možné otázky:
Môžem kontrolovať a upravovať návrhy AI predtým, ako ich žiak použije, a zasiahnuť pri neočakávaných alebo nevhodných účinkoch?
Viac otázok: Človek má posledné slovo
Nevšimol/la som si výstupy AI, ktoré by vylučovali alebo negatívne opisovali konkrétne skupiny?
Viac otázok: AI bez predsudkov
Majú návrhy AI pedagogický zmysel a sú v súlade s kurikulom?
Viac otázok: Ako transparentne používať umelú inteligenciu v škole
Viem, aké osobné alebo iné údaje o mojich žiakoch nástroj AI zhromažďuje?
Viac otázok: Dáta žiakov a AI
Cítim sa kompetentný/á zasiahnuť, ak systém nefunguje podľa očakávaní alebo je nevhodný pre triedu?
Viac otázok: Keď AI urobí chybu
Odporúčame
AI, pohoda a vzťahy: otázky pre školskú komunitu
Keď AI urobí chybu: otázky k bezpečnosti a zodpovednosti
Dáta žiakov a AI: čo si má škola overiť
AI pre všetkých žiakov: otázky k férovosti a inklúzii
Ako transparentne používať umelú inteligenciu v škole
