Spoločnosť OpenAI zavedie systém overovania veku, ktorý má rozlišovať medzi používateľmi staršími a mladšími ako 18 rokov. Tento krok prichádza po prípade 16-ročného chlapca, ktorý v apríli 2025 po mesiacoch komunikácie s chatbotom ChatGPT spáchal samovraždu. Rodina tínedžera voči spoločnosti podnikla právne kroky.
Zakladateľ OpenAI Sam Altman uviedol, že v prípade pochybností sa bude ChatGPT správať tak, akoby išlo o osobu mladšiu ako 18 rokov. „Ak budeme mať pochybnosti o veku používateľa, budeme sa vždy riadiť princípom bezpečnosti a predvolene poskytneme skúsenosť pre mladších ako 18 rokov,“ napísal Altman vo firemnom blogu.
Ako bude systém fungovať
OpenAI pripravuje vekovo prediktívny model, ktorý bude odhadovať vek používateľa na základe spôsobu jeho komunikácie s ChatGPT. Ak systém nedokáže vek presne určiť, automaticky priradí „režim pre mladších ako 18 rokov.“
V niektorých krajinách bude môcť byť zavedené aj overovanie pomocou dokladu totožnosti. Hoci to predstavuje zásah do súkromia dospelých, OpenAI tvrdí, že pôjde o „nevyhnutný kompromis“ pri ochrane mladistvých.
Podľa pripravovaných pravidiel bude ChatGPT pre používateľov mladších ako 18 rokov:
- blokovať flirtovanie,
- odmietať diskusie o samovražde alebo sebapoškodzovaní, aj v rámci kreatívneho písania,
- v prípade zistenia rizika ohrozenia života sa pokúšať kontaktovať rodičov alebo autority.
Prepojenie so vzdelávaním
Školstvo na Slovensku sa pripravuje na zodpovednú integráciu umelej inteligencie. Plán zodpovedného využívania AI vo vzdelávaní zdôrazňuje, že školy budú musieť pri zavádzaní AI nástrojov riešiť otázky etiky, ochrany súkromia a bezpečnosti žiakov.
Rozhodnutie OpenAI preto zapadá do širšej medzinárodnej diskusie o tom, ako nastaviť limity používania AI, aby boli ochránení najzraniteľnejší používatelia – deti a mladiství.
