Umjetna inteligencija (AI) više nije tehnologija budućnosti. Već danas ravnatelji, tajnici, računovođe, stručni suradnici i odgojno-obrazovni radnici koriste različite AI alate za izradu dopisa, analiza, zapisnika, obrazaca, nastavnih materijala i drugih poslovnih dokumenata. Iako umjetna inteligencija može značajno unaprijediti učinkovitost rada, njezina uporaba otvara niz pitanja vezanih uz zaštitu osobnih podataka, sigurnost informacija, autorska prava, odgovornost za donesene odluke i usklađenost s propisima. Zbog toga se sve češće postavlja pitanje: treba li škola ili dječji vrtić donijeti interni pravilnik ili smjernice o korištenju umjetne inteligencije?
1. AI je već ušao u škole i vrtiće
Bez obzira na to postoji li službena odluka ustanove, zaposlenici već koriste različite AI alate.
Najčešće se koriste za:
• izradu dopisa i obavijesti,
• pripremu zapisnika,
• izradu pravilnika i odluka,
• sastavljanje odgovora na upite roditelja,
• pripremu prezentacija i edukativnih materijala,
• analizu propisa,
• pripremu financijskih obrazloženja i izvještaja,
• planiranje aktivnosti i projekata.
Takva uporaba sama po sebi nije sporna. Problem nastaje kada ne postoje jasna pravila što se smije, a što ne smije unositi u AI sustave.
2. Koji su rizici?
Najveći rizik predstavlja unošenje povjerljivih podataka u javno dostupne AI alate. Primjerice, zaposlenik može: unijeti ime i prezime učenika, opisati zdravstveno stanje djeteta, prenijeti dokumentaciju o teškoćama u razvoju, učitati ugovor o radu zaposlenika, dostaviti financijske izvještaje s osobnim podacima. Takvo postupanje može predstavljati povredu propisa o zaštiti osobnih podataka, ali i ugroziti sigurnost informacija kojima ustanova raspolaže.
Drugi rizik odnosi se na točnost informacija. AI sustavi ponekad navode nepostojeće zakonske odredbe, zastarjele propise ili netočna tumačenja. Zbog toga je nužna stručna provjera svih informacija prije njihove primjene u praksi.
3. Što kažu europske i hrvatske smjernice?
Uredba (EU) 2024/1689 o umjetnoj inteligenciji uvodi pravila za sigurnu i odgovornu primjenu umjetne inteligencije u Europskoj uniji. Istodobno, CARNET kroz projekt BrAIn preporučuje odgovorno, transparentno i sigurno korištenje umjetne inteligencije u obrazovanju. Zajednička poruka svih smjernica jest da umjetna inteligencija može biti koristan alat, ali da njezina uporaba mora biti uređena jasnim pravilima.
4. Treba li pravilnik biti obvezan?
Trenutačno ne postoji poseban propis koji izričito nalaže školama i vrtićima donošenje pravilnika o korištenju umjetne inteligencije. Međutim, ravnatelj je odgovoran za zakonitost rada ustanove, zaštitu podataka i sigurnost informacijskog sustava. Iz tog razloga donošenje internog akta predstavlja primjer dobre upravljačke prakse.
Takav dokument može imati naziv:
• Pravilnik o korištenju umjetne inteligencije,
• Smjernice za korištenje umjetne inteligencije,
• Politika uporabe AI alata,
• Uputa o sigurnom korištenju umjetne inteligencije.
Naziv je manje važan od sadržaja.
5. Što bi pravilnik trebao sadržavati?
Svrhu korištenja AI alata
Potrebno je definirati za koje se poslove AI može koristiti.
Primjerice: administrativni poslovi, priprema nacrta dokumenata, izrada edukativnih sadržaja, analiza općih podataka, pomoć pri planiranju aktivnosti.
Zabranjene vrste podataka
Pravilnik bi trebao jasno navesti da nije dopušteno unositi: imena i prezimena djece, OIB-e, adrese, zdravstvene podatke, podatke o teškoćama učenika, podatke iz personalnih dosjea zaposlenika, podatke iz obračuna plaća, druge povjerljive podatke.
Odgovornost zaposlenika
Treba naglasiti da AI ne donosi odluke umjesto zaposlenika. Svaki dokument, mišljenje ili prijedlog koji generira AI mora pregledati i odobriti odgovorna osoba.
Provjeru točnosti informacija
Prije korištenja dobivenih informacija potrebno je provjeriti: zakonske odredbe, pravilnike, službena tumačenja, stručne izvore.
Zaštitu autorskih prava
Zaposlenici trebaju voditi računa da sadržaj koji preuzimaju ili objavljuju ne krši autorska prava trećih osoba.
Edukaciju zaposlenika
Preporučljivo je organizirati povremene edukacije o: sigurnosti umjetne inteligencije, zaštiti podataka, prepoznavanju rizika, odgovornoj uporabi digitalnih tehnologija.
Upravljanje AI alatima i postupak odobravanja korištenja
Radi zaštite podataka, sigurnosti informacijskog sustava i osiguranja zakonitog rada ustanove, preporučljivo je definirati postupak odobravanja korištenja AI alata.
Pravilnikom se može propisati da zaposlenici smiju koristiti samo one AI alate koje je ustanova prethodno odobrila za službenu uporabu. Prije odobravanja pojedinog alata potrebno je procijeniti ispunjava li osnovne zahtjeve vezane uz zaštitu osobnih podataka, informacijsku sigurnost, transparentnost rada i usklađenost s važećim propisima.
Odluku o odobravanju korištenja AI alata može donositi ravnatelj, samostalno ili uz prethodno mišljenje službenika za zaštitu podataka, informatičke podrške, administratora informacijskog sustava ili druge stručne osobe koju ustanova odredi.
Prilikom procjene alata preporučljivo je razmotriti osobito:
• obrađuje li alat podatke korisnika i na koji način,
• gdje se podaci pohranjuju i tko im može pristupiti,
• omogućuje li pružatelj usluge odgovarajuću razinu zaštite podataka,
• postoje li ograničenja ili rizici vezani uz korištenje alata,
• jesu li uvjeti korištenja i politika privatnosti javno dostupni i razumljivi,
• postoji li mogućnost isključivanja pohrane ili daljnjeg korištenja unesenih podataka za treniranje modela.
Ustanova može voditi i interni popis odobrenih AI alata s opisom njihove namjene, uvjeta korištenja i odgovornih osoba za njihovu primjenu. Time se osigurava veća transparentnost, lakša kontrola i smanjenje sigurnosnih rizika.
Sliku generirao AI
6. Koje su koristi od donošenja pravilnika?
Donošenjem pravilnika ustanova:
• smanjuje rizik od povrede osobnih podataka,
• povećava sigurnost informacijskog sustava,
• educira zaposlenike o odgovornom korištenju AI-a,
• usklađuje se s europskim trendovima i preporukama,
• pokazuje roditeljima i javnosti da ozbiljno pristupa zaštiti djece i podataka.
7. Primjeri dobre i loše uporabe umjetne inteligencije u ustanovi
U praksi se zaposlenici često pitaju što je dopušteno, a što nije dopušteno prilikom korištenja umjetne inteligencije. Kako bi se izbjegle pogreške i sigurnosni incidenti, korisno je razlikovati primjere dobre i loše prakse.
Primjerice, prihvatljivo je koristiti AI alate za izradu nacrta dopisa, prijedloga pravilnika, prezentacija, edukativnih materijala ili sažetaka propisa, pod uvjetom da se pritom ne unose osobni ili povjerljivi podaci.
S druge strane, nije prihvatljivo unositi podatke o učenicima, djeci, roditeljima ili zaposlenicima, učitavati zdravstvenu dokumentaciju, individualizirane programe, personalne dosjee ili druge dokumente koji sadrže osobne ili povjerljive informacije.
Važno je naglasiti da umjetna inteligencija služi kao pomoćni alat. Odgovornost za sadržaj dokumenata, zakonitost postupanja i donošenje odluka uvijek ostaje na zaposleniku i ustanovi.
8. Kontrolna pitanja prije korištenja AI alata
Prije korištenja novog AI alata korisno je postaviti nekoliko osnovnih pitanja:
• Tko je pružatelj usluge?
• Na koji se način obrađuju podaci korisnika?
• Gdje se podaci pohranjuju?
• Koriste li se uneseni podaci za dodatno treniranje modela?
• Postoje li odgovarajuće mjere zaštite podataka?
• Jesu li uvjeti korištenja i politika privatnosti javno dostupni?
• Je li alat odobren za službenu uporabu u ustanovi?
Odgovori na navedena pitanja mogu pomoći u procjeni sigurnosti i prikladnosti pojedinog alata te smanjiti rizik od povrede osobnih podataka ili sigurnosnih incidenata.
9. AI pismenost i edukacija zaposlenika
Uspješna i sigurna primjena umjetne inteligencije ne ovisi samo o tehnologiji, već i o znanju osoba koje je koriste. Zbog toga je potrebno kontinuirano razvijati AI pismenost zaposlenika.
AI pismenost podrazumijeva razumijevanje mogućnosti, ograničenja i rizika umjetne inteligencije te sposobnost njezina odgovornog korištenja u svakodnevnom radu. Zaposlenici trebaju biti upoznati s načinom funkcioniranja AI sustava, pravilima zaštite osobnih podataka, sigurnosnim rizicima, mogućnošću pojave netočnih informacija te pitanjima autorskih prava i intelektualnog vlasništva.
Preporučljivo je da ustanova organizira ili omogućuje periodične edukacije koje obuhvaćaju:
• osnovna načela rada umjetne inteligencije,
• zaštitu osobnih podataka prilikom korištenja AI alata,
• prepoznavanje netočnih ili obmanjujućih rezultata koje generira AI,
• sigurnu obradu i razmjenu informacija,
• odgovornu uporabu AI alata u odgojno-obrazovnom radu i administrativnim poslovima,
• primjenu važećih propisa i internih pravila ustanove.
Posebnu pozornost potrebno je posvetiti činjenici da umjetna inteligencija služi kao pomoćni alat te ne može zamijeniti stručnu prosudbu, profesionalnu odgovornost i samostalno donošenje odluka zaposlenika.
Razvijanjem AI pismenosti ustanova smanjuje rizik od pogrešaka, povećava sigurnost poslovanja te osigurava odgovornu i učinkovitu primjenu novih tehnologija u interesu djece, roditelja i zaposlenika.
Zaključak
Umjetna inteligencija postat će sastavni dio poslovanja škola i dječjih vrtića jednako kao što su to danas elektronička pošta, e-Dnevnik ili digitalni dokumenti. Pitanje više nije hoće li zaposlenici koristiti AI alate, nego hoće li ih koristiti na siguran i odgovoran način. Iako trenutačno ne postoji zakonska obveza donošenja posebnog pravilnika o korištenju umjetne inteligencije, sve je više razloga da škole i vrtići pravodobno urede ovo područje internim aktom.
Takav dokument ne bi trebao ograničavati razvoj i primjenu novih tehnologija, nego osigurati da se one koriste u interesu djece, zaposlenika i ustanove, uz puno poštovanje sigurnosti, privatnosti i profesionalne odgovornosti.
Izvori: Uredba (EU) 2024/1689 o umjetnoj inteligenciji, Uredba (EU) 2016/679, smjernice CARNET (projekt BrAIn), preporuke European Data Protection Board, European Union Agency for Cybersecurity i UNESCO o odgovornoj primjeni umjetne inteligencije u obrazovanju.
Članak napisan uz pomoć AI.