Tinejdžer uhićen zbog šale izazvao kontroverzu oko nadzora u školi!

Tinejdžer uhićen zbog šale izazvao kontroverzu oko nadzora u školi!

Raskrižje obrazovanja i tehnologije poprimilo je kontroverzan zaokret, osobito s porastom učestalosti nadzora umjetne inteligencije (AI) u školama. Nedavni događaji izazvali su uzbunu o implikacijama takvih sustava nadzora, dovodeći u pitanje njihovu učinkovitost i potencijal kršenja privatnosti. Oštar primjer dolazi iz Tennesseeja, gdje je 13-godišnja djevojčica uhićena nakon što je nepromišljena šala pokrenula softver za nadzor škole s ciljem zaštite učenika.

Prema Dnevni zapis, incident se razvio kada je djevojka, učenica srednje škole Fairview, šaljivo komentirala u chatu, "u četvrtak ubijamo sve Meksikance", nakon zadirkivanja o njezinom izgledu. Ono što je počelo kao neoprezna primjedba dovelo je do njezina ispitivanja, pretresa do gola i noći provedene u zatvoru bez kontakta s roditeljima. Ovaj drastičan odgovor bio je izravna posljedica zakona o nultoj toleranciji u Tennesseeju, koji nalaže hitno prijavljivanje prijetnji masovnim nasiljem. Roditelji djevojčice u međuvremenu su podnijeli tužbu protiv školskog sustava, ističući ozbiljne posljedice tako oštrih mjera.

Pojačana zabrinutost zbog privatnosti

Situacija u Tennesseeju primjer je šireg trenda u kojem se tehnologije nadzora koriste diljem Sjedinjenih Država. Zapravo, škole se sve više oslanjaju na AI sustave kao što su Gaggle i Lightspeed Alert za praćenje online aktivnosti učenika. Ove je alate usvojilo približno 1500 školskih okruga, pokrivajući oko 6 milijuna učenika. Navodno im je cilj otkriti potencijalne prijetnje kao što su zlostavljanje ili samoozljeđivanje. Međutim, kritičari tvrde da sustavi često kriminaliziraju studente zbog primjedbi koje nemaju kontekst, ne prave razliku između iskrenih prijetnji i nepromišljenog govora.

Izvještaj iz mikrofon pojašnjava da je stalna upotreba alata za praćenje umjetne inteligencije porasla od pandemije COVID-19, pri čemu učenici često koriste uređaje koje izdaju škole. Dok zagovornici tvrde da ovi sustavi povećavaju sigurnost, nekoliko je incidenata podiglo čuđenje o njihovoj učinkovitosti i problemima privatnosti koje izazivaju. Na primjer, nadzor je nastao zbog kršenja u javnim školama u Vancouveru gdje su novinari pristupili osjetljivim dokumentima zbog pogrešnih sigurnosnih protokola. Takvi incidenti osvjetljavaju rizike neadekvatnih zaštitnih mjera u rukovanju privatnim podacima učenika.

Sigurnost protiv privatnosti: komplicirana rasprava

Kako se rasprave zahuktavaju, zabrinutost oko građanskih sloboda odjekuje u raznim sektorima. Korištenje alata kao što su prepoznavanje lica i praćenje pritiska na tipku pokrenulo je značajna etička pitanja. Podržavatelji tvrde da ovi sustavi mogu pomoći u sprječavanju internetskog zlostavljanja i omogućiti pravovremene intervencije za mentalno zdravlje, ali suprotno mišljenje smatra da se prikupljanje podataka često odvija bez izričitog pristanka učenika ili roditelja. Ovaj nedostatak transparentnosti je zabrinjavajući, osobito kada sami nastavnici ponekad ostaju nesvjesni načina na koji se podaci o učenicima prikupljaju i koriste.

The SFOR naglašava da iako bi nadzor pomoću umjetne inteligencije mogao biti usmjeren na poboljšanje odgovornosti i sigurnosti, ne može se zanemariti mogućnost pogrešnih identifikacija i rizici povezani s povredama podataka. Pogrešna tumačenja benignih ponašanja mogu nepravedno kazniti učenike, osobito one iz marginaliziranih zajednica. Neke se države bore s tim problemima pokušavajući ograničiti ili čak zabraniti alate za nadzor koje pokreće AI zbog sve većeg prepoznavanja njihove problematične prirode.

Kako se ova rasprava odvija, roditelji se bore s osjetljivom ravnotežom. Mnogi izražavaju pomiješane osjećaje o mjerama nadzora; dok žele zaštitu za svoju djecu, istovremeno se boje za svoja prava na privatnost. Sve veća tendencija nadziranja učenika može potaknuti okruženje nepovjerenja, potkopavajući odnose između učenika i školskog osoblja. Putovanje prema sigurnijem obrazovnom okruženju punom poštovanja se nastavlja, zahtijeva šire rasprave i jasnije smjernice u pogledu praćenja naše mladeži.

Priča o djevojci iz Tennesseeja služi kao otrežnjujući podsjetnik na posljedice u stvarnom svijetu koje mogu proizaći iz ovih tehnologija - a nama ostaje da razmislimo: po koju cijenu dolazi ovakva budnost?