Milijuni učenika svakodnevno se obraćaju robotima za brbljanje temeljenima na umjetnoj inteligenciji za pomoć s kućnim zadaćama, emocionalnu podršku i osobne savjete.

Često nesvjesni gdje njihovi razgovori i drugi osobni podaci završavaju. Kako se te podatke koristi - i kakva je uloga škola u njihovoj zaštiti - sve je veća briga za edukatore, roditelje i djecu.

S početkom školske godine, dva najveća školska okruga u Sjedinjenim Državama - New York City i Los Angeles - najavili su kako će na godinu dana onemogućiti učenike u korištenju umjetne inteligencije dok proučavaju kako najbolje uključiti tehnologiju u obrazovanje.

Microsoft je objavio kako je pristao usvojiti zaštitne ograde i standarde privatnosti za svoju umjetnu inteligenciju u školama, kako je dogovoreno s American Federation of Teachers (AFT), drugim najvećim sindikatom učitelja u toj državi.

Sigurnosne odredbe u sporazumu su značajne, ali standardi će biti učinkoviti samo ako se prijave sve tvrtke za umjetnu inteligenciju, posebno tehnološki divovi. Nema ni odgovora na pitanja trebaju li uopće AI proizvodi biti u učionicama i u kojoj dobi bi ih trebalo uvesti.

Google se drži po strani

Sporazum, koji je pravno obvezujući i zahtijeva revizije trećih strana radi usklađenosti, mogao bi postaviti industrijski standard. Stručnjaci za zaštitu podataka smatraju kako bi novi standardi mogli oblikovati dijalog između škola i pružatelja usluga umjetne inteligencije, bez obzira na to koriste li škole Microsoftove usluge ili ne

OpenAI i Anthropic također razgovaraju o paktovima o sigurnosti i privatnosti s AFT-om. Google, dominantni pružatelj obrazovne tehnologije za američke škole, nije rekao planira li ponuditi sličnu zaštitu. Kao dio širokog sporazuma, Microsoft se obvezao kako neće koristiti podatke učenika ili obrazovnih djelatnika za obuku AI sustava, osim uskog izuzetka za podatke koji bi mogli pomoći u zaštiti učenika.

Tvrde kako podatke koje prikupljaju ne mogu biti prodani, korišteni za oglašavanje ili za razvoj proizvoda. Sporazum zabranjuje bilo kakvu upotrebu AI pratitelja ili značajki osmišljenih za poticanje emocionalne privrženosti ili ovisnosti, kao i za održavanje angažmana učenika dulje nego što je potrebno za zadatak učenja.

Također uključuje niz mjera revizije i transparentnosti koje zahtijevaju od tvrtke da obiteljima, jednostavnim jezikom, otkrije kako njezini alati funkcioniraju.

Odredbe sporazuma, prvog takve vrste, bit će primjenjene na sve škole s kojima Microsoft ima ugovore počevši od 1. studenog.

Eskalacija utrke tehnoloških divova

Uz jednogodišnji moratorij na umjetnu inteligenciju, školski sustavi za New York City i Los Angeles planiraju opsežne revizije svojih ugovora o obrazovnoj tehnologiji i alata umjetne inteligencije, s naglaskom na privatnost podataka, transparentnost i odgovornost.

Zabrana u New Yorku odnosi se na sve učenike osnovnih i srednjih škola, dok se u Los Angelesu proteže na srednju školu.

Google se našao u središtu kontroverze oko umjetne inteligencije u školama kada je u kolovozu objavio kako je uključio svoj Gemini chatbot za mnoge učenike od vrtića do 12. razreda koji koriste Google Classroom, svoj sustav za upravljanje učenjem.

Tvrtka tvrdi kako Google Classroom koristi 150 milijuna učitelja i učenika diljem svijeta. Kritičari su Googleov potez osudili kao eskalaciju utrke između tehnoloških divova za prodor u škole i osvajanje naklonosti sljedeće generacije korisnika umjetne inteligencije.

Uvođenje umjetne inteligencije u platformu Classroom odnosi se samo na škole koje učenicima omogućuju pristup aplikaciji Gemini ili alatu Gemini Notebook, no to predstavlja značajnu promjenu.

Sve do kolovoza, Google je omogućavao aktivaciju usluge Gemini samo učenicima starijima od 18 godina, piše AP.