Veštačka inteligencija → Modul 5 → Etika i bezbednost AI

Etika i bezbednost veštačke inteligencije

Veštačka inteligencija je alat – a svaki moćan alat može da se koristi dobro ili loše, pažljivo ili nemarno. U ovoj lekciji upoznaćeš glavna etička pitanja: pristrasnost, lažni sadržaji, privatnost, autorska prava, odgovornost i bezbednost – i pravila koja se za njih donose.

Deo o zakonima opisuje stanje iz novembra 2026. i ažurira se jednom godišnje.

Pristrasnost i nepravedne odluke

Iz lekcije Podaci – hrana za AI znamo: model uči iz podataka i nasleđuje njihove propuste. Kada AI pomaže u važnim odlukama, to može da bude ozbiljno:

• program koji pomaže u izboru kandidata za posao naučio je iz starih odluka – pa ponavlja i stare nepravde;
• prepoznavanje lica češće greši kod ljudi koji su bili slabo zastupljeni u podacima;
• sistem za ocenjivanje pismenih radova lošije ocenjuje drugačiji stil pisanja.

Zato se modeli proveravaju na različitim grupama ljudi, a u važnim odlukama (posao, škola, zdravlje, sud) poslednju reč treba da ima čovek koji može da objasni odluku.

Lažne slike, snimci i glasovi

Generativna AI pravi slike, video i glas koji izgledaju stvarno – to se zove deepfake. Može da se koristi za zabavu i film, ali i za laži, prevare i povređivanje ljudi.

Pet koraka provere

1. Ko je objavio? Poznat i pouzdan izvor ili nalog bez imena?
2. Da li to prenose i drugi pouzdani mediji? Velika vest se ne pojavljuje samo na jednom mestu.
3. Detalji: ruke i prsti, tekst u pozadini, senke, odsjaji u očima, pokreti usana koji ne prate glas.
4. Pretraga slikom: da li je ista slika ranije objavljena u drugom kontekstu?
5. Emocija: da li sadržaj želi da te naljuti ili uplaši da bi ga brzo podelio? Tada stani i proveri dvaput.

Nikada ne pravi lažne slike, snimke ili glas drugih ljudi – može ozbiljno da ih povredi, a u mnogim zemljama je i kažnjivo.

Privatnost

• AI modeli uče iz ogromnih količina podataka, među kojima mogu biti i podaci o ljudima.
• Ono što pišeš četbotu, slike koje šalješ i glasovne poruke mogu da se čuvaju na serverima.
• Kamere sa prepoznavanjem lica mogu da prate gde se ko kreće – zato su u mnogim zemljama strogo ograničene.

Pravilo za tebe: ne deli lične podatke svoje i tuđe; za školske projekte snimaj predmete, a ne ljude (kao u Teachable Machine vežbi).

Autorska prava: čije je delo?

• Modeli za slike i tekst učili su iz radova miliona ljudi – umetnika, pisaca, programera. Da li je to bilo u redu bez njihove dozvole? O tome se vode sudski sporovi i rasprave, i odgovor još nije jasan.
• Ako AI napravi sliku po tvom opisu, ko je autor – ti, kompanija ili niko? Pravila se razlikuju od zemlje do zemlje.
• Za školu važi jednostavno pravilo: uvek naglasi šta je napravila AI i ne predaj AI rad kao svoj.

Ko je odgovoran kada AI pogreši?

Samovozeći automobil udari u ogradu. Ko je kriv – vlasnik, kompanija koja je napravila auto, programeri, ili ljudi koji su pripremili podatke? Ovakva pitanja su nova i zakoni ih tek uređuju. Važno je načelo: odgovornost uvek snose ljudi – oni koji prave, prodaju i koriste AI sistem. „Kompjuter je kriv“ nije opravdanje.

Energija i životna sredina

Trening velikih modela i odgovaranje na milione pitanja dnevno troše mnogo struje i vode za hlađenje računskih centara. Zato se razvijaju efikasniji modeli i čipovi – a i mi možemo da budemo razumni: ne koristimo veliki model za ono što ume i kalkulator, i biramo manji model kada je dovoljan (setimo se TinyML).

Pravila i zakoni

• Evropska unija je usvojila Akt o veštačkoj inteligenciji (AI Act), koji je stupio na snagu 2024. godine i primenjuje se postepeno. Od februara 2025. zabranjene su neke prakse (na primer, sistemi koji ljude „boduju“ po ponašanju ili ih manipulišu), od avgusta 2025. važe obaveze za velike modele opšte namene, a obaveze za AI u oblastima visokog rizika (zapošljavanje, obrazovanje, zdravstvo…) primenjuju se kasnije – prema izmenama iz 2026. godine, od kraja 2027. i 2028. Zakon traži i da sadržaj napravljen veštačkom inteligencijom bude označen.
• Srbija je usvojila Strategiju razvoja veštačke inteligencije za period 2025–2030, a na putu ka EU usklađuje propise sa evropskim pravilima.
• Pravila postoje i u školi: proveri šta je dozvoljeno na kontrolnim, takmičenjima i domaćim zadacima.

Aktivnost: etički semafor

Za svaki primer odluči: zeleno (u redu), žuto (zavisi – pod kojim uslovima?) ili crveno (nije u redu). Obrazloži.

1. Učenik koristi AI da mu objasni gradivo pred kontrolni.
2. Učenik pravi smešnu lažnu fotografiju druga iz odeljenja i šalje je u grupu.
3. Prodavnica koristi kamere sa prepoznavanjem lica da bi pratila kupce.
4. Lekar koristi AI da mu pomogne da uoči bolest na snimku, a odluku donosi sam.
5. Učenik predaje sastav koji je napisao četbot i tvrdi da je njegov.
6. Grad koristi AI da predvidi gužve i podesi semafore.

Česte zablude

• „Računar je objektivan, pa je AI uvek pravedna“ – AI nasleđuje propuste iz podataka i odluka ljudi koji su je napravili.
• „Ako je nešto napravila AI, niko nije odgovoran“ – odgovornost uvek snose ljudi koji prave i koriste sistem.
• „Lažnu sliku je lako prepoznati“ – najnoviji lažni sadržaji su veoma uverljivi; zato se proverava izvor, a ne samo izgled.

Zadaci za vežbu

Pokušaj prvo sam, pa tek onda otvori rešenje.

1. Model za izbor kandidata za stipendiju učio je iz odluka prethodnih 10 godina, kada su stipendije skoro uvek dobijali učenici iz jedne škole. Šta može da pođe po zlu i kako to sprečiti?
2. Navedi pet koraka provere pre nego što podeliš šokantan video.
3. Zašto se u porodici preporučuje „tajna reč“?

Proveri znanje