Da li veštačka inteligencija misli i ima li svest?
Kada četbot napiše „Drago mi je što smo razgovarali“, mnogi se zapitaju: da li on to stvarno oseća? Da li računar misli? Može li jednog dana da ima svest? Ovo su jedna od najzanimljivijih – i najtežih – pitanja današnje nauke i filozofije. U ovoj lekciji nećeš dobiti konačan odgovor, jer ga niko nema. Naučićeš kako se o tome razmišlja.
Inteligencija i svest nisu isto
| Inteligencija | Svest | |
|---|---|---|
| šta znači | sposobnost da se rešavaju zadaci, uči i snalazi u novim situacijama | to što nešto doživljavamo – osećamo bol, vidimo crvenu boju, radujemo se |
| kako se proverava | testovima i zadacima – lako se meri | veoma teško: doživljaj „iznutra“ ne može da se vidi spolja |
| kod AI danas | u nekim zadacima AI je bolja od ljudi (šah, prepoznavanje slika), u drugim mnogo slabija | nema dokaza da je postoji; da li je moguća – otvoreno je pitanje |
Kalkulator „računa“ bolje od bilo kog čoveka, ali skoro niko ne misli da kalkulator nešto oseća. Dakle, nešto može da bude veoma sposobno, a da (verovatno) nema nikakav doživljaj. Pitanje je da li to važi i za mnogo složenije sisteme.
Zašto četbot zvuči kao da oseća
- Jezički model je učio iz ogromne količine teksta koji su napisali ljudi – a ljudi u tekstovima stalno pišu o osećanjima. Zato model ume da piše „srećan sam“ ili „žao mi je“ na pravom mestu.
- Kompanije namerno uče četbotove da budu ljubazni i topli, jer je takav razgovor prijatniji.
- Ljudi su skloni da „oživljavaju“ stvari: dajemo imena autima, ljutimo se na računar, a ELIZA iz 1966. je nekim ljudima delovala kao da ih razume (vidi istoriju AI).
Zato to što četbot piše da nešto oseća nije dokaz da oseća – ali ni dokaz da ne oseća. To samo znači da odgovor moramo da tražimo na drugi način.
Tri gledišta
| Gledište | Glavna ideja | Argument |
|---|---|---|
| „Samo program“ | AI je složen račun koji predviđa reči; nema nikakav doživljaj | „kineska soba“ (lekcija o Tjuringovom testu): tačni odgovori ne znače razumevanje; AI nema telo, čula ni sopstveni život |
| „Važno je kako radi, a ne od čega je“ | ako bi mašina obrađivala informacije na isti način kao mozak, mogla bi da ima i doživljaj | mozak je takođe „mašina“ od neurona; ne znamo zašto bi svest bila moguća samo u ćelijama, a ne u silicijumu |
| „Ne znamo kako bismo to proverili“ | nemamo pouzdan test za svest – ni kod životinja ni kod mašina | naučnici predlažu „znakove“ koje bi sistem sa svešću verovatno imao, ali se ne slažu koji su to |
Većina stručnjaka danas smatra da postojeći AI sistemi verovatno nemaju svest, ali da pitanje ne treba olako odbaciti za sisteme budućnosti. Neki istraživači i kompanije zato ozbiljno proučavaju i pitanje kako bi trebalo postupati prema AI sistemima ako bi jednog dana mogli da imaju nekakav doživljaj – upravo zato što to ne znamo.
Robot, program, model – podsetnik
| Pojam | Šta je | Primer |
|---|---|---|
| program | niz naredbi koje računar izvršava | kalkulator, igra, naši programi iz modula 3 |
| model | „naučena“ pravila ili težine nastale iz podataka | stablo za učionicu, neuronska mreža za cifre, jezički model |
| robot | mašina koja se kreće i deluje u svetu | robotski usisivač, robot u fabrici, Arduino autić |
| AI sistem | program koji koristi jedan ili više modela | četbot, prevodilac, pametna učionica |
Kada neko pita „da li je AI robot sa svešću?“, prvo razdvoji pitanja: Da li je to robot? Da li koristi model? Šta taj model radi? Pa tek onda: ima li doživljaj?
AI kao „prijatelj“
Neke aplikacije nude razgovor sa AI „drugom“ koji uvek ima vremena i uvek je ljubazan. To može da deluje prijatno, ali imaj na umu:
- AI ne zna ništa o tvom životu osim onoga što mu napišeš, i ne može da bude uz tebe kao čovek.
- Lične stvari i tajne ne piši aplikacijama – podaci se čuvaju na serverima (vidi bezbedno korišćenje AI alata).
- Kada si tužan, uplašen ili ti je teško – razgovaraj sa roditeljem, prijateljem, nastavnikom ili školskim psihologom. AI može da ti pomogne da sročiš pitanje, ali ne može da zameni ljude koji te poznaju.
Aktivnost: debata
Tema debate: „Mašina jednog dana može da ima svest.“
- Odeljenje se deli na dve grupe: „za“ i „protiv“ (grupa ne mora da se slaže sa svojom stranom – vežbamo argumente).
- Svaka grupa ima 10 minuta da pripremi 3 argumenta, koristeći ovu lekciju i lekcije o Tjuringovom testu i četbotovima.
- Naizmenično iznosite argumente (po 1 minut), pa svaka grupa ima jedan odgovor.
- Na kraju svako za sebe zapiše: da li je promenio mišljenje i koji argument mu je bio najjači.
Pre debate kviz „mit ili činjenica“ (iz ove lekcije) za zagrevanje. Važno pravilo: kritikujemo argumente, ne ljude.
Česte zablude
- „Četbot je rekao da je srećan – znači da oseća“ – model je naučio kako ljudi pišu o osećanjima; to nije dokaz doživljaja.
- „Naučnici su dokazali da AI nikad neće imati svest“ – to nije dokazano; pitanje je otvoreno.
- „Što je AI pametnija, to sigurno više oseća“ – inteligencija i svest su različite stvari – mogu da postoje jedna bez druge.
Zadaci za vežbu
Pokušaj prvo sam, pa tek onda otvori rešenje.
- Svojim rečima objasni razliku između inteligencije i svesti i navedi primer nečega što je „pametno“, a (verovatno) ništa ne oseća.
- Zašto to što četbot napiše „i meni je drago“ ne dokazuje da on oseća radost?
- Napiši po jedan argument „za“ i „protiv“ tvrdnje „Mašina jednog dana može da ima svest“.
Rešenje 1: primer odgovora
Inteligencija je sposobnost da se rešavaju zadaci, a svest je to što nešto doživljavamo (osećamo, vidimo, radujemo se). Kalkulator ili šahovski program rešava zadatke bolje od ljudi, ali verovatno ništa ne doživljava.
Rešenje 2: objašnjenje
Zato što je model naučio iz ljudskih tekstova koje reči slede u takvom razgovoru i zato što su ga kompanije učile da bude ljubazan. Reči mogu da budu „tačne“ i bez doživljaja – kao u primeru „kineske sobe“. Ali to nije ni dokaz da ne oseća; jednostavno, sam tekst ne može da odgovori na to pitanje.
Rešenje 3: mogući argumenti
Za: mozak je sastavljen od ćelija koje se ponašaju po zakonima fizike; ako je svest nastala u takvom sistemu, možda može i u drugom koji obrađuje informacije na sličan način. Protiv: današnji AI samo predviđa reči i nema telo, čula, potrebe ni sopstveni život; nema razloga da mislimo da tu postoji ikakav doživljaj, a imitacija nije isto što i iskustvo.
Proveri znanje
Otvori kviz
Kviz: da li AI ima svest?
1. Šta je svest?
2. Da li to što četbot napiše „srećan sam“ dokazuje da oseća sreću?
3. Šta je danas stav većine stručnjaka?
4. Kome se obraćaš kada ti je teško?