Osam razloga zašto bismo trebali biti zabrinuti zbog ChatGPT-ja

Donosimo osam razloga zašto bismo trebali biti zabrinuti zbog ChatGPT-ja i pažljivo pratiti što se s njime događa.

1) Računalna sigurnost i zaštita privatnosti

Puno je toga što ne biste smjeli dijeliti s robotima za brbljanje temeljenima na umjetnoj inteligenciji, i to s dobrim razlogom. OpenAI čuva vašu povijest razgovora na svojim web poslužiteljima i može dijeliti te podatke s drugim tvrtkama. Povjeravanje podataka OpenAI-ju dosad se pokazalo problematičnim.

U martu 2023. pojedini korisnici ChatGPT-ja mogli su vidjeti naslove razgovora u kojima ne sudjeluju. Iako je sigurnosni propust koji je to omogućio brzo zakrpan, Italija je zabranila ChatGPT i zahtijevala prestanak obrade ​​podataka talijanskih korisnika.

OpenAI je na kraju riješio problem s regulatorima uvođenjem nekoliko značajnih promjena. Dodano je dobno ograničenje (18 godina, odnosno 13 uz dopuštenje skrbnika).

Također je učinio pravila o zaštiti privatnosti vidljivijima i pružio Google obrazac pomoću kojeg korisnici mogu isključiti svoje podatke iz obuke umjetne inteligencije ili u potpunosti izbrisati povijest svojih razgovora na ChatGPT-ju.

2) Problemi s obukom

Pitanje je može li ChatGPT zadovoljiti odredbe Opće uredbe o zaštiti podataka (GDPR-a) i othrvati se rastućem pritisku zbog kršenja autorskih prava.

Američki zakoni nisu toliko strogi, pa prikupljanje podataka za obuku na području Sjedinjenih Država nije toliko problematično, iako se već gomilaju tužbe umjetnika i izdavača koji smatraju kako je OpenAI neovlašteno posegnuo za njihovim intelektualnim vlasništvom.

No, europski zakoni štite osobne podatke u značajno većoj mjeri. Kako ne znamo pojedinosti o tome kako se ChatGPT obučava, nije poznato koji su podaci korišteni, odakle podaci dolaze ili kako u detaljima izgleda arhitektura sustava.

3) Pogrešni odgovori

Ne ide mu elementarna matematika, ne može odgovoriti na jednostavna logička pitanja, sklon je argumentirati nešto što je u potpunosti netočno...

'Halucinacije', kako ove pogreške nazivaju u OpenAI-ju, posebno su opasne kad su povezane s, primjerice, medicinskim savjetima ili činjenicama o ključnim povijesnim događajima.

To se prenosi i na alate u koje je ChatGPT ugrađen, poput Microsoftove tražilice Bing. U OpenAI-ju rade na smanjivanju tih problema, ali oni su i dalje prisutni daleko više nego što bi smjeli biti.

4) Pristranost

ChatGPT odražava pristranosti i predrasude prisutne u materijalima korištenim pri njegovoj obuci. Stoga se pojavljuju odgovori u kojima, recimo, diskriminira spol, rasu i manjine.

Facebookov jezični model Galactica, namijenjen pomoći u akademskom istraživanju, brzo je opozvan nakon što su ga mnogi ljudi kritizirali zbog pogrešnih i pristranih rezultata povezanih sa znanstvenim istraživanjima.

5) Mogao bi oteti poslove ljudima

ChatGPT je već našao primjenu u nizu komercijalnih aplikacija. Na primjer, Duolingo i Khan Academy koriste ga kako bi ponudili virtualnog učitelja temeljenog na umjetnoj inteligenciji.

To bi mogao biti početak procesa u kojem će umjetna inteligencija postupno preuzimati sve više poslova koje su dosad obavljali ljudi. Među tim poslovima su, između ostalih, grafički dizajn, pisanje i računovodstvo.

6) Izazov za obrazovanje

Od ChatGPT-ja moguće je, na primjer, zatražiti lekturu teksta i upute kako poboljšati pisanje, pa i u potpunosti napisati nešto umjesto vas. Ako ChatGPT može pisati za nas i umjesto nas, hoće li učenici morati naučiti ovu vještinu u budućnosti? Isto vrijedi i za matematiku, kao i za svaki zadatak koji traži sažimanje, sintezu i izvođenej analitičkih zaključaka.

Učenici i studenti počeli su eksperimentirati s umjetnom inteligencijom čim im se za to ukazala prilika. Obrazovne institucije reagirale su promjenama u pravilima korištenja takvih i sličnih alata, ali to su privremene mjere. Za dugoročnija rješenja bit će potrebno pronaći odgovore na suštinska pitanja o tome što je obrazovanje i kako treba izgledati.

7) Širenje lažnih informacija

Osim za podizanje razine produktivnosti i zabavu, ChatGPT se koristi i za nedozvoljene, ilegalne te kriminalne radnje, u rasponu od govora mržnje do uvjerljivih prijevara online. I to usprkos postavljenim zaštitama i ograničenjima.

Širenje lažnih informacija također predstavlja ozbiljan problem. Razmjer u kojem ChatGPT može proizvesti tekst, zajedno sa sposobnošću da čak i netačne informacije zvuče uvjerljivo ispravno, čini sve što možemo naći na webu upitnim.

8) OpenAI drži sve konce u rukama

OpenAI odabire podatke koji se koriste za obuku ChatGPT-a i određuje tempo razvoja. Unatoč stručnjacima koji upozoravaju na potencijalne opasnosti, ne pokazuju znakove usporavanja.

Upravo suprotno. Popularnost ChatGPT-a potaknula je utrku između velikih tehnoloških tvrtki koje se natječu u lansiranju sljedećeg velikog modela umjetne inteligencije.

Iako OpenAI sigurnost smatra visokim prioritetom, postoji mnogo toga što ne znamo o tome kako sami modeli rade. Prisiljeni smo vjerovati na riječ čelnicima OpenAI-ja kad kažu kako će istraživati, razvijati i koristiti ChatGPT odgovorno.

No, riječ je o privatnoj tvrtki koja će nastaviti razvijati ChatGPT prema vlastitim ciljevima i etičkim standardima, što može i ne mora biti na opće dobro, piše Make Use Of.