"Kum" umjetne inteligencije upozorava: Neke od opasnosti od AI chatbotova "prilično zastrašujuće"

Čovjek koji se smatra kumom umjetne inteligencije (AI) dao je otkaz, upozoravajući na sve veće opasnosti od razvoja u ovoj oblasti.

Geoffrey Hinton, 75, najavio je ostavku na Guglu u izjavi za New York Times, rekavši da sada žali zbog svog rada.

On je za BBC rekao da su neke od opasnosti od AI chatbotova "prilično zastrašujuće".

"Trenutno, oni nisu inteligentniji od nas, koliko mogu reći. Ali mislim da bi uskoro mogli biti."

Dr Hinton je takođe prihvatio da su njegove godine uticale na njegovu odluku da napusti tehnološkog giganta, rekavši za BBC: "Imam 75 godina, pa je vrijeme da se povučem".

Pionirsko istraživanje dr Hintona o neuronskim mrežama i dubokom učenju utrlo je put trenutnim AI sistemima kao što je ChatGPT.

U umjetnoj inteligenciji, neuronske mreže su sistemi koji su slični ljudskom mozgu po načinu na koji uče i obrađuju informacije. Oni omogućavaju AI da uče iz iskustva, kao što bi to učinila osoba. Ovo se zove duboko učenje.

Britansko-kanadski kognitivni psiholog i kompjuterski naučnik rekao je za BBC da bi čet-botovi uskoro mogli da prestignu nivo informacija koji posjeduje ljudski mozak.

"U ovom trenutku, ono što vidimo je da stvari poput GPT-4 zasjećuju osobu u količini opšteg znanja koje ima i to ih zasjenjuje na dugi put. U smislu rezonovanja, nije tako dobro, ali već jeste jednostavno rezonovanje", rekao je.

"A imajući u vidu brzinu napretka, očekujemo da će se stvari prilično brzo popraviti. Tako da moramo brinuti o tome."

U članku New York Timesa, dr Hinton se osvrnuo na "loše glumce" koji bi pokušali koristiti AI za "loše stvari".

Na pitanje BBC-a da to razradi, on je odgovorio: „Ovo je samo neka vrsta najgoreg scenarija, neka vrsta scenarija iz noćne more.

"Možete zamisliti, na primjer, da je neki loš glumac poput [ruskog predsjednika Vladimira] Putina odlučio dati robotima mogućnost da kreiraju svoje podciljeve."

Naučnik je upozorio da bi to na kraju moglo "stvoriti podciljeve poput 'Moram dobiti više moći'".

Dodao je: „Došao sam do zaključka da se vrsta inteligencije koju razvijamo veoma razlikuje od inteligencije koju imamo.

„Mi smo biološki sistemi, a ovo su digitalni sistemi. A velika razlika je u tome što sa digitalnim sistemima imate mnogo kopija istog skupa težina, isti model sveta.

"I sve ove kopije mogu da uče odvojeno, ali odmah dijele svoje znanje. Dakle, kao da imate 10.000 ljudi i kad god je jedna osoba nešto naučila, svi su to automatski znali. I tako ovi chat botovi mogu znati mnogo više od bilo koje osobe."

Matt Clifford, predsjedavajući britanske Agencije za napredna istraživanja i izume, govoreći u ličnom svojstvu, rekao je za BBC da najava dr Hintona "podvlači brzinu kojom se AI sposobnosti ubrzavaju".

"Postoji ogromna prednost ove tehnologije, ali je bitno da svijet ulaže mnogo i hitno u sigurnost i kontrolu AI", rekao je.

Dr Hinton se pridružuje sve većem broju stručnjaka koji su izrazili zabrinutost u vezi sa umjetnom inteligencijom – kako brzinom kojom se razvija, tako i smjerom u kojem ide.

'Moramo napraviti korak unazad'
U martu je otvoreno pismo - koje su zajedno potpisale desetine ljudi u polju AI , uključujući tehnološkog milijardera Elona Muska - pozvalo na pauzu u svim razvojima naprednijim od trenutne verzije AI chatbot ChatGPT kako bi se mogle osmisliti robusne sigurnosne mjere i implementiran.

Yoshua Bengio, još jedan takozvani kum AI, koji je zajedno sa dr Hintonom i Yannom LeCunom osvojio Turingovu nagradu 2018. za svoj rad na dubokom učenju, također je potpisao pismo.

Gospodin Bengio je napisao da upravo zbog "neočekivanog ubrzanja" u AI sistemima "moramo da napravimo korak unazad".

Ali dr Hinton je za BBC rekao da "u kratkoročnom periodu" misli da će AI donijeti mnogo više koristi nego rizika, "tako da ne mislim da bismo trebali prestati razvijati ove stvari", dodao je.

Rekao je i da bi međunarodno takmičenje značilo da će pauza biti teška. "Čak i kada bi svi u SAD-u prestali da ga razvijaju, Kina bi jednostavno dobila veliku prednost", rekao je.

Dr Hinton je takođe rekao da je stručnjak za nauku, a ne za politiku, i da je odgovornost vlade da osigura razvoj veštačke inteligencije "s puno razmišljanja o tome kako da spreči da ona postane kvarna".

'Odgovoran pristup'
Dr Hinton je naglasio da ne želi da kritikuje Google i da je tehnološki gigant bio "veoma odgovoran".

"Zapravo želim reći neke dobre stvari o Googleu. I vjerodostojnije su ako ne radim za Google."

U izjavi, Googleov glavni naučnik Jeff Dean rekao je: "Ostajemo posvećeni odgovornom pristupu AI. Neprestano učimo da razumijemo nove rizike, a istovremeno hrabro inoviramo."

Važno je zapamtiti da su AI chatbotovi samo jedan aspekt umjetne inteligencije, čak i ako su trenutno najpopularniji.

AI stoji iza algoritama koji diktiraju koje video-streaming platforme odluče da biste trebali gledati sljedeće. Može se koristiti u zapošljavanju za filtriranje prijava za posao, od strane osiguravatelja za izračunavanje premija, može dijagnosticirati medicinska stanja (iako ljudski doktori i dalje imaju konačnu riječ).

Ono što sada vidimo je uspon AGI - umjetne opće inteligencije - koja se može obučiti da radi niz stvari u okviru nadležnosti. Tako, na primjer, ChatGPT može ponuditi samo tekstualne odgovore na upit, ali mogućnosti unutar toga, kao što vidimo, su beskrajne.

Ali tempo ubrzanja umjetne inteligencije iznenadio je čak i njegove kreatore. Ona je dramatično evoluirala otkako je dr Hinton izgradio pionirsku neuronsku mrežu za analizu slika 2012. godine, piše BBC.

Čak je i Google šef Sundar Pichai rekao u nedavnom intervjuu da čak ni on nije u potpunosti razumio sve što je njegov AI chatbot, Bard, radio.

Ne budite zabune, trenutno smo u jurećem vozu, a zabrinutost je da će jednog dana početi graditi svoje kolosijeke.