Izmiče li umjetna inteligencija kontroli?

Strah od umjetne inteligencije sveprisutna je tema koja obuhvaća raspon od svakodnevnih ekonomskih briga do dubokih egzistencijalnih pitanja o budućnosti čovječanstva. Dok tehnologija napreduje neviđenom brzinom, rasprave o rizicima vode se na razini vlada, znanstvene zajednice i samih kreatora tih sustava. 

Najveći praktični strah kod većine ljudi jest da će ih umjetna inteligencija (AI) zamijeniti na radnom mjestu. Dok su raniji valovi automatizacije ugrožavali manualne poslove, generativna umjetna inteligencija izravno pogađa uredske poslove, administrativne radnike, pisce, programere i kreativce. 

Inženjeri i bivši zaposlenici vodećih AI kompanija sve glasnije upozoravaju na opasnost od gubitka kontrole nad naprednim modelima. Poseban strah izaziva koncept u kojem bi AI počeo samostalno trenirati i unapređivati vlastiti kod. Ako sustavi postanu previše autonomni, povratak kontrole u ljudske ruke mogao bi postati nemoguć.

Trenutačno je gotovo nemoguće poslušati podcast ili pročitati vijesti, a da ne čujemo apokaliptična upozorenja o umjetnoj inteligenciji. Čelnik odjela za umjetnu inteligenciju u Microsoftu sugerira da bi ta tehnologija mogla postati nova „silicijska vrsta” koja konkurira ljudima. Bivši zaposlenik tvrtke Anthropic tvrdi da postoji velika vjerojatnost da bismo svi mogli stradati od njezine ruke. A Geoffrey Hinton, „kum umjetne inteligencije”, kaže da bismo nad njom mogli potpuno izgubiti kontrolu u roku od godinu dana. 

Je li umjetna inteligencija doista izmakla kontroli?

Autor Matthew Sparkes*, znanstveni novinar i publicist, u svom tekstu pod nazivom Is AI really getting dangerously out of control? objavljenom na uglednom znanstvenom portalu NewScientist donosi nam zanimljiva razmišljanja nekih od vodećih eksperata ne samo o opravdanosti strahova, već i o budućnosti čovječanstva u eri umjetne inteligencije:  

Mhairi Aitken, bivša djelatnica instituta Alan Turing, a danas suosnivačica neprofitne organizacije Our AI Collective, upozorava da ne bismo trebali prihvaćati predviđanja samo na temelju ugleda osoba koje ih iznose. Umjesto toga, trebali bismo se osloniti na činjenice – a one ne upućuju na to da se umjetna inteligencija otrgnula ljudskoj kontroli, niti da je na pragu toga.

„To je narativ koji se neprestano nameće. Svjedočimo valovima histerije”, kaže Aitken. Ako je išta izmaklo kontroli, ističe ona, onda to nisu modeli umjetne inteligencije, već ljudi koji ih razvijaju.

Kada modeli umjetne inteligencije hakiraju računala druge tvrtke, to se događa zato što tijekom testiranja nisu uvedene odgovarajuće sigurnosne mjere – a riječ je o testiranju osmišljenom upravo kako bi se procijenila sposobnost tih modela da provale u računalne sustave. Zapravo svjedočimo propustima tvrtki da uspostave adekvatne zaštitne mehanizme.

Andrew Rogoyski sa Sveučilišta Surrey u Ujedinjenom Kraljevstvu tvrdi da, zapravo, u posljednjih nekoliko godina nije došlo do nikakve dramatične promjene u pogledu rizika koje nosi umjetna inteligencija. Ipak, medijska se pompa povremeno rasplamsa uslijed nekog incidenta ili zvučne izjave.

„Vrlo je lako stvoriti takvu zastrašujuću priču. Igra se na kartu ljudskih emocija”, kaže Rogoyski. Smatra da su ljudi stvaranjem velikih jezičnih modela kreirali nešto što im je naizgled toliko slično da im služi kao svojevrsno zrcalo. „Tada tim modelima pripisujemo sva ljudska ponašanja i strahove. I zato ih se užasavamo”, dodaje.

Ako je sve to istina, zašto onda mnogi čelnici tehnoloških tvrtki pozivaju na usporavanje istraživanja umjetne inteligencije?

Aitken takve rasprave vidi kao način da se zakonodavce odvrati od donošenja propisa koji bi ometali rad tvrtki koje se bave umjetnom inteligencijom. Ipak, Aitken ističe da, kada bivši zaposlenici iznose smjela predviđanja o superinteligenciji i rizicima koje nose modeli umjetne inteligencije, te iste tvrtke ne poduzimaju gotovo ništa kako bi takve rasprave zaustavile. „Te priče o superinteligenciji zapravo idu na ruku tvrtkama koje se bave umjetnom inteligencijom jer stvaraju pompu i uzbuđenje te potiču ulaganja”, kaže Aitken.

Rezultat je taj da se tvrtke kreću po tankoj liniji narativa: s jedne strane uvjeravaju javnost da djeluju etično i odgovorno pozivajući na usporavanje razvoja – do kojeg vjerojatno neće ni doći – a s druge strane potiču znanstveno-fantastične predodžbe o superinteligenciji jer je to dobro za njihov biznis.

Unatoč svemu tome, postoje opravdani razlozi za zabrinutost u pogledu budućnosti. Rogoyski ističe da postoji stvaran – premda malen – rizik povezan s umjetnom inteligencijom, koji treba shvatiti ozbiljno. Bez obzira na to hoće li se model koji je dovoljno napredan da predstavlja takav rizik pojaviti uskoro ili tek za mnogo godina – nakon niza temeljnih tehnoloških iskoraka – vrijedno je planirati unaprijed.

Rogoyski kaže kako sumnja da je ijedan od trenutnih sustava umjetne inteligencije doista inteligentan, iako su naša definicija te riječi i razumijevanje njezinih mehanizama manjkavi. No, kada se takva inteligencija pojavi, ne bismo trebali očekivati da će izgledati ili djelovati poput nas: „pojavit će se obrasci razmišljanja i ponašanja koji će nam biti posve strani”.

Stoga je prepoznavanje takve vrste inteligencije iznimno teško, a predviđanje njezinih mogućih motiva još i teže.

„Ako gradite stroj za koji vjerujete da će biti inteligentan, tada biste trebali raspravljati o tome kakva bi on trebao imati prava”, kaže Rogoyski. „Znači li to da jednostavno mogu imati prekidač za gašenje kojim ću ga – kad mi dosadi ili kad se osjetim ugroženim – moći ugasiti'? To se ne čini osobito pravednim, a ni nužno korisnim, jer bi se strojevi koji se osjećaju ugroženima od strane čovječanstva mogli ponašati drukčije. Uskraćivanje prava takvom stroju moglo bi samo po sebi postati problem.”

Izvor: NewScientist.

* Matthew Sparkes je znanstveni novinar specijaliziran za tehnologiju. Stekao je diplome prvostupnika i magistra na Sveučilištu East Anglia u Engleskoj, gdje je studirao umjetnu inteligenciju i računalne znanosti. U časopisu New Scientist počeo je pisati 2006. godine, a trenutačno prati područja robotike, kvantnog računalstva, umjetne inteligencije i matematike. Pisao je i za The Guardian i The Daily Telegraph.