Connect with us

Zanimljivosti

‘Stručnjaci prestrašeni vlastitim uspjehom u razvoju umjetne inteligencije’

Objavljeno

on

Ex Machina (Isječak)

Istaknuti znanstvenik Stuart Russell koji je napisao vodeći udžbenik o umjetnoj inteligenciji (AI) izjavio je da su stručnjaci prestrašeni vlastitim uspjehom na tom polju, a čak su usporedili napredak AI-ja s razvojem atomske bombe.

Profesor Russell, osnivač Centra za umjetnu inteligenciju kompatibilnu s ljudima pri Sveučilištu Kalifornija, Berkeley, rekao je da većina stručnjaka vjeruje da će strojevi inteligentniji od ljudi biti razvijeni u ovom stoljeću te je pozvao na potpisivanje međunarodnih sporazuma kojima bi se regulirao razvoj tehnologije.

– Zajednica umjetne inteligencije još uvijek se nije prilagodila činjenici da sada počinjemo imati veliki utjecaj u stvarnom svijetu, rekao je za The Guardian.

– To dosad nije bio slučaj, bili smo u laboratoriju, razvijali stvari, pokušavali nešto osposobiti za rad, uglavnom nismo uspijevali. Pitanje utjecaja na stvarni svijet nije bilo relevantno. Moramo vrlo brzo odrasti, rekao je.

Umjetna inteligencija podupire mnoge životne aspekte modernog života, od tražilica do bankarstva, a napredak u prepoznavanju slika i strojnom prevođenju su među najvažnijim uspjesima posljednjih godina.

Stuart Russell, koautor najpopularnijeg udžbenika u području umjetne inteligencije ‘Umjetna inteligencija: moderni pristup’, koji će od ponedjeljka držati predavanje u sklopu serijala “Reith Lectures” na BBC-jevu radiju, kaže da je potrebno hitno uložiti napore da se osigura da ljudi nadziru razvoj superinteligentne umjetne inteligencije.

– AI je dizajniran jednom posebnom metodologijom i vrstom općeg pristupa. I mi nismo dovoljno oprezni da koristimo takvu vrstu sustava u kompliciranim postavkama stvarnog svijeta, rekao je.

Primjerice, može biti opasno zatražiti umjetnu inteligenciju da pronađe lijek za rak što je brže moguće.

– Vjerojatno bi pronašla načine da izazove tumor u cijeloj ljudskoj populaciji, kako bi mogla paralelno izvoditi milijune eksperimanata, koristeći sve nas kao pokusne kuniće, rekao je.

– A to je zato što je to rješenje za cilj koji smo joj postavili, samo smo zaboravili navesti da ne može koristiti ljude kao pokusne kuniće i ne može potrošiti cijeli BDP svijeta da izvodi svoje eksperimente i još hrpu stvari, objasnio je.

Istaknuo je da još uvijek postoji veliki jaz između današnje umjetne inteligencije i one prikazane u filmovima poput Ex Machina, koji istražuje granice između ljudske i umjetne inteligencije i otkriva kako bi izgledala budućnost s uređajima koji su inteligentniji od ljudi.

– Procjenjuje se da će se to dogoditi u rasponu između 10 godina, za najoptimističnije, i nekoliko stotina godina. Ali gotovo svi istraživači umjetne inteligencije će vam reći da će se to dogoditi u ovom stoljeću.

Jedna je briga da stroj ne bi trebao biti inteligentniji od ljudi u svemu kako ne bi predstavljao ozbiljan rizik.

– To je nešto što se sada događa. Ako pogledate društvene mreže i algoritme koji određuju što ljudi čitaju i gledaju, oni imaju veliku kontrolu nad našim kognitivnim unosom. Posljedica je da algoritmi manipuliraju korisnikom, ispiru mu mozak kako bi ponašanje korisnika postalo predvidljivije, te na taj način povećavaju prihode temeljene na klikovima, rekao je.

Na pitanje jesu li istraživači umjetne inteligencije postali prestrašeni vlastitim uspjehom, odgovara potvrdno.

– Mislim da smo sve više uplašeni, rekao je.

– To me malo podsjeća na ono što se dogodilo u fizici kada su fizičari znali da atomska energija postoji, mogli su izmjeriti mase različitih atoma i shvatiti koliko bi se energije moglo osloboditi ako biste mogli provesti pretvorbu između razlitičkih vrsta atoma, rekao je napominjući da su stručnjaci uvijek naglašavali da je to samo teorija.

– I onda se to dogodilo i oni nisu bili spremni za to, rekao je.

Istaknuo je da je vojna primjena umjetne inteligencije, poput stvaranja malog protupješačkog oružja, posebno zabrinjavajuća.

– Radi se o oružju koje se vrlo lako nadogradi, što znači da ih možete staviti milijun u jedan kamion i otvoriti stražnji dio i izbrisati cijeli grad, rekao je Russell.

Russell je pozvao na donošenje mjera uključujući kodeks ponašanja za istraživače, donošenje zakona i međunarodnih sporazuma kako bi se zajamčila sigurnost sustava umjetne inteligencije u upotrebi i obuka istraživača kako AI ne bi bio osjetljiv na probleme poput rasne pristranosti.

– Vjeruje da budućnost umjetne inteligencije leži u razvoju strojeva koji znaju da je pravi cilj neizvjestan, kao i naše sklonosti, što znači krajnja odluka mora ležati u rukama indivudualnog ljudskog bića. Ali ideja je složena, ne samo zato što različiti ljudi imaju različite, ponekad i sukobljene preferencije, a te sklonosti nisu fiksne, poručio je.

Istaknuo je da bi zakonodavstvo EU kojim bi se zabranilo automatizirano lažno predstavljanje trebalo usvojiti u cijelom svijetu.

Nada se da će uspjeti u predavanjima na BBC-ju naglasiti da postoji izbor o tome što nosi budućnost.

– Stvarno je jako važno da javnost bude uključena u te izbore, jer će javnost od toga imati koristi. Proći će još puno vremena dok ne dođe do napretka u umjetnoj inteligenciji, ali važno je naglasiti da to više nije znanstvena fantastika, zaključio je na kraju, prenosi Jutarnji List.

Što vi mislite o ovoj temi?

Oglasi
Komentiraj
Advertisement

Komentari