Stručnjaci upozoravaju: Da li bi vještačka inteligencija mogla da uništi čovječanstvo?

15.06.2023. | 09:07

Da li bi vještačka inteligencija (AI) mogla da uništi čovječanstvo? Jedna grupa sa sjedištem u Briselu pod nazivom PauseAI vjeruje da je to moguće i pokušava da lobira u Evropskoj uniji da se zaustavi uvođenje moćnijih sistema vještačke inteligencije.

Ali prema skoro 300 članova aktivističkog kolektiva PauseAI, ovi moćni sistemi bi vrlo brzo mogli da nadmudre ljude, pa čak i da manipulišu njima. A ako ljudi pokušaju da ih ometaju ili isključe, ove tehnologije bi mogle da pruže otpor, prenosi Blic

PauseAI je pokrenut u maju i zamisao je softverskog inženjera Džoipa Mindercma.

Napravio je pauzu od svoje trenutne uloge direktora tehnološke kompanije da bi se fokusirao isključivo na PauseAI.

“Osjećam da postoji realna šansa da će u narednih nekoliko mjeseci neko izmisliti superinteligentnu mašinu. To će biti kraj čovječanstva kakvog poznajemo. To je za mene bio dovoljan razlog da počnem da se bavim ovim političkim pokretom, jer sam prilično uplašen”, rekao je on za “Juronjuz”.

Poziv za međunarodni samit o AI

Кonkretno, ono što najviše plaši Mindercma je to što će AI moći da pronađe ranjivosti “nultog dana” – ranjivost računarskog softvera koja je ranije bila nepoznata onima koji bi trebalo da budu zaduženi za njeno ublažavanje.

Uzimajući u obzir da bi kompanije i vlade na kraju mogle da daju sistemima vještačke inteligencije veću autonomiju i da ih povežu sa određenim vitalnim infrastrukturama kao što su električne mreže ili čak oružje, to bi moglo značiti da bi superinteligentni sistemi vještačke inteligencije mogli da ih isključe i izazovu haos.

Zato osnivač grupe PauseAI takođe traži od EU da predvodi međunarodni samit na tu temu.

“Prva stvar je pozvati vlade da organizuju samit i sprovedu moratorijum, pauzu na razvoj ovih opasnih sistema. To treba da se desi na međunarodnom nivou, jer ako to uradite na nacionalnom, biće mnogo argumenata protiv. Zemlje se takmiče kao što se kompanije takmiče. Ne možemo samo tražiti od kompanija da zaustave svoj razvoj vještačke inteligencije, jer imaju veliki konkurentski pritisak. Zato treba da odradimo ovaj samit”, objasnio je on.

Više od 350 stručnjaka upozorava

PauseAI nije jedini koji zvoni na uzbunu po ovom pitanju. U junu je Riši Sunak, britanski premijer, postao jedan od prvih svjetskih lidera koji je priznao potencijalnu “egzistencijalnu” prijetnju od razvoja “superinteligentne” vještačke inteligencije bez odgovarajućih zaštitnih mehanizama.

Nedavno je 350 rukovodilaca, istraživača i inženjera koji rade u AI potpisalo otvoreno pismo upozoravajući da bi to jednog dana moglo da uništi čovječanstvo.

“Ublažavanje rizika od izumiranja zbog vještačke inteligencije trebalo bi da bude globalni prioritet pored drugih društvenih rizika, kao što su pandemije i nuklearni rat”, navodi se u izjavi koju je objavio Centar za bezbjednost vještačke inteligencije, neprofitna organizacija. Ali neki tvrde da je vještačka inteligencija još uvijek previše nerazvijena da bi predstavljala egzistencijalnu prijetnju i da su kratkoročni problemi kao što su pristrasni i netačni odgovori trenutno najveći problemi.

Sem Altman, izvršni direktor OpenAI koji je razvio ChatGPT, rekao je da, iako vještačka inteligencija može da bude korisna za ljude, regulisanje vještačke inteligencije je od “suštinskog značaja”.