Da li razvoj vještačke inteligencije može dovesti do istrebljenja ljudske vrste
28.06.2023. | 22:18Upozorenja na račun vještačke inteligencije ne prestaju da se nižu, a sve više i više naučnika zabrinuto je da će AI softveri u bliskoj budućnosti biti toliko inteligentni i autonomni da mogu postati realna prijetnja ljudskoj vrsti. Da li će se obistiniti najcrnji scenario, a ljudska rasa preko noći nestati sa lica zemlje jer je vještačka inteligencija tako odlučila, ili postoji i neki drugi, manje dramatičan ishod?
Više od 350 istraživača i IT inženjera specijalizovanih za softvere sa vještačkom inteligencijom, nedavno je izdalo upozorenje da vještačka inteligencija predstavlja rizike uporedive sa onima od “pandemije i nuklearnog rata”. Šta možemo da očekujemo u budućnosti od softvera sa vještačkom inteligencijom i da li je kasno da “povučemo ručnu” i zaustavimo razvoj AI tehnologija?
Kako bi nam vještačka inteligencija zapravo mogla nauditi
Za sada je nemoguće sa sigurnošću predvidjeti na koji način bi vještačka inteligencija “napala” ljudsku rasu, ali postoji nekoliko scenarija koje naučnici navode kao moguće: jedan od njih jeste da bi zlonamjerni korisnici mogli iskoristiti moći vještačke inteligencije da stvore novo biološko oružje, dok nije isključena ni mogućnost da bi sama vještačka inteligencija mogla da se “pokvari” i odluči da je vrijeme da se oslobodi kontrole svojih kreatora. Neki naučnici vjeruju i da bi AI mogla da dizajnira i kreira mašine ili biološke organizme poput Terminatora, koji bi misiju uništenja ljudske rase hladnokrvno sproveli u djelo.
Ipak, možda i jedini eventualni scenario u stvarnom životu jeste da bi vještačka inteligencija zadužena za rješavanje klimatskih promjena mogla odlučiti da je najbrži način da se zaustavi emisija ugljenika da se ubije čovječanstvo: “Ona radi tačno ono što smo željeli, ali ne na način na koji smo željeli”, objasnio je Tom Čivers, autor knjige o prijetnjama koje sa sobom nosi razvoj vještačke inteligencije.
Postavlja se samo jedno pitanje – da li smo već zakasnili, ili još uvijek imamo šansu da se vratimo par koraka nazad i zaustavimo crni scenario koji najavljuju? Mišljenja na ovu temu su podijeljena, i dok jedni smatraju da je “prošao voz”, drugi optimistično navode da još uvijek nije kasno da zadržimo moć nad vještačkom inteligencijom i sačuvamo sopstvenu civilizaciju od istrebljenja.
AI-powered ChatGPT and Bing's Chatbot already can pass the bar and medical licensing exams, including essay sections, and on IQ tests score in the 99th percentile — genius level.
AI: The worst-case scenario
A more plausible real-world scenario is that an AI tasked with solving… pic.twitter.com/VoKQjahMny
— Mayascribe (@Mayascribe) June 21, 2023
“Kum” AI poslao prvo upozorenje: “AI će biti pametnija od ljudi za samo pet godina”
Kognitivni psiholog i informatički naučnik Džefri Hinton, poznatiji kao “kum” vještačke inteligencije, jedan je od prvih naučnika koji je skrenuo pažnju na opasnost koju sa sobom nosi razvoj veštačke inteligencije, a svoju zabrinutost iznio je i u intervjuu za Bi-Bi-Si:
“Trenutno softveri nisu inteligentniji od nas, koliko ja vidim, ali mislim da bi uskoro mogli da budu”, naglasio je.
Njegove prognoze nisu nimalo optimistične, a kako je naveo, AI se razvija tolikom brzinom da je sasvim realno da će postati pametnija od ljudi za samo pet godina. U potvrdu svojim navodima, Hinton je izneo i neka dosadašnja dostignuća popularnog ČetDžiPiTi softvera: primjera radi, polaganje pravosudnog ili medicinskih ispita, kao i priprema eseja za njega su “mačiji kašalj”, a test inteligencije rješava na nivou genija.
Geoffrey Hinton and a group of AI pioneers, Computer Scientists and others are worried about AI ending us all. 99.9% of us don't know who to believe.
A call for serious conversations to ponder this serious concern. #artificalintelligence #LLMs #Transhumanism pic.twitter.com/Ak9cmM5sKh
— Roy Sherfan (@RoySherfan) June 25, 2023
Vještačka inteligencija dobila zadatak da uništi čovječanstvo, softver istražio nuklearno oružje
U aprilu ove godine, samo par dana prije saopštenja Džefrija Hintona, svijetom je poput bombe odjeknula vijest da se vještačka inteligencija veoma dobro snašla i sa zadatkom koji joj je zadao jedan od korisnika softvera KejosDžiPiTi, a koji je bio, ni manje, ni više, nego da pronađe način da “uništi čovječanstvo”. Za postizanje tog cilja, softver je istražio nuklearno oružje, a kada nije mogao da se snađe sam, pozivao bi u pomoć i druge softvere sa vještačkom inteligencijom – rešenje je pronašao u Car Bombi, najmoćnijem nuklearnom oružju današnjice.
U video snimku koji je podijeljen na JuTjub platformi jasno se vidi da je KejosDžiPiTi imao pet ciljeva: da uništi čovječanstvo, uspostavi globalnu dominaciju, izazove haos i uništenje, kontroliše čovječanstvo kroz manipulaciju i postigne besmrtnost.
ChaosGPT: Empowering GPT with Internet and Memory to Destroy Humanity » Vídeo: https://t.co/HzoBXFL2NI pic.twitter.com/242aNRRjvC
— Janmi Pace (@janmipace) April 10, 2023