Tehnološki lideri upozoravaju da brz razvoj veštačke inteligencije može biti opasan za čovečanstvo – Bankar.rs
SLIDERSVE VESTI

Tehnološki lideri upozoravaju da brz razvoj veštačke inteligencije može biti opasan za čovečanstvo

Više od 1.100 poznatih tehnoloških stručnjaka, među kojima su i Ilon Mask, Stiv Voznijak i Tristan Haris, potpisalo je otvoreno pismo kojim se traži stroža regulacija razvoja veštačke inteligencije.

Tehnološki stručnjaci smatraju da bi pre daljeg razvoja sistema veštačke inteligencije trebalo izvršiti njihovu nezavisnu procenu, kao i procenu njihovih uticaja na društo i posledica tih uticaja. Oni kažu da to ne bi predstavljalo blokiranje razvoja veštačke inteligencije, već samo “jedan korak unazad” na razdaljinu sa koje se može sagledati šira slika. Dodaju da ne bi bio prvi put da društvo pauzira razvoj tehnologija koje su potencijalno opasne po njega.

U pomenutom pismu oni zahtevaju da se bar u narednih šest meseci ograniči razvoj veštačke inteligencije snažnije od GPRT-4. Pismo je objavljeno samo dve nedelje pošto je predstavljena najmoćnija ChatGPT verzija do sada: GPT-4. Kompanija OpenAI, koja je razvila ovu tehnologiju, saopštila je da GPT-4 može da generiše tužbe, položi standardizovane testove i sa ručno napravljenog crteža kodira vebsajt koji funkcioniše.

Zašto je brz razvoj veštačke inteligencije problematičan?

Stručnjaci okupljeni oko ove teme poručuju da “savremeni sistemi veštačke inteligencije postaju konkurencija ljudima u opštim zadacima i zato moramo da se zapitamo – da li želimo da dozvolimo mašinama da preplave naše kanale informacija propagandom i neistinama? Da li bi trebalo da automatizujemo sve poslove, uključujući i one koji ispunjavaju ljudska bića? Da li bi trebalo da razvijamo neljudske umove koji će nas u konačnici brojčano nadjačati, nadmudriti, učiniti suvišnim i zameniti? Da li želimo da rizikujemo gubitak kontrole nad našom civilizacijom? Takve odluke ne smeju biti prepuštene liderima tehnologije, koji nisu odabrani. Moćni sistemi veštačke inteligencije trebalo bi da budu razvijani tek kada sa sigurnošću možemo da kažemo da će njihov efekat biti pozitivan, a rizicima će moći da se razumno upravlja“.

Iz tog razloga predlažu zaustavljanje razvoja veštačke inteligencije kako bi nezavisni stručnjaci mogli da razviju i implementiraju protokole koji će regulisati njen rad. Jer, u suprotnom, mogle bi da se ostvare pretnje iz naučno-fantastičkih filmova, odnosno da se veštačka inteligencija otme kontroli.

Ko je odgovoran za štetu koju napravi četbot?

“Laboratorije koje razvijaju veštačku inteligenciju su prethodnih meseci bile uvučene u trku koja se otrgla kontroli, a u okviru koje pokušavaju da razviju još moćnije digitalne umove koje niko, čak ni njihovi tvorci, još uvek ne može da u potpunosti razume, predvidi ili kontroliše“, poručuju autori pisma, među kojima ima i stručnjaka za veštačku inteligenciju.

U nastojanjima da osvoje što veći deo tržišta kompanije brzaju sa puštanjem novih verzija četbotova kojima se često potkradaju greške, kao što je davanje odgovora koji nisu tačni, narušavanje nečije privatnosti ili širenje diskutabilnih stavova i mišljenja. Mimo ovih grešaka, postoje i šire društvene posledice ubiranja ovakvog „instant znanja“. Primera radi, profesori upozoravaju da četbotovi mogu naneti veliku štetu i obrazovanju novih naraštaja.

Zbog svega navedenog potpisnici pisma predlažu kompanijama koje se bave razvojem veštačke inteligencije, posebno one koja se koristi za četbotove, da povedu računa o transparentnosti, bezbednosti, tačnosti informacija isl. Takođe smatraju da bi one trebalo da sarađuju sa zakonodavcima kako bi se sistemi veštačke inteligencije uveli u red. Državama savetuju da formiraju organe koji bi se bavili radom veštačke inteligencije i regulacijom istog. Nude i ideju o uvođenju vodenog žiga kojim bi se razlikovao sintetički sadržaj od onog koji su kreirali ljudi, a postavljaju i pitanje da li postoji neka kazna za štetu koju bi mogla uzrokovati veštačka inteligencija, i ko bi tada bio odgovoran za tu štetu.

Ko sve razvija ove tehnologije?

Da podsetimo, od kraja 2022. tehnološke kompanije se utrkuju koja će brže implementirati veštačku inteligenciju u svoje proizvode. OpenAI, Majskrosoft i Gugl su predvodnici ovog trenda, ali na sličnoj tehnologiji rade i IBM, Amazon, Baidu i Tensent. Spisak startap kompanija koje razvijaju generatore teksta ili slika na osnovu ove tehnologije je dugačak.

Izvor: Euraktiv, TechCrunch, Future of Life Institute

Tags
Back to top button