Otvoreno pismo koje su potpisali Ilon Mask, jedan od osnivača kompanije Epl Stiv Vozniak, te drugi istaknuti stručnjaci i zvaničnici iz oblasti visoke tehnologije, poziva industriju veštačke inteligencije da napravi šestomesečnu pauzu radi razvoja bezbednosnih protokola.
Pismo, koje je do četvrtka ujutro potpisalo gotovo 1.400 ljudi, sastavio je Institut za budući život, neprofitna organizacija posvećena “usmeravanju transformativnih tehnologija dalje od ekstremnih, velikih rizika, kao i prema donošenju koristi za život”.
U pismu se navodi brzi razvoj sposobnosti tehnologije veštačke inteligencije, koja je u mnogim oblastima nadmašila ljudske performanse. Autori koriste primer kako se vještačka inteligencija korištena za stvaranje novih lekova može lako upotrijebiti za pravljenje smrtonosnih patogena.
Pismo kao razlog za brigu ukazuje i na nedavno uvođenje “GPT-4”, programa kojeg je razvila kompanija “OpenAI” sa sedištem u San Francisku.
GPT je skraćenica za engleski termin “Generative Pre-trained Transformer”, što je vrsta jezičkog modela koji koristi duboko učenje za generisanje razgovora nalik na tekstove koje bi izgovarali ljudi.
Iz kompanije su naveli da je “GPT-4”, najnovija verzija programa, tačnija i sličnija ljudima, te da ima sposobnost analiziranja i odgovaranja na slike. Takođe, kompanija je saopštila da je program položio simulirani pravosudni ispit, test koji ljudima omogućava da postanu advokati.
Potpisnici pisma navode da takve moćne sisteme vještačke inteligencije treba razvijati “tek kada budemo uvjereni da će njihovi efekti biti pozitivni i da će se njihovim rizicima moći upravljati“.
Napominjući potencijal koji bi program kao što je “GPT-4” mogao imati za stvaranje dezinformacija i propagande, pismo poziva “sve laboratorije veštačke inteligencije da odmah zaustave obuke sistema veštačke inteligencije koji su moćniji od ’GPT-4’, na barem šest meseci“.
U pismu se takođe navodi da bi laboratorije za veštačku inteligenciju i nezavisni eksperti trebali iskoristiti pauzu za “razvoj i implementaciju skupa zajedničkih bezbednosnih protokola za napredni dizajn i razvoj veštačke inteligencije, koji će se izvan svake sumnje pobrinuti da je to bezbedno.”
U međuvremenu, još jedna grupa je otišla korak dalje izražavajući zabrinutost oko negativnog potencijala “GPT-4”.
Neprofitna organizacija Centar za veštačku inteligenciju i digitalne politike podnela je u četvrtak žalbu Saveznoj komisiji za trgovinu SAD, pozivajući tu agenciju da suspenduje dalju implementaciju sistema i da pokrene istragu.
Grupa je u žalbi navela da tehnički opis sistema “GPT-4” koji su dali njegovi proizvođači opisuje desetak velikih rizika koje predstavlja njegova upotreba, uključujući “operacije dezinformacija i uticaja, širenje konvencionalnog i nekonvencionalnog oružja“, kao i “kibernetičku bezbjednost“.
Neke informacije u ovom tekstu preuzete su iz izvještaja novinskih agencija AP i Rojters.
Glas Amerike
COMMENTS