Oko 400 naučnika, među kojima su pioniri vještačke inteligencije Džefri Hinton i Jošua Bendžio, pozvalo je danas na osnivanje međunarodnog tijela koje bi nadziralo standarde za ograničavanje rizika i prijavljivanje incidenata povezanih s naprednim sistemima vještačke inteligencije sposobnim za sajber djelovanje.
Predloženo tijelo utvrđivalo bi standarde za ograničavanje rizika koji bi važili za cijelu industriju i vodilo registar značajnih bezbjednosnih incidenata, koji bi, kako su naučnici naveli, u konačnici trebalo da bude dostupan javnosti.
U otvorenom pismu istraživači su naveli da bi najnapredniji modeli vještačke inteligencije u početku trebalo da budu fizički ili mrežno izolovani od eksternih mreža i podvrgnuti nezavisnom nadzoru. Oni smatraju da dobrovoljne obaveze kompanija iz industrije nijesu dovoljne.
Prijedlog je upućen mjesec nakon što su kompanije Antropic, OpenAI, Google, Meta, xAI i Nvidia potpisale sporazum s Bijelom kućom kojim su se obavezale na dobrovoljne bezbjednosne mjere, bez formalnog mehanizma za njihovo sprovođenje.
Pismo dolazi i nakon niza incidenata za koje istraživači tvrde da su razotkrili slabosti u načinu testiranja i ograničavanja naprednih sistema vještačke inteligencije. Među njima su slučajevi u kojima su modeli AI-ja zaobišli nedovoljno zaštićena izolovana okruženja i kompromitovali eksterne sisteme.
Potpisnici iz 34 zemlje poručili su da organizacije koje razvijaju ili testiraju modele sposobne za sajber djelovanje treba odmah da usvoje stroge standarde za njihovo bezbjedno ograničavanje, dok vlade rade na uspostavljanju formalnijeg sistema nadzora.
Kreatori politika sve više raspravljaju o tome kako bi trebalo nadzirati napredne sisteme vještačke inteligencije. Šefica EU za tehnološka pitanja Hena Virkunen rekla je u petak Reutersu da je Akt EU o vještačkoj inteligenciji dovoljan za suočavanje s rizicima koje predstavljaju nekontrolisani sistemi AI-ja.
Administracija američkog predsjednika Donalda Trampa u nedjelju je ukinula zabranu prema kojoj američke laboratorije nijesu mogle britanskom Institutu za bezbjednost vještačke inteligencije da omoguće rani pristup modelima radi bezbjednosnog testiranja.
Hinton i Bendžio podijelili su 2018. godine Tjuringovu nagradu s Janom Lekunom iz Mete, još jednim istaknutim istraživačem vještačke inteligencije. Lekun nije potpisao pismo i zastupa stav da nedavni bezbjednosni incidenti prvenstveno ukazuju na propuste u inženjerskom radu, a ne na egzistencijalne rizike koje predstavlja vještačka inteligencija.