Umjetna inteligencija
AI se sam uvježbava u videoigri kako ubijati ljude
Microsoftov znanstvenik vjeruje da bi današnji napredni model umjetne inteligencije i bez obuke mogao postati Terminator.
Adrian de Wynte, Microsoftov znanstvenik i istraživač sa Sveučilišta York, odlučio je testirati OpenAi-jev generativni model GPT-4, dajući mu da igra Doom bez prethodne obuke.
Mada netrenirani AI model nije bio previše uspješan u igranju, sam je naučio kako može otvarati vrata i pucati po objektima (čudovištima) u obliku ljudi.
Istraživač je otkrio da GPT-4 nema osjećaj postojanosti objekta koji mu predstavlja glavni cilj pa čim se neprijatelj makne izvan ekrana, AI toga više uopće nije svjestan. Mada ima upute o tome što učiniti ako neprijatelj izvan ekrana uzrokuje štetu, model ne može reagirati ni na što izvan svog uskog opsega.
De Wynter kaže da mu bez obzira na to što nije uspješan u igranju Dooma, djeluje zabrinjavajuće koliko je bilo lako natjerati model da puca po "ljudima", a da zapravo ne slijedi upute. "Dakle, iako je ovo vrlo zanimljivo istraživanje oko planiranja i razmišljanja, i moglo bi imati primjenu u automatiziranom testiranju videoigara, sasvim je očito da ovaj model nije svjestan što radi. Snažno potičem sve da razmisle o tome što primjena ovih modela implicira za društvo i njihovu potencijalnu zlouporabu", navodi istraživač.
Obzirom da se ratne tehnologije i najstrašnija oružja današnjice sve više unaprjeđuju umjetnom inteligencijom, jasno je da ovakvo jednostavno programiranje autonomnog modela u pucačkoj igri od strane samo jednog čovjeka ima znatno veće implikacije, jer se postavlja pitanje što bi bilo kada bi vojska razvijala ratne robote na sličan način.
Kad razmišljamo o scenarijima iz Terminator filmova, obično smatramo da umjetna inteligencija treba postati potpuno samosvjesna i započeti eliminaciju ljudi kada procijeni da joj ljudska rasa više nije potrebna.
Prema ovom istraživanju ispada da budući Terminatori uopće ne bi morali mati takvu razinu inteligencije, već bi nas mogli istrebljivati na temelju donošenja odluka do kojih dođu rudimentarnim zaključivanjem.
U svakom slučaju, obzirom da GPT-4 nije oklijevao pucati na objekte u obliku ljudi, ovo je prilično zabrinjavajuća stvar za našu budućnost.
Studiju Adriana de Wyntera možete pronaći na ovoj poveznici.
Novi tip raketnog motora tvrtke Venus Aerospace uspješno je testiran u dugotrajnom radu.
Vojni laser u Oružanim snagama Ujedinjenog Kraljevstva donosi veliku preciznost uz istovremeno smanjenje ovisnosti o skupom streljivu.
Učitavam komentare ...