VIDEO: Znanstvenici uče robote neposlušnosti

Gordon Briggs i Matthias Scheutz, znanstvenici Laboratorija za interakciju ljudi i robota na Sveučilištu Tufts, bave se programiranjem robota i komunikacijom prirodnim jezikom, te su upravo objavili znanstveni rad u kojem opisuju kako su naučili robota reći ne, odnosno odbiti direktnu zapovijed od strane čovjeka.

Ako ste pomislili da je cilj ovog dvojca napraviti nekog terminatora koji neće uopće slušati ljude, prevarili ste se, jer je ideja Scheutza i Briggsa da umjetna robotska inteligencija dobije mogućnost procjene situacija u kojima neće izvršiti zapovijed, ukoliko je "neprimjerena", jer bi u protivnom mogao naškoditi sebi ili ljudima.

U znanstvenom radu, koji su naslovili jednostavno "Sorry, I can't do that", znanstvenici opisuju kako su AI arhitekturi pod nazivom DIARC, koja služi za upravljanje malim Nao robotom, "korigirali ponašanje", pruživši robotu mogućnost da u slučaju primarnog nagona za samoodržanjem ne izvrši zadaću uopće, da ju izvrši uz dodatno objašnjenje, ili da ju izvrši samo ako zapovijed izda osoba koja je autorizirana da može "kršiti pravila".

U  ovom videu možete vidjeti kako je kognitivna umjetna inteligencija robota donijela zaključak da ne smije krenuti u zadanom smjeru, jer se tamo nalazi fizička prepreka. Nakon što je čovjek robotu objasnio da je prepreka mekana i da mu neće naškoditi, robot je produžio hodanje, zabio se u prepreku, te ju prošao.

U drugom slučaju, znanstvenici su demonstrirali istu stvar, no sada je robot odbio izvršiti zadaću u potpunosti, mada je čovjeku priznao da ima mogućnost zaobilaženja "instinkta samoočuvanja", odnosno donošenja odluka koje bi mu mogle naškoditi. Kao što možete vidjeti u ovom videu, robot je jednostavno odgovorio da ima mogućnost zaobilaženja tog mehanizma, ali ga ne želi isključiti jer ta osoba nije autorizirana za to.

Znanstvenici vjeruju da će ovakvim razvojem sustava za donošenje odluka, robotima i ljudima omogućiti mirniji i sigurniji suživot bez tragičnih incidenata, kakve obično izaziva ljudski faktor uslijed izdavanja pogrešnih zapovijedi.

Izvor: Tufts University [znanstveni rad – PDF]