Da li ste pristalica teorije zavere?
Da
Ne
Ne znam
Broj 604
aktuelno izdanje
A „terminatora” (ne)će biti!
Mikro roboti

Krajem novembra prošle godine, Ministarstvo odbrane SAD objavilo je novu direktivu koja reguliše proceduru za interakciju čoveka sa autonomnim i poluautonomnim sistemima naoružanja. Prema tom dokumentu, Pentagon namerava da zadrži ljudsku kontrolu nad primenom robotizovanih sistema naoružanja.
Vojni stratezi se slažu da su kibernetički sistemi neophodni za ratove budućnosti, ali da čoveku ipak treba ostaviti mogućnost da donosi presudne odluke. Mogu li ratne mašine jednog dana zaista da „polude”, pobune se i preuzmu vlast (kao u „Terminatoru” i „Matriksu”) - pitaju se mnogi. Stoga je, za svaki slučaj, rešeno da se spreči neželjeno angažovanje robotizovanih bojevih sistema „za nanošenje štete ljudima ili objektima, nanoseći nivo kolateralne štete koja prevazilazi ono što dopušta ratno pravo ili ne odgovara očekivanjima komandujućeg”.
Ipak, Pentagon ovom direktivom ne zabranjuje stvaranje autonomnih kibernetičkih sistema, već samo planira da ostavi čoveku mogućnost da sistem neutrališe - ako je to neophodno.

MARV - poput mrava

Ostaje, naravno, problem kako upravljati grupom bojevih mašina opremljenih začecima veštačke inteligencije? Ovde se radi o sinhronoj interakciji desetina, pa i stotina hiljada kibernetičkih organizama. U laboratorijama se već simuliraju mogući efekti kooperativnog ponašanja ove garde „terminatora”.
U Sandia Nacionalnoj laboratoriji (SAD) još sredinom 1990-ih napravljen je model autonomnog robota MARV (Miniature Autonomous Robotic Vehicle), veličine (otprilike) kutije šibica. Do 2000. godine razmere ovog malog čuda umanjile su se više od četiri puta - novi sićušni uređaj imao je procesor sa 8 kilobajta memorije, temperaturni senzor, mikrofon, videokameru, hemijski senzor, bežični komunikacioni sistem... Ovi mini-roboti mogli bi, po rečima eskperata, biti objedinjeni za zajedničko rešavanje zadataka pod upravom centralnog kompjutera. Prema proizvođaču, glavno polje primene takvih robota moglo bi da bude traženje i neutralisanje bombi i mina, opasnih bioloških i hemijskih materijala. Još jedna obećavajuća oblast primene mikrorobata, po mišljenju vojnih stručnjaka jeste - obavljanje izviđačkih zadataka.
Sedam godina kasnije pojavila se vest da američka kompanija Icosystems planira da napravi jedinicu od 120 vojnih robota opremljenih kolektivnom inteligencijom (na sličan način funkcionišu mnoge zajednice insekata - recimo - mrava).
Dakle, na ovom se već dugo radi. A kada se radi - iskrsavaju i problemi. Tako su glavni problemi, kod ovog i sličnih projekata, neplanirane situacije u koje mogu da upadnu vojni roboti. Recimo - ako jedna od mašinica ostane bez kontakta sa glavnom grupom, ona se može preobratiti u potpuno nekontrolisani objekat. Slično mravu koji počinje da trči u krug kada je izolovan od članova svoje zajednice. „Sigurno je da postoje neke patološke konfiguracije koje mi moramo da pronađemo”– rekao je jedan od programera kompanije Icosystems Erik Bonabo.

Kako kontrolisati ponašanje „otcepljenih” robota - nije problem samo američkih vojnih stručnjaka. Novembra prošle godine pojavila se vest da i ruski inženjeri rade na sistemu upravljanja grupama robota, sposobnih da nose različite oblike naoružanja. Izvor iz Centralnog instituta za robotehniku i tehničku kibernetiku u Sankt Peterburgu poverio je novinarima: „U Rusiji se razrađuje sistem upravljanja grupama robotehničkih platformi. Potrebno je stvoriti jedinstveni punkt kontrole, da ne bi bilo korišćeno posebno upravljanje za svakog robota. Na tome se radi.”

Neimenovani predstavnik Instituta dalje je pojasnio: „Usavršavamo sistem navigacije, da to ne bi bio samo glupi robot, već i da bi posedovao određeni algoritam ponašanja, nezavisnost”. Dodao je da se tu ne radi o veštačkoj inteligenciji, već o algoritmu koji pomaže operatoru da upravlja kibernetičkim uređajem.

Brinu i Englezi

Negde u isto vreme, BBC je objavio informaciju da će 2013. godine u Kembridžu početi da radi Centar za proučavanje egzistencijalnih rizika (Centre for the Study of Existential Risk - CSER). Istraživači iz Kembridža proučiće pitanje da li će razvoj nauke i tehnike dovesti do kraja civilizacije. Zaposleni u centru, kako saopštava BBC, „podvrgnuće analizi opasnosti razvoja biotehnologije, stvaranja veštačkog života, nanotehnologije i globalnog zagrevanja”. Navodi se i da su „naučnici iz centra izjavili da bi bilo opasno odbaciti pitanje rizika ustanka robota”.
„Validna je pretpostavka da će se u nekom trenutku u ovom iili narednom veku razum oteti iz okova biologije” - rekao je profesor filozofije dr Hju Prajs, jedan od inicijatora osnivanja CSER. – „Trudimo se da pitanje o ovome učinimo prihvatljivim respektibilnim naučnicima”. Po njegovom mišljenju, kada roboti i kompjuteri prevaziđu nivo intelekta čoveka, možemo se naći u vlasti mašina, čiji se interesi nalaze van sfere interesa čovečanstva. „Ozbiljnost ove pretnje teško je proceniti, ali ona je sama po sebi razlog za uzbunu, s obzirom na to šta je u pitanju” - pišu istraživači na sajtu Centra.

Potrebno je napomenuti da britanski istraživači navode kao loš primer filmove „Matriks” i „Terminator”. Naime, pokazalo se da situacija prikazana u njima - porobljavanje čovečanstva sistemima veštačkog intelekta - i nije toliko fantastična. Sistem sličan Skynetu, koji figurira u filmovima iz serije „Terminator” - već je razradila američka vojska - naglašava BBC.
Iako se priča da će čovek sve nadzirati, a vojske svetskih sila uveravaju da se ne radi o sistemima potpuno autonomnih kibernetičkih organizama - već o tome da se stvori sistem koji omogućava operatoru upravljanje grupama vojnih robota - mnogi smatraju da će, pre ili kasnije, biti neophodno stvaranje veštačkih „mozgova”. Već se radi i na tome.

Još 2007, profesor Ešel Ban Jakov i njegov student Itaj Baruha sa Univerziteta Tel Aviva, pokazali su da je moguće povezati mrežu veštačkih neurona sa softverom koji registruje izmene u nervnoj aktivnosti. Kompjuter na taj način može da sarađuje sa neuronskom mrežom i ispunjava veoma složene zadatke - recimo - da rukovodi grupama bojnih „mrava”.

S obzirom da platforme za upravljenje autonomnim i poluatonomnim kibernetičkim sistemima zvanično još ne postoje (bar nas tako uveravaju), reklo bi se da nema razloga za brigu. A čemu onda nova dikretiva američkog Ministarstva odbrane? „To je samo putokaz za budućnost” - umiruje nas pomoćnik za politiku sekretara za odbranu SAD Dejvid Očmanek. Rek’o čovek.

S.Milić

Broj 604