Norman je prvi AI psihopat

Znanstvenici sveučilišta MIT razvili su novi algoritam umjetne inteligencije pod imenom Norman za koji su inspiraciju pronašli u Normanu Batesu, psihopatskom serijskom ubojici iz Hitchcockovog remekdjela Psiho iz 1960. godine.

Algoritam je istreniran tako da stvara asocijacije na svijet koji gleda potpuno drugačije od "normalnih" ljudi i računala. Kao primjer navode apstraktne oblike koje "normalni" algoritam prepoznaje kao grupu ptica koje sjedi na grani, dok Norman to vidi kao čovjeka koji čeka smaknuće na električnoj stolici.

U drugom primjeru u kojem klasični AI prepoznaje na slici dvoje ljudi koji stoje jedan ispred drugog, Norman vidi čovjeka koji skače kroz prozor.   

Psihopatski algoritam znanstvenici MIT-a su razvili u okviru eksperimenta u kojem su uvježbavali AI podacima iz, kako kažu, "najmračnijih kutova interneta". 

Između ostaloga algoritam su punili slikama na kojima ljudi umiru u stravičnim okolnostima koje su pokupili s jedne grupe na Redditu.

Nakon toga AI-u koji interpretira slike i opisuje što vidi u tekstualnom obliku, dali su Rorschachov test mrlja, odnosno morao je reći što vidi na papiru na koji je prije preslagivanja kapnuta tinta. Iz simetričnih i nedefiniranih oblika koje je tekstualno interpretirao, znanstvenici su mogli vidjeti osobnosti njegove ličnosti, baš kao što psiholozi isti test koriste za analizu stanja uma pacijenata.

Normanov pogled na svijet je prilično mračan, pa on posvuda vidi mrtva tijela, krv i razaranje, dok je drugi AI iz istih slika vidio obične mačke, ptice i ljude. 

Profesor Iyad Rahwan iz tima koji je razvio Normana kaže da ovo najbolje ilustrira novi svijet strojnog učenja u kojem su podaci puno važniji od algoritma. 

"Ovo upućuje na ideju da se podaci koje koristimo za treniranje AI-a reflektira na način na koji doživljava svijet i kako se ponaša", navodi Rahman.  

Ukratko rečeno, ovaj eksperiment je pokazao da ukoliko uvježbavate AI s mračnim podacima, oni i sam postane mračan. Naime, sve što je Norman učio o svijetu je bilo mračno, pa je iz toga razvio i mračnu ličnost, što ukazuje na potrebu da se umjetnu inteligenciju trenira s puno raznovrsnijim setovima podataka, pri čemu je dakako bolje (po ljude) da dobije čim pozitivniji input. 

"Inženjeri moraju pronaći način kako uravnotežiti podatke na neki način, a svijet strojnog učenja se ne bi smjelo prepustiti u potpunosti programerima", dodaje Rahvan koji zaključuje da nam dolazi novo doba AI psihologije koja treba dolaziti u obliku redovitih revizija sustava poput onoga što se radi u bankarskom svijetu.