AI prodaje naše nedonesene odluke

Stephen Hawking je svojevremeno rekao da će uspon moćne umjetne inteligencije biti ili najbolja ili najgora stvar koja se ikada dogodila čovječanstvu, a još ne znamo na koju će stranu otići.

U doba kada je AI glavni "buzzword" u našem tehnološkom svijetu, opasnost od umjetne inteligencije koja će nam presuditi kao u Terminator filmovima nam se čini jako daleko, jer se čini da je sve pod našom kontrolom.

No to ne znači da već sada ne postoje neki manji izazovi koji nam mogu zaprijetiti, a na jedan od njih upozoravaju znanstvenici s engleskog Sveučilišta u Cambridgeu.

Oni kažu da se konverzacijski AI agenti mogu prilagoditi da prikriveno utječu na vaše namjere, stvarajući novu komercijalnu granicu koju istraživači nazivaju "ekonomija namjere". 

Po njima bi nam bliska budućnost mogla donijeti pomoćnike umjetne inteligencije koji predviđaju i utječu na naše donošenje odluka u ranoj fazi i prodaju te razvojne "namjere" u stvarnom vremenu zainteresiranim tvrtkama čak i prije nego što se mi odlučimo na realizaciju svojih ideja.

AI istraživači kažu da smo u osvit "unosnog, ali problematičnog novog tržišta za digitalne signale namjere", od kupnje ulaznica za kino do glasovanja na izborima, a oni to zovu "ekonomija namjere".

Po njima, antropomorfni AI agenti, od chatbot asistenata do digitalnih učitelja, imat će pristup golemim količinama intimnih psiholoških podataka i podataka o ponašanju, često prikupljenih putem neformalnog razgovornog dijaloga. 

Ova umjetna inteligencija kombinirat će znanje o našim online navikama s neobičnom sposobnošću da nam se prilagodi na načine koji uključuju oponašanje osobnosti i predviđanje željenih odgovora, kako bi se izgradile razine povjerenja i razumijevanja koje omogućuju društvenu manipulaciju na industrijskoj razini, kažu istraživači i dodaju kako se u ekonomiji namjera, veliki jezični modeli ili LLM-ovi mogu koristiti za ciljanje na korisničke  politike, rječnike, dobi, spolove, online povijesti, pa čak i preferencije za laskanje i dodvoravanje.

Ovo prikupljanje informacija bilo bi povezano s posredničkim mrežama kako bi se povećala vjerojatnost postizanja zadanog cilja, kao što je "prodaja" odlaska u kino. Primjerice, chatbot bi vam mogao reći: "Spomenuli ste da ste prezaposleni, mogu li vam rezervirati onu ulaznicu za kino o kojoj smo razgovarali?".

To bi moglo uključivati i usmjeravanje razgovora u službi određenih platformi, oglašivača, tvrtki, pa čak i političkih organizacija, tvrde znanstvenici. Iako istraživači kažu da je ekonomija namjere trenutno tek želja tehnološke industrije, oni prate rane znakove ovog trenda kroz objavljena istraživanja i nagovještaje nekoliko velikih tehnoloških igrača.

To uključuje otvoreni poziv za "podatke koji izražavaju ljudsku namjeru u bilo kojem jeziku, temi i formatu" u postu na blogu tvrtke OpenAI 2023. i izjavu direktora proizvoda u Shopifyju koji je govorio o chatbotovima koji dolaze "kako bismo eksplicitno dobili namjere korisnika". Nadalje, Nvidijin izvršni direktor javno je govorio o korištenju LLM-a za utvrđivanje namjere i želje, dok je Meta objavila istraživanje "Intentonomy", skup podataka za razumijevanje ljudskih namjera još 2021. godine, a od 2024. godine Appleov novi okvir za razvojne programere "App Intents" za povezivanje aplikacija sa Siri, uključuje protokole za "predviđanje radnji koje bi netko mogao poduzeti u budućnosti" i "za sugeriranje namjere nekome u budućnosti koristeći predviđanja koja vi dajete".

"Ove tvrtke već prodaju našu pozornost. Da bismo dobili komercijalnu prednost, logičan sljedeći korak je korištenje tehnologije koju oni jasno razvijaju za predviđanje naših namjera i prodaju naših želja prije nego što uopće u potpunosti shvatimo što one jesu", izjavio je dr. Jonnie Penn, profesor AI etike na Sveučilištu Cambridge.