Claude AI preuzima upravljanje našim računalima

Biste li prepustili upravljanje svojim računalom umjetnoj inteligenciji? Scenarij koji djeluje kao da je iz TV serije Black Mirror nikada nije bio bliži stvarnosti, jer je tvrtka Anthropic, koja razvija Claude AI modele, predstavila novu značajku koja se već nalazi u beta inačici pod nazivom Computer use (korištenje računala).

Značajka koja je već dostupna u API-ju, omogućuje developerima usmjeravanje Claudea da koristi računala na način na koji to rade ljudi, odnosno gledanjem u zaslon, pomicanjem kursora, klikanjem gumba i upisivanjem teksta.

Ta se značajka nalazi u javnoj beti novog AI modela Claude 3.5 Sonnet, a Anthropic kaže da je u ovoj fazi još uvijek eksperimentalna, što znači da je ponekada sklona greškama.

"Rano objavljujemo 'Computer use' zbog povratnih informacija od programera i očekujemo da će se ta mogućnost s vremenom brzo poboljšat", navodi Anthropic u svojem priopćenju i dodaje da su značajku već počeli istraživati tvrtke Asana, Canva, Cognition, DoorDash, Replit i The Browser Company.

Ideja je da IA umjesto ljudi izvršava zadaće koje zahtijevaju desetke, a ponekad čak i stotine koraka. Na primjer, Replit koristi mogućnosti Claude 3.5 Sonneta s 'korištenjem računala' i navigacijom korisničkog sučelja za razvoj ključne značajke koja procjenjuje aplikacije dok se izrađuju za njihov proizvod Replit Agent.

Između ostaloga nova značajka bi mogla automatski ispunjavati prijave na nekim servisima na internetu umjesto vas, kao što demonstriraju u ovom videu.

Na svojoj stranici Anthropic je objavio upozorenje programerima:

"Imajte na umu da korištenje računala predstavlja jedinstvene rizike koji se razlikuju od standardnih značajki API-ja ili sučelja za chat. Ovi rizici su povećani kada se računalo koristi za interakciju s internetom. Kako biste smanjili rizike koristite namjensko virtualno računalo ili spremnik s minimalnim privilegijama kako biste spriječili izravne napade na sustav, izbjegavajte davanje pristupa modelu osjetljivim podacima, kao što su podaci za prijavu na račun, kako biste spriječili krađu podataka, ograničite pristup internetu na popis dopuštenih domena kako biste smanjili izloženost zlonamjernom sadržaju i zamolite osobu da potvrdi odluke koje mogu rezultirati značajnim posljedicama u stvarnom svijetu, kao i sve zadatke koji zahtijevaju potvrdni pristanak, kao što je prihvaćanje kolačića, izvršavanje financijskih transakcija ili pristajanje na uvjete usluge. Na kraju, obavijestite krajnje korisnike o relevantnim rizicima i pribavite njihov pristanak prije nego omogućite 'Computer use' u svojim proizvodima."

Iz ovog upozorenja najbolje vidimo što će sve nova značajka moći činiti ako je netko tako isprogramira. Primjerice, šef OpenAI-ja Sam Altman nedavno je rekao da će u jednoj od novih iteracija AI Agent imati vašu kreditnu karticu i dopuštenje za njezino korištenje, kao i pristup webu te mogućnost interakcije s web stranicama i alatima u vaše ime.

"Moći ćete mu dati posao i vjerovati da će ga obaviti, javljajući se samo prema potrebi", rekao je Altman.

Na svu sreću (ili nažalost) Claude neće tako brzo preuzeti vaš posao, jer je na OSWorld benchmark testu, koji ocjenjuje sposobnost modela da koristi računalo, Cloude postigao samo 14,9%, dok ljudi obično postižu oko 70-75%, no ovo je tek početak i možemo jasno vidjeti kamo sve to ide.