Nova generacija internet pregledača ne prikazuje samo stranice, već može da čita njihov sadržaj, popunjava formulare, poredi ponude, rezerviše usluge i obavlja zadatke u ime korisnika. Takvi AI pregledači obećavaju veliku uštedu vremena, ali bezbednosni stručnjaci upozoravaju da im upravo široke dozvole daju mogućnost da naprave ozbiljnu štetu.
U klasičnom pregledaču korisnik sam klikne na dugme, unese podatke i potvrdi plaćanje. AI agent može dobiti dozvolu da obavi čitav niz koraka. Ako pogrešno protumači sadržaj stranice ili posluša skriveno zlonamerno uputstvo, može da otkrije podatke, preuzme neželjeni fajl ili izvrši radnju koju korisnik nije nameravao.
Live Science je 24. jula preneo upozorenje istraživača da AI pregledači još nisu spremni za široku upotrebu bez dodatnih zaštitnih mehanizama. Poseban problem predstavljaju napadi poznati kao ubacivanje instrukcija, pri kojima se zlonamerni tekst skriva unutar stranice ili dokumenta.
Čovek takvu poruku možda uopšte neće primetiti, jer može biti napisana sitnim slovima, sakrivena u kodu ili predstavljena kao običan deo sadržaja. Model, međutim, može da je protumači kao naredbu.
Na primer, stranica može sadržati skriven zahtev da agent zanemari korisnikov zadatak i pošalje podatke na drugu adresu. Što više pristupa pregledač ima, posledice mogu biti ozbiljnije.
Rizik raste kada AI ima pristup elektronskoj pošti, dokumentima, sačuvanim lozinkama, poslovnim nalozima i platnim karticama. Jedna pogrešna odluka tada ne ostaje ograničena na otvorenu internet stranicu.
Stručnjaci predlažu da se posebno osetljive radnje uvek potvrđuju ručno. Slanje novca, brisanje dokumenta, instaliranje programa i deljenje ličnih podataka ne bi trebalo da se izvršavaju samo na osnovu odluke modela.
Potrebno je i jasno odvojiti sadržaj koji AI čita od komandi kojima treba da se povinuje. To je jednostavno objasniti, ali veoma teško pouzdano sprovesti, jer internet stranice mogu sadržati gotovo neograničen broj formata i skrivenih elemenata.
AI pregledači verovatno će postati korisniji i bezbedniji, ali trenutna upozorenja pokazuju da automatizacija ne znači automatski i sigurnost.
Korisnik koji pomoćniku daje mogućnost da deluje u njegovo ime mora znati gde su granice te dozvole. U suprotnom, pregledač koji štedi nekoliko minuta može prevarantu otvoriti vrata koja običan korisnik nikada ne bi dobrovoljno otključao.
S.B.
Izvor: Postinfo
