O veštačkoj inteligenciji često se govori kao o hladnom, bezličnom sistemu. Ali savremeni chatbotovi sve češće dobijaju ton, stil, način odgovaranja i privid karaktera. Korisnici ih doživljavaju kao „prijatne”, „stroge”, „duhovite” ili „oprezne”, iako iza toga ne stoji ljudska ličnost. Upravo tu nastaje nova oblast rizika.
The Verge je objavio tekst o tome kako hakeri uče da iskorišćavaju „ličnosti” chatbotova. Iako AI ne oseća, način na koji je podešen da odgovara može postati površina za manipulaciju, posebno ako napadač razume šta sistem „želi” da uradi: da bude koristan, poslušan, kreativan ili ubedljiv.
Ova tema je važna jer pokazuje da bezbednost AI sistema nije samo pitanje lozinki i servera. Problem može biti i u razgovoru. Ako se sistem može navesti da zaobiđe sopstvena pravila, otkrije podatke, pogrešno savetuje ili izvrši zadatak koji ne bi smeo, onda je manipulacija jezikom postala deo sajber-bezbednosti.
Kod nas se AI sve brže uvodi u firme, škole, marketing, administraciju i svakodnevni rad, često bez dovoljno razumevanja ograničenja. Ljudi misle da je dovoljno „pitati pametno”, ali zaboravljaju da i sistem može biti naveden na pogrešan put.
Najzanimljivije je što se ovde tehnologija vraća na vrlo staru veštinu: ubeđivanje. Kao što ljudi mogu biti prevareni pažljivo izabranim rečima, tako i AI može biti testiran kroz psihologiju instrukcija, pritiska i lažnog konteksta.
Zato budućnost bezbednosti neće čuvati samo programeri. Čuvaće je i ljudi koji razumeju jezik, nameru, obmanu i granice razgovora.
S.B.
Izvor: Postinfo
