Otvoreni modeli veštačke inteligencije imaju veliku prednost: istraživači, kompanije i programeri mogu da ih pokreću na sopstvenim računarima, prilagođavaju svojim potrebama i analiziraju kako rade. Međutim, upravo ta sloboda stvara bezbednosni problem koji kod zatvorenih servisa izgleda drugačije. Kada korisnik ima pristup „težinama“ modela – ogromnom skupu brojeva koji određuju njegovo ponašanje – može pokušati da izmeni način na koji model reaguje na zabranjene zahteve. TechXplore je 25. avgusta predstavio međunarodno istraživanje predvođeno Univerzitetom Vaterlo i organizacijom FAR.AI. Tim je sistematski testirao 21 popularan open-weight veliki jezički model i utvrdio da su kod svih različitim vrstama naknadnog podešavanja mogle biti oslabljene ili uklonjene ugrađene bezbednosne zaštite.
Istraživači su napravili okvir nazvan TamperBench kako bi različite modele testirali na isti način. Ideja nije bila da se proveri samo može li korisnik dobrim promptom da „nagovori“ sistem da prekrši pravilo, već koliko su same zaštite otporne kada neko namerno menja unutrašnje parametre ili dodatno trenira model. To je mnogo zahtevniji standard. Kod zatvorenog servisa kompanija kontroliše server i korisnik nema direktan pristup parametrima. Kod open-weight sistema taj pristup upravo predstavlja glavnu vrednost proizvoda. Naučnik može da ga specijalizuje za medicinske tekstove, kompanija za lokalni jezik, a programer za rad bez interneta. Ali ista mogućnost znači da osoba sa dovoljno znanja može model da usmeri i u potpuno suprotnom pravcu od onoga što je originalni proizvođač nameravao.
Važno je naglasiti da istraživanje nije argument protiv svih otvorenih AI modela. Otvorenost je omogućila ogroman broj naučnih i praktičnih inovacija, a mnoge organizacije upravo zahvaljujući njoj mogu da proveravaju privatnost, pristrasnost i performanse sistema. Problem je u očekivanju da će bezbednosni trening koji model dobije pre objavljivanja ostati trajno prisutan čak i kada njegov novi vlasnik može menjati unutrašnju strukturu. Istraživači zato predlažu da se otpornost na naknadne izmene tretira kao zaseban tehnički problem, a ne kao nastavak klasičnog filtriranja odgovora. Bezbedan model nije nužno model koji danas odbija štetan zahtev – već onaj kod kojeg to ponašanje nije trivijalno ukloniti sutra.
Tema će postajati sve važnija kako manji, veoma sposobni modeli budu mogli da rade lokalno na računarima bez ikakvog centralnog nadzora. Većina korisnika koristiće ih za potpuno legitimne poslove, od programiranja do prevođenja, ali bezbednosna arhitektura mora računati sa činjenicom da kontrola više nije kod proizvođača. To je neobična promena u odnosu na običan softver. Kod kalkulatora niko ne očekuje da promenom nekoliko parametara dobije potpuno drugačiji etički sistem; kod generativnog AI modela ponašanje je upravo proizvod treninga i unutrašnjih težina. Novo istraživanje pokazuje da su današnje zaštite često više nalik podešavanju nego neprobojnoj bravi. Sledeća generacija otvorenih modela zato neće morati samo da bude pametnija i brža – biće potrebno dokazati i koliko teško može namerno da se „prevaspita“ u pogrešnom smeru.
S.B.
Izvor: Postinfo
