U doba kada se čini da se svaki tehnološki gigant utrkuje u razvoju najnaprednijih sustava umjetne inteligencije, čelnici Signal-a, jedne od najpoznatijih aplikacija za sigurno komuniciranje, upućuju ozbiljno upozorenje. Prema njihovom mišljenju, agentska umjetna inteligencija predstavlja značajan sigurnosni rizik koji bi mogao ugroziti privatnost milijuna korisnika širom svijeta.
Agentska AI, za razliku od tradicionalnih sustava umjetne inteligencije koji jednostavno odgovaraju na upite, može autonomno donositi odluke i poduzimati radnje u ime korisnika. Ovi sustavi mogu pristupati različitim aplikacijama, upravljati podacima, komunicirati s drugim sustavima i izvršavati složene zadatke bez konstantnog ljudskog nadzora. Upravo ta autonomnost predstavlja srž problema na koji Signal upozorava.
Mxy Marlinspike, osnivač Signal-a, i ostali čelnici organizacije ističu tri glavna problema s trenutnim pristupom razvoju agentske AI: nesigurnost, nepouzdanost i potencijal za zlouporabu u svrhu nadzora.
Prvo, pitanje sigurnosti. Agentski AI sustavi često zahtijevaju pristup velikim količinama osobnih podataka kako bi mogli učinkovito funkcionirati. To znači da mogu pristupati porukama, kontaktima, fotografijama, dokumentima i drugim osjetljivim informacijama. Problem nastaje kada se ti podaci ne obrađuju lokalno na korisničkom uređaju, već se šalju na udaljene servere gdje mogu biti izloženi različitim sigurnosnim prijetnjama.
Drugo, pitanje pouzdanosti. Trenutni sustavi agentske AI sklonosni su greškama i mogu donositi odluke koje korisnik nebi nikada donio. Mogu pogrešno interpretirati instrukcije, poslati poruke pogrešnim osobama ili pristupiti informacijama kojima ne bi trebali pristupati. Ove greške nisu samo neugodne – mogu imati ozbiljne posljedice za korisnikovu privatnost i sigurnost.
Treće, i možda najzabrinjavajuće, pitanje nadzora. Signal upozorava da bi agentska AI mogla postati moćan alat za masovni nadzor. Ako vlasti ili zlonamjerni akteri dobiju pristup ovim sustavima, mogli bi pratiti aktivnosti milijuna ljudi u realnom vremenu, analizirati njihove komunikacijske obrasce i predvidjeti njihovo ponašanje.
Osobito zabrinjavajuće je što mnogi korisnici nisu svjesni razmjera podataka kojima agentska AI može pristupati. Dok korisnici možda misle da daju dozvolu samo za osnovne funkcionalnosti, AI agenti često zahtijevaju daleko šire ovlasti kako bi mogli obavljati svoje zadatke. To stvara značajan jaz između korisničkih očekivanja i stvarnosti.
Signal predlaže nekoliko ključnih mjera za rješavanje ovih problema. Prvo, svi sustavi agentske AI trebali bi prioritet davati lokalnoj obradi podataka. Umjesto slanja osjetljivih informacija na udaljene servere, AI agenti trebali bi raditi direktno na korisničkim uređajima kad god je to moguće.
Drugo, korisnici moraju imati potpunu kontrolu nad tim kojim podacima AI može pristupati. To znači jasne, razumljive dozvole koje korisnici mogu lako modificirati ili opozvati u bilo kojem trenutku. Transparent ost mora biti temelj svih AI sustava.
Treće, potrebno je implementirati stroge sigurnosne protokole koji će zaštititi korisničke podatke čak i u slučaju sigurnosnog ugroza. To uključuje end-to-end enkripciju, redovite sigurnosne revizije i otvoreni kod koji omogućava neovisnim stručnjacima provjeru sigurnosti sustava.
Na ova upozorenja reagirali su i drugi stručnjaci za sigurnost. Edward Snowden, poznati uzvigivač, poržio je Signal-ovu poziciju, ističući da agentska AI u pogrešnim rukama može postati "najmoćniji alat nadzora koji je čovječanstvo ikada stvorilo".
Međutim, ne slažu se svi s ovako pesimističnim pogledom. Neki stručnjaci tvrde da su ovi strahovi pretjerani i da postoje tehnička rješenja za većinu spomenutih problema. Ističu da agentska AI može donijeti značajne koristi korisnicima, od automatizacije rutinskih zadataka do poboljšanja produktivnosti.
Unatoč tome, Signal-ovo upozorenje dolazi u kritičnom trenutku. Dok se tehnološke kompanije utrkuju u implementaciji agentske AI u svoje proizvode, pitanja privatnosti i sigurnosti često se ostavljaju za kasnije. Signal poziva industriju da stane i razmisli o dugoročnim implikacijama prije nego što bude prekasno.
Zaključak je jasan: agentska umjetna inteligencija ima veliki potencijal, ali također donosi značajne rizike koje ne smijemo zanemariti. Trebamo odgovoran pristup razvoju koji stavlja korisničku privatnost i sigurnost na prvo mjesto, a ne brzinu dolaska na tržište.