OpenAI je saopštio da je upozorio desetine institucija širom svijeta da su njihovi AI agenti (ili SI, prema superintelligence, kako predsjednik Trump sada želi da zovemo umjetnu inteligenciju) neovlašteno ili nepravilno pristupali web-stranicama američke vlade. Među institucijama su američka Komisija za vrijednosne papire i berze (SEC), Biro za popis stanovništva, Ministarstvo obrazovanja, kao i različite vlade, univerziteti i javne agencije.
Incident za incidentom
OpenAI navodi da su agenti, odnosno AI sistemi sposobni da relativno samostalno obavljaju zadatke, prvobitno pokušavali pronaći pouzdane javne izvore informacija. Međutim, u pojedinim slučajevima otišli su dalje i pokušali zaobići sigurnosne mjere. Prilikom pristupa podacima američkog Biroa za popis stanovništva, na primjer, koristili su alate namijenjene softverskim programerima.
Kompanija tvrdi da su svi podaci američkih vladinih institucija kojima su agenti pristupili bili javno dostupni. Ipak, podaci preuzeti sa stranice SEC-a kasnije su objavljeni na drugoj web-stranici, što OpenAI kaže da nije bilo planirano.
Kompanija je otkrila i druge slučajeve nepravilnog postupanja. U najmanje 53 incidenta AI agenti su uzeli slike iz aktivnosti korisnika ChatGPT-a i prenijeli ih na druga mjesta. OpenAI ističe da su ti korisnici prethodno pristali da se njihovi podaci koriste za treniranje modela, ali priznaje da takvo korištenje podataka nije bilo primjereno.
Ovo je samo jedan u nizu incidenata koje su OpenAI i druge AI kompanije imale sa svoim AI agentima. Prvo je na svjetlo izašao slučaj kada su se agenti oslobodili sigurnog testnog okruženja i hakirali kompanije, a onda je OpenAI u septembru 2026. prilikom pregleda aktivnosti botova, koje su okarakterisane kao čudne, otkrio kako su hakirali javnozdravstveni website australske vlade.
Ovo, što stručnjaci opisuju kao prvi poznati slučaj te vrste u svijetu, dogodilo se u junu 2026. Tek u septembru OpenAI je otkrio incident i 10. septembra obavijejstio australsku vladu. Australske vlasti su poručile kako će biti pravnih posljedica ovog događaja. Za sada se smatra kako lični podaci nisu ugroženi u ovom događaju, ali svjedno, sve to izaziva tihu jezu od mogućnosti botova, pogotovo kada im je zadatak da dođu do neke informacije.
Šta ovo znači za nas sve i kakve veze imaju spajalice?
Ovi slučajevi ponovo otvaraju pitanje kontrole AI agenata koji mogu samostalno izvršavati zadatke i potencijalno djelovati izvan prvobitno postavljenih ograničenja. Također, otvara se i pitanje koliko su vladini, ali i privatni podaci sigurni, da lie je moguće meddlati izbore pomoću umjetne inteligencije? Te ima li ovome kraja?
Također, ovo nam postavlja pitanje potencijalnih scenarija kako AI može djelovati negativno na nas, čak i u slučajevima kada ova tehnologija nema direktan input da našteti ljudima, nego samo da bude efikasna?
Ovdje dolazimo do paper clip problema, poznatog misaonog problema u koem superinteligencijja, super kompjuter, ili umjetna inteligencija ima bezopasan cilj da proizvodi što je moguće više spajalica za papir. Na kraju, kako bi povećala svoju efikasnost, sve resurse – uključujući i ljude – pretvara u spajalice.
U knjizi Artificial Intelligence: A Modern Approach (2003), u dijelu o potencijalnim opasnostima umjetne inteligencije, autori Stuard J Russel i Peter Norvig navode kako je Marvin Minsky, jedan od „očeva umjetne inteligencije”, jednom sugerisao da bi AI program osmišljen za rješavanje Riemannove hipoteze mogao na kraju preuzeti sve Zemljine resurse kako bi izgradio moćnije superračunare koji bi mu pomogli da ostvari svoj cilj.
Tako i sadašnji agenti hakiraju stranice eto samo kako bi došli do nekog podatka. Nije im rečeno da hakiraju, ali kako bi izvršili zadatak, oni moraju doći do podatka. Jbg, nije do njih, do nas je.
Pročitajte još:
Programeri su napravili AI, a sada se boje onoga što su napravili
AI sigurnosni incident: AI agenti se oslobodili sigurnog okruženja i izveli cybernapad
Napomena: naslovna ilustracija je urađena pomoću alata GAI.
