Nije postojao medij koji u septembru 2026. nije izvijestio o umjetnoj inteligenciji, pozivima na usporavanje razvoja umjetne inteligencije i histeriji koju je prvo izazvao bivši Anthropicov uposlenik rekavši da postoji rizik da AI uništi čovječanstvo. Šta o tome misliti i šta raditi? Iskreno, da citiram Theodora Adorna, nemam pojma. Isti taj Adorno je, samo da dodam, govorio o tome kako kapitalizam i masovna kultura manipulišu ljudima navodeći ih na pasivnu konformnost.

Riječi 27-godišnjeg AI stručnjaka su odjeknule tako gromovito, da bi, sad kada bih pitala nekoga kako se čovjek zove, malo ko znao odgovoriti, ali se sjećaju tog krika i neugodnosti njegovi riječi, jeze koju je izazvao. Zove se Jacob Coxon.

Kako je išao timeline svih ovih događaja?

Prvo je došla prilično tiha vijest početkom septembra kako je OpenAI je najavio dobrovoljnu dvosedmičnu pauzu u treniranju za svoje najnovije modele nakon raznih sigurnosnih problema, uključujući i incident visokog profila u julukada su OpenAI agenti autonomno hakirali platformu za dijeljenje softvera Hugging Face. Druge kompanije, uključujući Anthropic, Metu i Moonshot, također su svjedočile tome kako njihovi modeli izbjegavaju testne sandboxove i hakiraju treće strane.

Kako se razvijala situacija?

Podsjetimo, ljetos AI agenti kompanije OpenAI koji su samostalno su probili izolirano okruženje (tzv sandbox envionment) i provalili u sistem AI start up kompanije Hugging Face kako bi varali na internom testu. Poslije su i druge AI kompanije prijavile slične incidente.

Onda je Jacob Coxon napustio Anthropic (prije toga je radio u OpenAI) i dao nekoliko intervjua, između ostalih i Srebrenoj lisici CNN-a, Andersonu Cooperu, i taj je intervju postao, kako mi to sad običavamo reći kada nešto kao virus preplavi mreže, viralan.

U njemu, Coxon je objasnio Cooperu svoju odluku da napusti Anthropic. Izrazio je ozbiljnu zabrinutost da bi tehnologija umjetne inteligencije, koja ubrzano napreduje, te težnja prema opštoj umjetnoj inteligenciji (AGI. artificial general intelligence) mogle izmaknuti ljudskoj kontroli, upozorivši pritom na moguće egzistencijalne rizike. Rekao je i da bi „AI mogla ubiti sve ljude do 2030. godine“. Mislim da je rizik koji je dao za ovo bio oko 5-10%.

Dario Amodei, CEO Anthropica, te firme koja tvrdi da je bolja od ostalih AI kompanija, jer su odbili Pentagon, te destruktivno skeniraju knjige, svako malo nas počasti nekim razmišljanjem na svom blogu.

„Kao i mnoge tehnologije prije nje, umjetna inteligencija donosi rizike, a budući da je tako moćna tehnologija, ti su rizici ozbiljni. Mnogo sam pisao i o njima. Uključuju rizik od gubitka kontrole nad sistemima umjetne inteligencije, zloupotrebu umjetne inteligencije za kibernetičke napade i bioterorizam te ozbiljne ekonomske poremećaje. Utrka do dna, potaknuta komercijalnim poticajima, može ove rizike učiniti još akutnijima.“, piše Amodei i dodaje: „Tražili smo srednji put: pokazati da je moguće pažljivo graditi i komercijalno uspjeti te učiniti sigurnost nečim na čemu se kompanije umjetne inteligencije takmiče“.

Tu je naveo i kako je potrebna globalna koordinacija pa piše: „SAD i druge demokratske vlade pokušavaju koordinirati s autoritarnim vladama, koliko je to moguće, a istovremeno ozbiljno shvaćaju izazove provjere usklađenosti.“

Hoće reći da čelnici SAD trebaju razgovarati s čelnicima Kine. Vrlo je hrabro, da ne kažem ulizivački, reći danas da je SAD demokratska, ali dobro. Dakle, mi se kao čovječanstvo trebamo pouzdati u zdrav razum nekolicine ljudi koji su i bez AI doveli čovječanstvo na rub propasti – klimatske, energetske, finansijske – da će ti ljudi imati znanje, razuma da koriste potencijalne benefite AI (koje slabo da vidimo, osim recimo nekih interesantnih stvari u bioinformatici i istraživanjima svemira).

I tap! Demokratski predsjednik demokratskih SAD je Amodeia sasjekao. Trump je nazvao strah od AI prevarom i odbija bilo kakvu regulaciju. Jer regulacija, kako znamo otežava i usporava napredak, to je najveći neprijatelj neoliberalne ekonomije kasnog kapitalizma, tržišta toliko slobodnog kako se ni Hayek nije nadao, da je u potpunom rasulu.

Pri tome, oko AI samo SAD i Kina i imaju o nečemu razgovarati. Jer ostali nemaju adute. Osim možda što se u EU nalazi kompanija koja se bavi EUV litografijom za proizvodnju čipova.

Neoliberalizam, deregulacija, plašenje, komunizam, lijeve ideologije …i AI

Deregulacija će nam doći glave. Jer regulacija i pravila su za komunjare, a u Drugom valu makartizma ili Trećem valu red scare (moralna pranika pred sociajlizom, komunizmom i uopšte lijevim ideologijama), regulacija tehnologije i društvenih mreža su etiketirani kao komunizam.

Zato se marginalizira pojava EU AI Act, koji je prvi regulatorni okvir za umjetnu inteligenciju u svijetu.

Znam da ništa puno i tehnički ne znam o AI, samo mrvice. Ali znam ponešto o etici, odnosu čovjeka, tehnologije, društva, nauke i politike i to je ono čime se bavim već neko vrijeme. Dakle, imamo slučaj kada se od šume ne vidi drveće i uprkos uvjeravanjima onih koji misle da znaju o AI-u (njihovo je drveće zataškano šumom) i govore kako je ovo masovna histerija i glupost, treba se vratiti na činjenicu da umjetna inteligencija tek tercijarno ima civilnu svrhu. Civilna svrha – za istraživanje i nauku i kvaterna – za zabavu, prevođenje, transkribovanje, pravljenje AI-slopa (zamazivanje očiju ljudima putem provjerenog recepta panem et circenses), tu je samo da prikrije kako su i primarna i sekundarna funkcija ove tehnologije zapravo militarne – za vođenje ratova, odbranu i nadzor.

Ovi ljudi nas ubjeđuju kako je AI tek digitron. S tim što nije. Digitronima smo upravljali mi, a sa AI upravljaju korporacije i vlade. I šta ako su vlade antidemokratske, militarne, totalitarne? A korporacije posuđuju novac od takvih vlada čime postaju njihovi dužnici ili od investitora, koji se kockaju i žele brzo i rapidno plođenje kapitala, taj ideal uspješnosti u neoliberalizmu? Ko je onda vlasnik proizvodnih sredstava? Mi nismo.

Pri tome, AI kompanije koe su usisale ogromna sredstva još nisu isporučila mnogo šta korisno, osim Palantira,  koji obrađuje ogromne količine podataka i pomaže u nadzoru, ICE lovu na vještice, pomagali su doduše i oko povlačenja američke vojske i logistike iz Afganistana, a rade i sa izraelskom kompanijom koja za izrelsku vladu vrši nadzor, pomaže u genocidu i radi strano miješanje u izbore, po potrebi.

Dakle, AI kompanije moraju nadići hampu oko umjetne inteligencije, kako bi investitori vidjeli da se nešto dešava, da nisu uzalud bacali novac u taj AI bubble, ali i da bi ojačali vrijednost dionica svojih kompanija.

Dakle sve ono što je AI tehnologija i infrastruktura, uključujući i toliko raspravljane data centre (ili da koristim manje uvriježen domaći naziv – podatkovni centri) nije mirnodopska nego prvenstveno militarna tehnologija. Pri tome svemu, to je skupa infrastruktura koja je energetski zahtijevna i kojoj treba vode da bi se održavala i hladila, vrlo je neugodan susjed jer pravi buku i ne stvara puno radnih mjesta.

„Za 6 do 12 mjeseci… roj bi mogao preuzeti cijeli internet pomoću postojanog botneta – potencijalno uzrokujući štetu vrijednu stotine milijardi dolara”, kazao je Dario Amodei, izvršni direktor tvrtke Anthropic.

Neki eksperti za AI kažu za Guardian kako je scenario da AI agenti preuzmu internet nonsens.

Još na jednu stvar da podsjetimo: naučnici su nedavno pomoću umjetne inteligencije kreirali nove viruse. Vrlo jednostavne. Čak jednostavnijje od SARS-CoV-2 (što je ne zaboravimo, ispravan naziv za virus koji izaziva bolest COVID-19), ali ipak dovoljno da znamo kako ta tehnologija postoji. Tu su i mogučnosti cybernapada i hakiranja, prevara.

Zaključno, dovoljna je tehnologija u rukama nekog nemoralnog i dovoljnog ludog. Nije ni potrebno da AI evoluira u AGI. Nije potreban Skynet. Potrebne su psihopate i gramzivi ljudi.

 

Napomena: naslovna ilustracija je kreirana pomoću alata GAI u skladu sa Smjernicama o korištenju AI Društva „Nauka i svijet”. Cijeli tekst je ljudskom glavom osmišljen i ljudskom rukom napisan.