Epifanija umjetne inteligencije, ili bar ono što se predstavlja kao epifanija, slijepa je za potencijalne opasnosti ovog alata. U riziku da nas se proglasi luditima, svaki intelektualac koji imalo drži do odbrane ljudskosti, makar ona bila sazdana tek od krvi, sluzi i mesa sa ograničenim kognitivnim procesima, morao bi neprestano ukazivati na slijepe tačke tehnologije i hipotetičke situacije nepravde.
A situacija je takva da se sada gotovo svaki rezultat u korištenju umjetne inteligencije koji bi mogao biti na strani čovječanstva, mogao iskoristiti i protiv njega i pojedinaca.
Pažnju je privukla vijest o mogućnostima AI tehnologije da sa snimaka bolje i brže te ranije detektuje tumore, recimo tumore dojke. U nekim istraživanjima, čak 5 godina ranije.
Ovo bi za pacijente u sistemima koji nisu pusta otimačina i griftanje značilo raniju dijagnozu biopsiju i raniji početak terapije, onda kada ima najviše šansi da se tumor izliječi. Uz testove na rizične varijante gena za neke vrste tumora koje su visoko genetički uslovljene, ovo bi moglo pomoću u otkrivanju žena koje imaju viši rizik za rak.
No druga strana medalje bi mogla biti to da kada se tumor ovako ranije otkrije, ljudi izgube polisu životnog osiguranja ili još gore, posao, kroz AI -enabliranu diskribinaciju i ableizama. Ovo je jedan problem koji je davno opisan kao mogućnost zloupotrebe kod genetičkih testova. Kompanije bi mogle otpuštati uposlenike samo na osnovu loših genetičkih karata.
Ako bi poslodavac na bilo koji način došao do informacija da radnik ima visok rizik od razvoja raka ili da AI prepoznaje vrlo rane znakove bolesti, mogao bi ga zaobići pri zapošljavanju, unapređenju ili produženju ugovora. U mnogim državama to bi bilo nezakonito, ali rizik od zloupotrebe postoji.
Postoji i rizik od odgađanja liječenja – upravo suporntno od onoga što ovi radovi pokazuju kao uspješnu priču. Umjesto da osoba ranije krene na terapiju, možda bi bila primorana nastaviti raditi jer „bolest još nije ozbiljna”.
Treba imati na umu kako medicinski AI sistemi obrađuju izuzetno osjetljive podatke. Ako nisu dobro zaštićeni ili ako se podaci dijele bez pristanka, mogu biti iskorišteni u svrhe koje pacijent nije odobrio.
I napokon, nijedan AI nije nepogrešiv. Lažno pozitivan nalaz može izazvati nepotreban stres i dodatne pretrage, dok lažno negativan može odgoditi dijagnozu. Ako se odluke donose isključivo na osnovu AI-ja, bez ljekarske procjene, posljedice mogu biti ozbiljne, kao i nepotrebni trškovi u zdravstvenim sistemima.
Zapravo sve ovo je potencijalni AI Minority report, samo što nije u korist pacijenata nego u korist korporacija. Svaki porgres umjetne inteligencije u rukama krupnog kapitala je Saturn koji jede svoju djecu.
Zbog toga stručnjaci sve više insistiraju na tzv. AI upravljanju (AI governance), odnosno, na jasnim pravilima koja određuju da medicinski podaci ostaju povjerljivi, da se AI koristi kao pomoć ljekaru, a ne kao zamjena za njegovu odluku, te da poslodavci, osiguravajuća društva i druge kompanije ne mogu koristiti zdravstvene informacije za diskriminaciju zaposlenih ili kandidata za posao.
Dakle, pitanje nije „može li AI rano otkriti rak?”, nego „ko kontroliše informacije koje AI proizvede i u čijem interesu se one koriste?”
Napomena: naslovna slika je generisana pomoću alata GAI
