Jacob Coxon napustio je Anthropic i javno optužio tu tvrtku te svog bivšeg poslodavca OpenAI da se neodgovorno utrkuju prema samopoboljšavajućoj superinteligenciji. Njegov odlazak važan je zato što nije riječ samo o vanjskom kritičaru: Coxon kaže da je tri godine radio na pretreningu modela u oba laboratorija. Ipak, njegova procjena katastrofalnog ishoda nije dokaz da današnji modeli već mogu pokrenuti nekontroliranu petlju vlastitog razvoja.

Ostavka koja je otvorila unutarnji spor

Coxon je objavio da odlazi nakon tri godine rada na pretreningu, fazi u kojoj se veliki modeli uče na golemim skupovima podataka prije naknadnog podešavanja za razgovor, kodiranje ili druge zadatke. Wall Street Journal, TechCrunch i Guardian potvrdili su njegov odlazak. U središtu njegove poruke nije bio konkretan kvar jednog modela, nego smjer industrije: smatra da konkurencija tjera laboratorije da povećavaju sposobnosti brže nego što napreduju metode nadzora i usklađivanja.

Njegove najteže tvrdnje moraju ostati jasno pripisane. Coxon predviđa da bi budući sustavi mogli nadmašiti ljude u hakiranju, istraživanju i stjecanju stvarnih resursa te upozorava na katastrofalne posljedice. To je procjena čovjeka iz industrije, a ne mjerenje s pouzdanom učestalošću, vremenskim rokom ili eksperimentalnom potvrdom. Upravo zato ostavka jest vijest, ali sama po sebi ne potvrđuje scenarij o kojem upozorava.

Coxon traži koordinaciju među američkim laboratorijima i navodi da bi za zaustavljanje globalne utrke mogla biti potrebna privremena zabrana daljnjeg povećavanja sposobnosti. Takav prijedlog otvara teška praktična pitanja: tko bi definirao zabranjenu sposobnost, kako bi se provjeravao privatni razvoj i bi li nacionalna zabrana samo premjestila natjecanje u druge države. U svojoj poruci nije ponudio razrađen mehanizam provedbe.

Što zapravo znači samopoboljšavajući AI

Rekurzivno samopoboljšavanje nije tek još jedno ažuriranje modela. Ideja je da AI sustav preuzme dovoljno poslova u istraživanju — osmišljavanje eksperimenata, pisanje koda, analizu rezultata i izbor sljedeće arhitekture — kako bi pomogao stvoriti snažniju generaciju. Ako novi sustav zatim ubrza razvoj svojeg nasljednika, nastaje povratna petlja u kojoj se tempo promjene može odvojiti od ljudskog ritma odlučivanja.

Hubinger, koji radi na usklađivanju modela s ljudskim ciljevima, javno je podržao srž Coxonove zabrinutosti. Procijenio je vjerojatnost izumiranja na više od 10 posto u sljedećem desetljeću i rekao da Anthropic nema gotov plan za usklađivanje superinteligencije. Istodobno je napravio važnu ogradu: rizik današnjih modela opisao je kao nizak, dok strah veže uz moguću buduću rekurzivnu samonadogradnju.

Samuel Marks, Anthropicov voditelj skalabilnog nadzora, zasebno je napisao da dio razvijatelja ozbiljno razmatra katastrofalne ishode, uz napomenu da govori osobno. Time je Coxonova poruka dobila težinu javnog neslaganja među stručnjacima unutar iste tvrtke. Nije, međutim, objavljen reprezentativan interni upitnik koji bi pokazao koliko zaposlenika dijeli te procjene niti postoji konsenzus o brojčanoj vjerojatnosti katastrofe.

Anthropicova pravila postoje, spor je jesu li dovoljna

Anthropic se javno predstavlja kao laboratorij koji rast sposobnosti veže uz jače zaštite. Njegova Politika odgovornog skaliranja verzije 3.4 na snazi je od 8. srpnja, a tvrtka objavljuje sigurnosne planove i redigirane izvještaje o riziku. Politika definira prag AI R&D-4: ako ga model prijeđe, Anthropic mora izraditi argument da je prepoznao neposredne rizike neusklađenog ponašanja i objasniti kako ih ublažava.

Za Claude Opus 4.6 tvrtka je procijenila da taj prag nije prijeđen, ali je priznala da je granicu sve teže pouzdano isključiti i da procjene postaju subjektivnije. Politika također jasno kaže da Anthropic može pauzirati razvoj čak i kada formalni prag to ne nalaže. Coxonova kritika zato nije tvrdnja da pravila ne postoje; njegov je argument da privatna politika jednog laboratorija nije dovoljna kada svi sudionici vjeruju da će netko drugi nastaviti utrku.

Zašto je odlazak važniji od još jednog upozorenja

Industrija AI-ja već godinama proizvodi otvorena pisma i apokaliptične procjene. Ovaj je slučaj konkretniji jer zaposlenik odustaje od posla, a njegove javne navode djelomično podupiru kolege koji ostaju u tvrtki. To pokazuje da rasprava o tempu razvoja nije samo sukob laboratorija i vanjskih regulatora, nego i pitanje upravljanja unutar samih kompanija.

Granice dokaza ipak ostaju čvrste. Ostavka ne otkriva novi tehnički rezultat, sustav koji se dokazano samostalno nadograđuje ni incident iz kojeg se može izračunati rizik izumiranja. Također nije poznato hoće li Anthropic promijeniti raspored razvoja ili sigurnosne procedure; tvrtka nije odmah komentirala odlazak. Najpoštenije je događaj čitati kao ozbiljan signal sukoba oko upravljanja rizikom, a ne kao potvrdu neizbježne katastrofe.

Europska pravila daju nadzor, ali ne rješavaju cijelu dilemu

Za Hrvatsku je najizravniji okvir europski Akt o umjetnoj inteligenciji. Pružatelji modela opće namjene koji mogu nositi sistemski rizik moraju procjenjivati i ublažavati te rizike, dok Ured za AI može tražiti dokumentaciju, provoditi evaluacije i zahtijevati korektivne mjere. Taj nadzor može povećati količinu provjerljivih podataka o modelima dostupnima na europskom tržištu.

No sadašnji europski okvir nije isto što i Coxonov prijedlog privremene zabrane povećavanja sposobnosti. Propisivanje procjena, dokumentacije i ublažavanja rizika ne odgovara automatski na političko pitanje treba li zaustaviti razvoj prije nego što se prijeđe nejasno definirana granica superinteligencije. Ostavka zato pojačava pritisak za jasnije mjerljive pragove i neovisne provjere, ali ne daje jednostavan kriterij kada bi regulator morao povući ručnu kočnicu.

Zašto je važno

Javno neslaganje sigurnosnih istraživača unutar vodećeg laboratorija pretvara teorijski spor o egzistencijalnom riziku u konkretno pitanje upravljanja: tko smije odlučiti da je ubrzavanje modela prihvatljivo i na temelju kojih mjerljivih pragova.

Hrvatska / EU kontekst

U EU-u već vrijede obveze za modele opće namjene s mogućim sistemskim rizikom, a Ured za AI ima nadzorne ovlasti. To je važan institucionalni odgovor, ali nije zabrana razvoja samopoboljšavajućih sustava kakvu Coxon razmatra.

Što još ne znamo

  • Brojčane procjene rizika izumiranja osobni su sudovi istraživača, ne empirijski utvrđene vjerojatnosti.
  • Nije objavljen dokaz da današnji modeli mogu održavati nekontroliranu rekurzivnu petlju samopoboljšavanja.
  • Anthropic nije odmah objavio hoće li ostavka promijeniti razvojni raspored, politiku ili sigurnosne postupke.