Žarko Paić

1.

Rainer Mühlhoff, rođen 1982., filozof je i matematičar te profesor etike i kritičkih teorija umjetne inteligencije na Sveučilištu u Osnabrücku. Također je suradnik u Einstein Centru za digitalnu budućnost i Weizenbaum institutu, oba u Berlinu. Njegovi istraživački interesi uključuju etiku i socijalnu filozofiju, kritičku teoriju i kontinentalnu filozofiju, zaštitu podataka i otpornost demokracija, filozofiju znanosti i filozofiju tehnologije u digitalnome društvu. Autor je niza knjiga o odnosu umjetne inteligencije i suvremenoga društva, te etike u doba vladavine AI. Njegova nova knjiga objavljena 2025. godine Umjetna inteligencija i novi fašizam već je u svojem naslovu iznimno intrigantna i zaslužuje kritičku pozornost i refleksiju. Doista, nije li to zapanjujuće: kakve veze ima najveći tehnološki izum 21. stoljeća s nastankom „novoga fašizma“?

2.

Umjetna inteligencija, ili AI, prema mišljenju autora, nije samo novi alat čija primjena daje dobre ili loše rezultate ovisno o njegovoj upotrebi, već socio-tehnički fenomen koncentriran u rukama nekolicine oligopola koji kontroliraju njezinu upotrebu. Ovo je u svim recentnim postmarksističkim ili neomarksističkim teorijama svojevrsnog tehno-kulturalnoga determinizma kojim se karakterizira suvremeni kapitalizam više negoli opće mjesto, pa tako i u ovoj knjizi Rainera Mühlhoffa. On tvrdi da se AI temelji na ogromnoj koncentraciji moći u rukama nekolicine tehnoloških tvrtki koje imaju ekskluzivan pristup informacijama o svojim kupcima. Te tvrtke posjeduju privatne medijske i podatkovne infrastrukture koje omogućuju i nove oblike kapitalističke eksploatacije i ekstrakcije, kao i nova sredstva manipulacije i kontrole ponašanja. U tom kontekstu, AI se čini kao tehnologija za akumuliranje, osiguranje i realizaciju moći i kontrole. Bez čvrste i zakonski propisane vladine regulacije, ova tehnologija moći idealno je prilagođena autoritarnim ili čak fašističkim ciljevima. (v. isto tako: https://www.spiegel.de/netzwelt/kuenstliche-intelligenz-wir-sollten-unbedingt-aufhoeren-der-ki-alles-zuzutrauen-a-01e60dcd-a6ac-4532-b036-0078d7c1125a )

No, zašto ne i liberalnim i demokratskim? Zar se tajne službe i tzv. intelligence-service u visoko razvijenim zapadnim poretcima koje još nisu podlegle virusu desničarskoga populizma i neofašističkim tendencijama u rasponu od „trumpizma“ do „putinizma“ i kineske totalne kontrole društva u zemlji i inozemstvu na isti način ne služe mrežom podataka za svoje političke ciljeve? Problem je ipak u određenju temeljnih pojmova koji su ulaskom tehnosfere u svakodnevnu uporabu posve promijenili tradicionalne političke kategorije diobe na građansko društvo i političku državu što je vrijedilo od uvjetno kazano Francuske revolucije do neoliberalne aksiomatike korporativnoga kapitalizma krajem 1970-ih godina u Europi i SAD-u. (v https://zarkopaic.net/blog-post/totalitarizam-bez-subjekta/ https://www.nacional.hr/feljton-totalitarnost-u-srcu-2/ ) Kako na ove izazove politologijskoj i sociologijskoj teoriji odgovara Rainer Mühloff?

Ideološka i tehnička povezanost između umjetne inteligencije i fašizma, kako to izvodi autor u knjizi, vidljiva je na materijalnoj razini u načinu na koji AI funkcionira i kako mijenja naše razumijevanje istine, kao i na razini javne percepcije umjetne inteligencije i svjetonazora koji prevladavaju u tehnološkim krugovima, a oboje je u jasnom kontinuitetu s eugeničkim, antiegalitarnim i fašističkim ideologijama 20. stoljeća. Mühlhoffova analiza predstavlja, kako kažu neki ljevičarski kritičari,  buđenje svijesti protiv političke naivnosti mnogih rasprava o umjetnoj inteligenciji. On se ne bavi isključivo američkom politikom, već međunarodnim trendom posljednjih godina. Naime, tzv. desničarske ideologije sve se više nalaze u radikalizirajućim svjetonazorima tehnoloških zajednica i njihovih IT i AI industrija. Dostatno je ukazati pozornost na Elona Muska i njegovo otvoreno koketiranje s AfD-om, te izravnim pozivom na promjene političkoga poretku Velikoj Britaniji čijoj trenutnoj vlasti otvoreno zamjera sklonost multikulturalizma, woke-ideologiji i tvrdome intervencionizmu u pristupu globalnoj ekonomiji.

Ovo je prvo što odudara od logike artikulacije fašističkoga poretka u tradicionalnome shvaćanju. Dostatno je konzultirati kanonsku knjigu o totalitarizmu Franza Neumanna, Behemot: Struktura i praksa nacionalsocijalizma 1933-1944. (Disput, Zagreb, 2012. S njemačkoga preveo Damjan Lalović)i odmah postaje jasno da je riječ o tzv. zapovjednoj ili državno-korporativnoj ekonomiji kakva je danas primjerenija za paradigmatske primjere autokratskoga despotizma Kine i Rusije kao neoimperijalne poretke vladavine negoli za SAD i Europu. (v. https://zarkopaic.net/blog-post/doba-nemezisa/ ). No, nema dvojbe da je „novi fašizam“ onaj teorijski hibrid i pojmovno-kategorijalna sablast nemogućnosti pozitivnoga određenja zato što je ono što nazivam subjektom bez supstancije. Drugim riječima, njegova se strukturalna metamorfnost u suvremenoj globalnoj ekonomiji pojavljuje uvijek kao trijada neoliberalizma, fundamentalizma i populizma, kako sam to izveo u svojoj analizi izvedenoj u knjigama Totalitarizam? i Nemezis. (v. https://zarkopaic.net/blog-post/o-postmodernom-kontekstualnome-fasizmu/ ) Kako, dakle, na ovaj očigledni paradoks svih teorija o „novome fašizmu“ odgovara autor ove knjige o umjetnoj inteligenciji i njezinu (ne)izravnome utjecaju na tzv. novi fašizam?

Pojam “fašizam” doista se pojavljuje u suvremenoj diskusiji vrlo prijepornim i nedostatno obrazloženim u novome kontekstu djelovanja, ali Mühlhoff zaslužuje barem priznanje što je učinio vidljivima skrivene mehanizme unutar AI industrije i njezine začudne sklonosti prema fašizmu. On ne tvrdi da postoji deterministička veza prema kojoj umjetna inteligencija neizbježno vodi do tehnokratske države ili čak do fašizma. Umjesto toga, on želi pokazati da su određeni tehnološki pristupi posebno kompatibilni s autoritarnim, mizantropskim i antidemokratskim ideologijama. Tehnološki vođeni kapitalistički način proizvodnje i elite povezane s njim doista bi mogle, kako tvrdi autor – poput buržoazije industrijske revolucije s projektom liberalne demokracije – težiti novom političkome i institucionalnome obliku vlasti, nekoj vrsti tehno-feudalizma. (v. o tome: Yannis Varoufakis,  Technofeudalism: What killed capitalism. Melville House, Brooklyn and London, 2024. Vidi kritički o tome: https://journals.sagepub.com/doi/10.1177/13684310241276474 )

Odmah moram ovdje kazati da se s analizom današnje „regresije“ suvremenoga informacijsko-korporativnoga kapitalizma kojemu AI odnosno tehnosfera određuje smjer kretanja u svim partikularnim slučajevima tzv. modela razvitka koju Varoufakis naziva „tehno-feudalizmom“ ne slažem. Pojam je naprosto neodrživ jer nije problem u tome što korporativni divovi tehnološkoga obrata u svjetskoj ekonomiji-politici-kulturi pokazuju u ideološkim svojim borbama sindrom desničarskoga Kulturkampfa s težnjom zaposjedanja totalne moći primitivne eksploatacije i prisvajanja „zemlje“ kao novoga feuda s elementima rigidnoga autokratizma. Problem je u tome što je kapitalizam u doba tehnosfere onaj transklasični poredak umreženih hibridnih poredaka trijade neoliberalizma, fundamentalizma i populizma koji pretpostavlja upravo globalno društvo totalne kontrole Drugoga s pomoću akumulacije kapitala kao delezovski kazano deteritorijalizacije/reteritorijalizacije.

Što je, dakle, za autora ovaj „novi fašizam“ koji u mnogim aspektima ne izgleda baš kao njegovi povijesni prethodnici? Nije li paradoks svake teorije o „novome fašizmu“ onaj isti kao i u govoru o „novome totalitarizmu“ kao višem rodnome pojmu kojemu su i fašizam i nacizam i staljinistički komunizam pojavni oblici jedne transcendentalne vodeće strukture djelovanja? Naime, jedino što nam preostaje u definiranju „novoga fašizma“ kao i „novoga totalitarizma“ leži u pojmu konceptualne analogije između već viđenoga u prošlosti i onoga što se uvijek ponavlja u novim formama pojavljivanja. Pogled na povijest pokazuje, tvrdi autor, da su čak i raniji fašizmi koristili obradu podataka kako bi preuzeli i centralizirali administrativnu infrastrukturu. Na primjer, nacisti su, u svojim nastojanjima da centraliziraju podatke u svim područjima Reicha, uveli IBM-ovu tehnologiju bušenih kartica. Nadalje, u dotične institucije instalirani su politički lojalisti, a politički disidenti i oni koji su smatrani nepoželjnima otpušteni su.

Oslanjajući se na Ecov znameniti esej “Vječni fašizam”, u kontekstu umjetne inteligencije mogu se definirati tri karakteristike kako bi se identificirale fašističke tendencije u politici i društvu, čak i izvan povijesnih režima. To su da fašistička politika ima za cilj uništiti vladavinu prava i demokratski poredak. Fašizam ne samo da istiskuje druge političke pozicije, već on nastoji uništiti demokratske strukture. Moć, kontrola i autoritarizam restrukturiraju se kroz tehnološke i političke mehanizme, poput demontaže državnih struktura, navodnih obećanja transparentnosti koja u konačnici vode do sve veće netransparentnosti i odgovornosti ili povećanog nadzora i zastrašivanja u svim područjima života i rada. Nadalje, to je spremnost na upotrebu nasilja. U fašizmu se nasilje smatra legitimnim političkim alatom. To uključuje ne samo fizičko nasilje, već i simboličko i jezično nasilje poput klevete, govora mržnje, zastrašivanja i medijskih kampanja blaćenja. Društveni sukobi rješavaju se antagonistički, a ne argumentima, s ciljem podjarmljivanja i isključivanja drugih. Naposljetku, fašizam također uključuje proračunato iskorištavanje najnovijih tehnologija za ostvarenje interesa moći. To se često događa u suradnji između industrije i režima. Utjecaj tehnoloških elita proteže se daleko u moderne fašističke pokrete. Digitalne tehnologije i platforme namjerno se koriste za upravljanje stanovništvom, intenziviranje diskriminacije i osiguranje moći. Manipulacija informacijama i nadzor ključni su alati.

Analiza podataka i tehnologija umjetne inteligencije koriste se za slabljenje vladavine prava i liberalnog demokratskoga poretka te ih zamjenjuju državom utemeljenom na automatizaciji i algoritamskom predviđanju i anticipaciji. I ovdje je očit jasan kontinuitet s eugeničkim, antiegalitarnim i antidemokratskim ideologijama 20. stoljeća. U raspravama o umjetnoj inteligenciji fokus je često na scenarijima daleke budućnosti. Moj prigovor ovoj postavci jest da je pitanje scenarija ili probabilizma posve suprotno, naime, stvar aktualne sadašnjosti iz koje se budućnost nastoji konstruirati i njome vladati racionalno i planomjerno. (v. https://www.waterstones.com/book/the-technoscientific-turn-of-philosophy/arko-pai/9783032210807 ) Dok se nagađa o tzv. prijetećim superinteligencijama umjetne inteligencije, autor ove knjige kaže da se zanemaruju već postojeće opasnosti poput iskorištavanja, nadzora, nepravde i koncentracije moći. Elon Musk i Donald Trump otpustili su mase državnih službenika kako bi uspostavili tzv. državu umjetne inteligencije. Izvršni direktori tehnoloških tvrtki prodaju umjetnu inteligenciju kao spasitelja za najveće probleme čovječanstva, iako se odgovarajuća industrija temelji na iskorištavanju i preziru prema ljudskim bićima. Koliko god ova postavka zvučala točnom, problematično je to što se pretpostavlja da korporativno upravljanje svijetom na ovoj višoj razini neljudske racionalizacije može imati „ljudsko lice“ eksploatacije znanja i vladanja nad dušom Drugoga. (v. https://verfassungsblog.de/trump-und-der-neue-faschismus/ )

3.

Tri glavne logike prevladavaju u modelima mišljenja tehnoloških ideologa

Kibernetički libertarijanizam: Ovo je stav koji snažno naglašava individualnu slobodu, slobodna tržišta i minimalnu vladu, često povezan s nekritičkim povjerenjem u tehnologiju, automatizaciju i privatne inovacije umjesto u vladinu regulaciju. Ovaj libertarijanizam nije liberalan u klasičnome smislu, jer se ne bavi demokratskom ustavnom državom koja jamči građanske slobode i slobodno tržišno gospodarstvo, već ima za cilj potkopati demokratske i egalitarne institucije temeljene na vladavini prava. Libertarijanski slogani poput onog o “vitkoj državi” često idu ruku pod ruku sa zahtjevom za smanjenjem kontrole i regulacije, ali ne nužno za proširenje slobode za sve, već za promjenu struktura moći u korist određenih elita. Takva država tada ne znači jačanje i širenje demokracije, već tehnokratskiji pristup.

Mračno prosvjetiteljstvo: Ovaj pojam potječe iz diskursa engleskog jezika i obuhvaća one škole mišljenja koje se temeljno protive središnjim vrijednostima prosvjetiteljstva poput demokracije, jednakosti i otvorenog društva. Ove vrijednosti zamjenjuju se hijerarhijom, autoritetom, učinkovitošću i oblicima upravljanja sličnim monarhiji ili izvršnim direktorima. Ova škola mišljenja temelji se na uvjerenju da su demokratski procesi prespori i neučinkoviti te da su strukture upravljanja privatnog sektora prikladnije za donošenje odluka. Predstavnici Mračnog prosvjetiteljstva skloni su procjenjivati ​​ljude na temelju njihove korisnosti i jednakost, ljudska prava i sudjelovanje smatraju preprekama, minimizirajući ih ili ignorirajući u korist učinkovitih vizija budućnosti.

Učinkoviti altruizam: Ovaj pokret nastoji koristiti oskudne resurse vremena i novca na način da minimizira patnju i maksimizira pozitivan utjecaj. Mjere utemeljene na dokazima imaju prioritet kako bi se postigao cilj maksimiziranja koristi, s posebnom pažnjom posvećenom dugoročnim posljedicama za mnoge buduće generacije. Iako se ovaj stav u početku može činiti moralno privlačnim, u određenim oblicima može biti problematičan, na primjer, kada se koristi za suzbijanje akutnih nepravdi ili za legitimizaciju tehnokratskih odluka koje teško podliježu demokratskoj kontroli. Nadalje, neki ekstremi učinkovitoga altruizma preklapaju se s drugim ideologijama poput mračnog prosvjetiteljstva i njegovog tehnološkoga optimizma i transhumanizma. Ponekad učinkoviti altruizam služi samo kao moralna folija iza koje se mogu skrivati ​​interesi moći.

Što je zaključna postavka knjige o AI i „novome fašizmu“? Umjesto da se izgubimo u znanstvenoj fantastici o umjetnoj inteligenciji, kaže autor, moramo raspraviti o tome kako umjetna inteligencija već pogoršava nejednakosti i funkcionira kao politički narativ. Političke i moralne implikacije trenutnih trendova moraju se kritički ispitati. Utjecaj industrije umjetne inteligencije na demokraciju i društvo mora biti strogo reguliran. Ukratko, potrebna nam je demokratizacija tehnološke politike: Umjetna inteligencija ne smije biti monopolizirana od strane privatnih korporacija ili autoritarnih vlada, već mora biti stavljena pod demokratsku kontrolu. To ne bi trebalo uključivati ​​bojkot pojedinačnih alata, već raspravu o dinamici moći i pravnim granicama. Javnost i kreatori politika moraju biti ovlašteni za provedbu učinkovite regulacije. Antidemokratski akteri moraju se izolirati društvenim i institucionalnim distanciranjem od desničarskih autoritarnih snaga koje koriste umjetnu inteligenciju u nedemokratske svrhe. Suprotno tome, demokratska javna sfera mora se ojačati obrazovanjem, kritičkim raspravama i svjesnom upotrebom jezika, jer je informirano civilno društvo koje uočava manipulativne tehnologije umjetne inteligencije ključno za otpor fašističkim razvojima izazvanim umjetnom inteligencijom:

„Prilikom pregovaranja o tehnološkim vizijama budućnosti, trebali bismo poći od pretpostavke da možemo oblikovati tehnologiju, da se možemo suprotstaviti akumulaciji moći koja će pratiti razvoj određenih tehnologija – i pritom uvijek moramo imati na umu pitanje društvene raspodjele koristi i dobitaka koji proizlaze iz takvih promjena.“

Na kraju ovog kritičkoga prikaza jedne vrijedne studije, još samo ovo. Njezina je „socijalna fenomenologija“ uglavnom prihvatljiva analiza stanja stvari s onime što je određujuće u suvremenome kapitalizmu onkraj granica tradicionalne nacije-države koja se, uostalom, raspala nakon kraja 2. svjetskoga rata kako su to izveli i Hannah Arendt i Carl Schmitt, uvjetno kazano teoretičarka politike i društva s liberalne ljevice i teoretičar države i prava s radikalne desnice. Ovaj „novi fašizam“ iako se pojavljuje u fragmentima novoga ideološkoga rata sukobljenih kultura (v. Žarko Paić, Politika identiteta: Kultura kao nova ideologija, Izdanja Antibarbarus, Zagreb, 2005.), nije stvar tek Europe u krizi vlastite legitimacije i pitanja moći upravljanja svijetom, već je ono što proizlazi iz unutarnjega preokreta u samoj biti ekonomije-politike-kulture još od sloma 1968. godine i nastanka metapolitičke „nove desnice“ koja se pojavila kao ideološka artikulacija „slabih označitelja“ protuprosvjetiteljstva ili onoga što Mühlhoff naziva „mračnim prosvjetiteljstvom“, a to je već spomenuta trijada neoliberalizma (ekonomije), populizma (politike) i fundamentalizma (kulture).

U tom je kontekstu svaki oblik radikalne kritike ovog sustava i poretka vladavine u suvremenome svijetu, koji je isto tako trijadičan jer se odnosi na neoimperijalne ratove i novu razdiobu geopolitički ustrojenoga prostora svijeta između Trumpove Amerike, Putinove Rusije i XI Jinpingove Kine, osuđen na gotovo slabu alternativu „subverzivne ljevice“. A ona još od 2000. godine i knjige Hardta i Negrija kao što je to bio Imperij nema ni teorijske ni praktične odgovore na povijesno-epohalnu logiku tehnosfere i njezine socijalno-političke konzekvencije.

Nema stoga niti ova knjiga jednog mladoga njemačkoga filozofa i matematičara, koji iz horizonta etičko-političke kritike „tehno-autokratizma“ svijeta ne može prevladati upravo taj ograničeni horizont prema kojem uvijek društveni odnosi određuju granice proizvodnim snagama, govoreći Marxovim pojmovljem iz Kapitala. No, stvar je upravo obratna za Marxa još iz razdoblja njegova spisa Grundrisse zur Kritik der politischen Ökonomie iz 1857/1858. godine, odnosno onkraj svakoga tzv. tehno-feudalizma i sličnih propalih iluzija. Bilo mu je kristalno jasno da upravo proizvodne snage kao fundamentalna struktura (znanost, tehnologija i industrija) određuju u krajnjoj instanciji te famozne društvene odnose iliti superstrukturu/nadgradnju u pervertiranome vidu etike, politike, kulture. Nije AI ili sadašnji oblik tehnosfere samo i jedino transparentno sredstvo akumulacije totalne i apsolutne moći jedne elitarne libertarijanske oligarhije koja vlada nad masama u „novome fašizmu“, već samosvrha jedne još čudovišnije vladavine koja „čovjeka“ u svim njegovim formama pojavljivanja potrebuje samo kao „karakternu masku“, rekao bi Marx u Kapitalu, onoga što nije niti „novi fašizam“, već  totalna mobilizacija nihilizma koji mijenja svoje političko-ideološke značajke i smjera u korporativnu mrežu imperija bez svojeg subjekta.