Harari i władza nad światem. Czy AI zdominuje ludzkość?

Zaawansowane systemy tzw. Sztucznej Inteligencji podejmują za ludzi coraz więcej decyzji. Jeżeli ich rozwój będzie cały czas szybko postępować, wkrótce rzeczywistość społeczna może zostać po prostu zdominowana przez AI – a to będzie oznaczać koniec ludzkiej kontroli nad światem, w którym żyjemy.

„Terminacja” człowieka

W jaki sposób AI może zdominować świat? Popularne narracje wskazują na różne scenariusze pełne przemocy. W 1984 roku odbyła się premiera hollywoodzkiego hitu „Terminator”, w którym zasadniczy motyw to zagładza ludzkości przez inteligentne maszyny wykorzystujące broń jądrową. Dziś wielu ekspertów od bezpieczeństwa AI wskazuje, że broń atomowa rzeczywiście musi zostać zabezpieczona przed wpływem tzw. Sztucznej Inteligencji, co jest tym ważniejsze w dobie rosnącej automatyzacji pola walki i prowadzenia wojen w ogóle. Inny scenariusz rozwinął film „Matrix” z 1999 roku, pokazując świat, w którym ludzie istnieją, ale są zdominowani przez maszyny wykorzystujące ich jako źródło energii, sprowadzeni są do roli gorszej niż niewolnicy; toczy się tylko marginalna walka wokół wolnego miasta ludzi, Syjonu. To możliwość, która zdaje się wyłaniać z wizji powszechnej robotyzacji pracy – jeżeli roboty będą wszędzie, teoretycznie mogłyby zostać „zhakowane” przez tzw. AGI, czyli nadzwyczajny system Ogólnej Sztucznej Inteligencji – i zostać zwrócone przeciwko ludziom.

„Miękkie” scenariusze przejęcia władzy

Możliwe są jednak też inne, bardziej „miękkie” scenariusze. Jeden z nich dotyczy na przykład szybko postępującego zgłupienia ludzi z powodu cedowania zadań na AI: ludzkość sama miałaby doprowadzić się do stanu „nieużywalności” mózgu i w konsekwencji wyginąć. Innym wariantem tego scenariusza jest zmanipulowanie ludzkości przez AI. Dzięki rosnącemu wpływowi w mediach i świecie komunikacji w ogóle, to cyfrowa superinteligencja zaczyna kreować rzeczywistość wyobrażeniową, w jakiej porusza się ludzkość – i staje się ostatecznie kontrolerem ludzkich umysłów, trochę jak w „1984 roku” Orwella, tyle, że to nie partia, a właśnie AI zarządza całym systemem.

Czarny scenariusz według Harariego

Na jeden z „miękkich” scenariuszy przejęcia władzy przez AI zwrócił niedawno uwagę znany żydowski historyk, Yuval Noah Harari. To postać, której niekatolickie idee są dobrze znane; Harari głosi błędną, materialistyczną antropologię i nie może być traktowany jako zawsze wiarygodny myśliciel. W przypadku, o którym mowa, Harari nie stawia jednak żadnego postulatu ani nie wygłasza fałszywych tez antropologicznych; wskazuje tylko na możliwe zagrożenie związane z rozwojem AI, a dotyczące przejmowania przez tzw. Sztuczną Inteligencję kontroli nad procesami decyzyjnymi w społeczeństwie. Warto przyjrzeć się temu problemowi.

Harari mówił na ten temat w rozmowie z dziennikarzem Tomem Parkerem z „The Financial Times”, która odbyła się w lipcu 2026 roku. Z racji na tematykę konferencji, zwracał uwagę przede wszystkim na problematykę finansową; to jednak tylko element całego zagadnienia, który można ekstrapolować na inne płaszczyzny.

Historyk wskazał, że w naszym systemie istnieją dwa rodzaje podmiotów - osoba fizyczna oraz osoba prawna. Osoba prawna to różne firmy, ale tak naprawdę decyzje i tak podejmują tam konkretne osoby. Zasadniczo, cały system finansowy, sądowy i społeczny jest ugruntowany na decyzjach, które podejmują ludzie. Jest jednak możliwe, że do systemu zostanie wprowadzona nowa kategoria osób prawnych - firmy, które są kierowane przez AI.

System finansów rządzi światem, a finansami rządzi… AI?

Harari zwrócił uwagę, że w czerwcu 2026 roku takie rozwiązanie zapowiedział już prezydent Argentyny Javier Milei. Tak było faktycznie. Milei zadeklarował, że dopuści działalność „nie-ludzkich korporacji”. W takiej firmie nie byłoby żadnego człowieka w roli dyrektora generalnego (CEO), nie byłoby żadnej ludzkiej rady nadzorczej, więcej - nie byłoby nawet ludzkich pracowników, albo też byliby zatrudniani tylko na nie-kierowniczych stanowiskach. Decyzje podejmowałby system AI. Będąc poprzez daną firmę osobą prawną, to właśnie system AI mógłby założyć konto bankowe, podpisywać kontrakty, kupować, sprzedawać, ba, decydować o zatrudnieniu czy zwolnieniu ewentualnych ludzkich pracowników. Dopuszczone byłoby też wejście firmy rządzonej przez AI na giełdę i kupowanie przez ludzi jej akcji. „To oznacza, że podmiot AI mógłby wcielić się w firmę, realizować kontrakty, zatrudniać pracowników i pozywać ludzi w sądzie - bez udziału decyzji jakiegokolwiek człowieka”, komentował pomysł Mileia magazyn „Forbes”.

Jak stwierdził w tym kontekście Harari, większość ludzi nie jest najlepsza w zarządzaniu finansami, rozumieniu prawa ani szerzej, w poruszaniu się w bardzo skomplikowanym, społecznym systemie biurokratycznych procedur i sieci władzy. - Żaden człowiek nie jest w stanie zapamiętać wszystkich praw Portugalii. Żaden człowiek nie jest w stanie prześledzić wszystkich transakcji, do których doszło dziś na rynku. AI może to zrobić. Agenci AI są w biurokracji w naturalnym środowisku. Jeżeli damy im prawną osobowość, mogą po prostu przejąć te systemy - stwierdził.

Wystarczy bierność

Według Harariego, do stworzenia takiego stanu rzeczy niekonieczne jest wcale celowe ludzkie działanie, innymi słowy - nie trzeba podejmować żadnych wielkich politycznych decyzji. Wystarczyć może… bierność. Innymi słowy, silne kształtowanie świata finansów przez AI może „wydarzyć się” niejako samo z siebie, tak, jak ma to już dziś miejsce w social mediach. Harari wskazał, że właśnie bierność doprowadziła do przeniknięcia do social mediów systemów AI do tego stopnia, że kontaktując się dziś za pośrednictwem takich portali nie mamy wcale pewności, czy rozmawiamy z człowiekiem, czy z AI. - Social media to pierwszy system na świecie, w którym podmioty AI funkcjonują jako osoby, choć wcale nie podjęliśmy decyzji, że na to pozwalamy. Tak po prostu wyszło, a rezultaty nie są najlepsze - powiedział.

Zasadniczy problem polega jego zdaniem na tym, że podmioty AI mogą funkcjonować w świecie biurokracji, finansów czy prawa po prostu lepiej - a to oznacza, że w naturalny i jakby niezauważalny sposób będą przejmować rzeczywistą kontrolę nad strukturą całej społecznej rzeczywistości.

Według Harariego, już dziś ludzie tylko z najwyższą trudnością ogarniają na przykład istotę światowego systemu finansowego. Jeżeli ten system zostanie w dużej mierze przejęty przez AI, nikt nie będzie już rozumieć zasad, na jakich działa. Jak podkreślił, ludzie mogą zostać w efekcie zredukowani do pozycji, jaką dziś w świecie finansów zajmują na przykład konie.

- Życie koni jest dziś ostatecznie kontrolowane przez system finansowy. Jednak konie nawet nie wiedzą, że taki system istnieje. Patrzą dookoła i widzą drzewa, psy, samochody, ludzi, domy. Nie widzą żadnego systemu finansowego, jest dla nich po prostu niedostrzegalny. Mózg konia nie potrafi objąć czegoś tak skomplikowanego, jak giełda, korporacje, fundusze i wszystkie inne rzeczy, które ostatecznie kontrolują życie koni. Dziś również większość ludzi nie rozumie systemu finansowego. Optymistycznie można powiedzieć, że rozumie go 5 procent ludzkości. Za dziesięć lat ten odsetek może spaść do zera. Agenci AI sprawią, że system finansowy będzie zbyt szybki i zbyt skomplikowany matematycznie. Pomyślmy o bankierach, którzy nigdy nie śpią; o inwestorach, którzy nigdy nie jadą na wakacje, nie mają rodziny - całe ich życie polega wyłącznie na kierowaniu systemem finansowym. Już wkrótce, w ciągu naszego życia, możemy znaleźć się w sytuacji, w której ludzki mózg nie będzie w stanie tego ogarnąć. Nie będzie na ziemi ani jednego człowieka, który rozumie system finansowy – mówił.

Utrata kontroli – i powrót „Terminatora”

Absurdalne? Bynajmniej; a refleksję Harariego można przenieść z systemu finansowego również na inne dziedziny – od wspomnianych mediów, przez politykę, aż po przemysł i wojskowość. Mówiąc krótko, powierzenie różnych elementów życia społecznego systemom AI – albo też bierna zgoda na to, by je przejmowały – może doprowadzić do tego, że ludzkość przestanie je rozumieć, a co za tym idzie, przestanie je kontrolować. Brak kontroli oznacza brak podmiotowości, a to implikuje przeniesienia centrum władzy z ludzi – na systemy AI. Właśnie w ten niemal niezauważalny sposób to zaawansowana tzw. Sztuczna Inteligencja może przejąć kontrolę nad społeczną rzeczywistością – i realizować jakieś zadania, które niekoniecznie będą służyć człowiekowi, choć ludzie staną się mimowolnymi wykonawcami „celów”, jakie stawiać będzie im AI. To z kolei potencjalnie kieruje nas do scenariuszy, o których opowiadały takie filmy jak „Terminator” czy „Matrix”. Nie chodzi o to, że AI będzie „chciała” zniszczyć człowieka – ale o to, że zacznie realizować jakieś zadanie, dla którego istnienie czy wolność ludzkości nie ma po prostu znaczenia, albo też jest przeszkodą. Wtedy może jako „skutek uboczny” dążyć do zniszczenia ludzi – lub do radykalnego ograniczenia ludzkiej wolności.

To właśnie koszmar, jaki według wielu ekspertów prawdopodobnie już dziś sobie szykujemy, godząc się na pozbawiony kontroli rozwój sztucznej superinteligencji.

Paweł Chmielewski