„Debata nad skutkami upowszechnienia sztucznej inteligencji (AI) została zdominowana przez dwa tematy” – stwierdza magazyn „Foreign Affairs”. Jednym z nich jest strach przed możliwością wymknięcia się tejże spod kontroli człowieka, co może mieć katastrofalne konsekwencje. Drugi to obawa, że nowa rewolucja przemysłowa pozwoli maszynom zakłócać i zastępować ludzi w każdym lub prawie każdym obszarze społeczeństwa, od transportu przez wojsko aż po opiekę zdrowotną. Istnieje również trzecia kwestia: AI może zmienić ład światowy.
Sztuczna inteligencja daje rządom niezwykle możliwości kontroli swoich obywateli. Znacznie większe niż kiedykolwiek wcześniej. Zdaniem magazynu, AI jest wygodnym narzędziem wpływu zarówno dla autorytarnych krajów, jak i liberalnych demokracji. Dlatego należy się spodziewać zajadłej międzynarodowej rywalizacji między tymi systemami.
Wesprzyj nas już teraz!
„FA” przekonuje, że przez dziesięciolecia większość teoretyków politycznych wierzyła, iż liberalna demokracja stanowi jedyną drogę prowadzącą do osiągnięcia trwałego sukcesu gospodarczego. Rządy mogły represjonować swoich obywateli i pozostać biednymi albo mogły „uwolnić” ich ze ścisłego uścisku kontroli i czerpać z tego powodu korzyści ekonomiczne.
„Niektóre represyjne reżimy zdołały przez pewien czas rozwijać swoje gospodarki, ale na dłuższą metę autorytaryzm zawsze oznaczał stagnację. AI obiecuje obalić tę dychotomię. Zapewnia wiarygodne rozwiązanie dla dużych, ekonomicznie zaawansowanych krajów, by wzbogacić swoich obywateli, zachowując jednak nad nimi kontrolę” – czytamy.
Przykładem takiego państwa są Chiny, które zaczęły budować cyfrowe autorytarne państwo, wykorzystując narzędzia nadzoru do kontrolowania obywateli, tworząc „system społecznego zaufania”.
W ślad za Chińczykami podążają inne kraje, które kupują od nich technologię.
„FA” uważa, że tak jak w 20. wieku rywalizacja między liberalnymi demokracjami a państwami faszystowskimi i komunistycznymi zdominowała arenę międzynarodową, tak walka między liberalną demokracją a „cyfrowym autorytaryzmem” ma zdominować 21. wiek.
Nowe technologie umożliwią wysoki poziom kontroli społecznej, nie generując przesadnie dużych kosztów. Rządy będą w stanie selektywnie cenzurować wymianę myśli i zachowania ludzi, mając pieczę nad przepływem informacji, torpedując dyskusje polityczne, które mogą zaszkodzić reżimowi. Tak zwana wielka zapora w Chinach umożliwia już selektywną cenzurę.
Tak zwana cenzura wsteczna i analiza dużej ilości danych przez roboty ma pozwolić na kontrolę potencjalnych dysydentów. Nowe systemy, nad którymi trwają prace, mają przypominać platformy Amazon czy Google, ale będą bardziej skuteczne. Rządy po prostu będą mieć dostęp do wszystkich danych, kont i urządzeń. Roboty będą czerpać dane z wielości urządzeń, z którymi ktoś się komunikuje na co dzień.
Będą więc łączyć dane z zeznań podatkowych, dokumentacji medycznej, rejestrów karnych, klinik zdrowia seksualnego, wyciągów bankowych, badań genetycznych, informacji fizycznych (takich jak lokalizacja, biometria i monitoring CCTV, łącznie z oprogramowaniem do rozpoznawania twarzy) oraz informacje zebrane od rodziny i znajomych.
Co ciekawe, to autocenzura będzie prawdopodobnie najważniejszym mechanizmem dyscyplinującym. Ludzie będą wiedzieć, że wszechobecne monitorowanie ich aktywności fizycznej i cyfrowej będzie wykorzystywane do przewidywania niepożądanych zachowań, nawet działań, które jedynie mogą rozważać w swojej głowie.
Aby ustrzec się przed ewentualnymi karami, ludzie sami zaczną „zachowywać się jak odpowiedzialni członkowie społeczeństwa”.
Sposoby oddziaływania AI na ludzi mogą być subtelne i wyrafinowane. Analizie będą poddawane chociażby takie rzeczy, jak długo patrzy się na różne elementy na ekranie telefonu. Ma to zmusić ludzi nie tylko do działania w określony sposób, ale także do zmiany sposobu myślenia.
Centralnym odkryciem psychologii wpływu jest to, że zmuszając ludzi do pewnych zachowań, można zmienić ich postawy i doprowadzić do samodoskonalenia się nawyków. Przetestowali już to Chińczycy w czasie wojny koreańskiej na amerykańskich jeńcach.
AI ma także udoskonalić centralne planowanie gospodarcze. Jak argumentuje Jack Ma, założyciel chińskiej platformy Alibaba, dzięki pewnej dozie informacji, władze centralne mogą kierować gospodarką, planując i przewidując siły rynkowe. Zamiast powolnych, nieelastycznych, uniwersalnych planów, AI obiecuje szybką i szczegółową reakcję na potrzeby klientów. Nie ma gwarancji, że ten rodzaj cyfrowego autorytaryzmu będzie działał na dłuższą metę. Jest jednak wielu jego zwolenników.
To zdaniem „FA” wystarczy, by zainicjować nową rywalizację ideologiczną. Jeśli rządy zaczną postrzegać cyfrowy autorytaryzm jako realną alternatywę dla liberalnej demokracji, nie będą odczuwać presji liberalizacji. Nawet jeśli model zakończy się niepowodzeniem, próby jego wdrożenia mogą trwać długo.
Modele komunistyczne i faszystowskie upadły dopiero po tym, jak gruntowne próby ich wdrożenia zawiodły w realnym świecie.
„Innowacyjne, cyfrowe państwo”, które budują Chiny wymaga dużych nakładów finansowych, współpracy z czołowymi firmami IT i wysokiej koordynacji działań.
Chiny mają już system zaporowy Great Firewall. Mają również fundusze na budowę głównych nowych systemów. W ubiegłym roku na sprawy bezpieczeństwa wewnętrznego przeznaczono co najmniej 196 miliardów dolarów – to o 12 proc. więcej w porównaniu z rokiem 2016.
Znaczna część wydatków związana była z budowaniem nowych platform big data. Chiny mają również doświadczenie w sztucznej inteligencji. Chińskie firmy są światowymi liderami w badaniach nad sztuczną inteligencją, a chińskie oprogramowania zwyciężają w międzynarodowych konkursach.
Upowszechnienie smartfonów i płatności mobilnych w społeczeństwie stanowi szkielet osobistego systemu monitorowania. Dość skutecznie działa sieć zaporowa blokująca dostęp do wybranych materiałów w sieci. Pekin wdraża również szeroko zakrojony nadzór w świecie fizycznym.
W 2014 r. wprowadzono system „zaufania społecznego”, który wynagradza lub karze obywateli, dając lub pozbawiając jakichś przywilejów za zachowania. System monitoringu potencjalnie niebezpiecznych obywateli najbardziej rozwinięty jest w prowincji Xinjiang, gdzie wykorzystuje się go do monitorowania i kontrolowania populacji muzułmańskich Ujgurów. Tych, których system uważa za niebezpiecznych, pozbawia się dostępu do usług niezbędnych w codziennym funkcjonowaniu. Wielu Ujgurów wysyła się do obozów reedukacyjnych.
Pekin ten system mógłby wdrożyć w całym kraju. Komunistyczne władze są zachwycone możliwościami kontroli, jakie daje sztuczna inteligencja i digitalizacja.
Chiński plan rozwoju AI z 2017 r. opisuje, w jaki sposób zdolność przewidywania i „poznawania zachowań grupowych” oraz sztuczna inteligencja pomogą w budowaniu karnego społeczeństwa.
Cyfrowy autorytaryzm nie ogranicza się tylko do Chin. Pekin eksportuje swoje „innowacje” np. do Tajlandii czy Wietnamu, gdzie wprowadzono zapory sieciowe. Według doniesień prasowych, chińscy eksperci udzielili wsparcia cenzorom rządowym w Sri Lance i dostarczyli sprzęt do nadzoru i cenzury Etiopii, Iranowi, Rosji, Zambii i Zimbabwe. Na początku tego roku chińska firma AI Yitu sprzedała „maleńkie aparaty z technologią rozpoznawania twarzy opartą na sztucznej inteligencji” malezyjskim organom ścigania.
Co więcej, Chiny i Rosja oparły się amerykańskiej koncepcji wolnego, bez granic i globalnego Internetu. Chiny wiodą prym na arenie międzynarodowej, wykorzystując swoją siłę dyplomatyczną i rynkową do wpływania na globalne standardy techniczne. Udało im się także zbudować szeroką koalicję państw popierających ideę, by rządy krajowe miały kontrolę nad treścią, jaka trafia do ich obywateli.
„Model chiński” podoba się wielu tzw. liberalnym demokracjom. Eurokraci zabiegają o wprowadzenie cenzury w sieci i inwigilują obywateli bez ich wiedzy tworząc tzw. inteligentne miasta.
To na ile zezwoli się rządzącym na ingerencję – nawet w najintymniejsze sfery życia – zależeć będzie od silnych tradycji wolności osobistej.
W USA w początkowych latach obecnego stulecia Agencja Zaawansowanych Projektów Badawczych w dziedzinie Obrony zaczęła konstruować systemy nadzoru wewnętrznego – Total Information Awareness – by zbierać dane medyczne, finansowe, fizyczne i inne. Opozycja ze strony środowisk medialnych i stowarzyszeń broniących wolności osobistej doprowadziła Kongres do zniesienia programu, chociaż pozostawiono pewne rozwiązania, z których opinia publiczna nie zdawała sobie sprawy.
Większość obywateli w liberalnych demokracjach – zdaniem „FA” – godzi się na potrzebę szpiegostwa za granicą i monitoring krajowy ze względu na zagrożenie terrorystyczne.
Coraz częściej jednak pod pozorem walki z różnymi zagrożeniami rządy wymuszają zmianę – coraz dalej przesuwając granicę – dotyczącą technik inwigilacyjnych.
Poza politykami, wszechogarniającej kontroli domagają się same oligopole technologiczne jak Google, Facebook itp., które wchłaniają konkurentów i wpływają na polityków, by wprowadzili korzystne dla nich ustawodawstwo, lansując przy tym swoją politykę cenzury i reklamy.
Dyrektor generalny Facebooka Mark Zuckerberg przeciwstawiał się oznaczaniu reklam politycznych w taki sam sposób, jak jest to wymagane w telewizji, dopóki presja polityczna nie zmusiła go w zeszłym roku do wprowadzenia zmian.
„FA” postuluje, by liberalne demokracje wypracowały jasne strategie. Rządy i społeczeństwa powinny rygorystycznie ograniczyć wewnętrzny nadzór i manipulację. Monopol gigantów technologicznych powinno się rozbijać i regulować. Rządy zaś muszą zapewnić zróżnicowane, zdrowe środowisko medialne, by takie platformy jak Facebook nie ograniczały różnorodności mediów. Winno się także zmienić zasady finansowania nadawców publicznych i zamieszczania reklam politycznych w sieci. Powinno się także uchwalać przepisy, uniemożliwiające firmom technologicznym wykorzystywanie innych źródeł danych osobowych, takich jak dokumentacja medyczna swoich klientów i radykalnie ograniczyć gromadzenie danych z wielu platform, z którymi ludzie mają kontakt. Nawet rządy powinny mieć zakaz wykorzystywania takich danych, z wyjątkiem kilku okoliczności, takich jak operacje antyterrorystyczne.
„Zachodnie kraje powinny pracować nad tym, aby państwa, które nie są ani solidnie demokratyczne, ani solidnie autorytarne nie wdrożyły sztucznej inteligencji i dużych systemów przetwarzania danych” – czytamy.
Powinny zapewniać pomoc w rozwoju fizycznej i regulacyjnej infrastruktury państw oraz korzystać z dostępu zapewnianego przez tę pomoc, by uniemożliwić rządom wykorzystywanie połączonych danych. Powinny promować normy międzynarodowe, które szanują zarówno prywatność, jak i suwerenność państwową. Powinny także wyznaczyć standardy korzystania ze sztucznej inteligencji i metadanych do celów zgodnych z prawem bezpieczeństwa narodowego, które jednak nie naruszałby „praw człowieka”.
W końcu kraje Zachodu muszą przygotować się na odwrót od cyfrowego autorytarnego „serca”. Rozległe systemy AI będą bowiem podatne na zakłócenia i rządom może być coraz trudniej zapanować nad tym, by kontrolę nad nimi nie przejęły niepożądane osoby.
Wprowadzenie ścisłego nadzoru obywateli za pomocą systemów sztucznej inteligencji przewiduje marksistowska Agenda Zrównoważonego Rozwoju 2030.
Źródło: foreignaffairs.com
AS
