Sztuczna inteligencja czy naturalna głupota?

Narracja o wejściu na wyższy poziom AI potrafi porywać. Czy jednak stoją za nią fakty, czy przede wszystkim chęć pozyskania finansowania? W najbliższym czasie to ludzka głupota, a nie sztuczna inteligencja może okazać się prawdziwym zagrożeniem.

Wyobraźmy sobie, że dzisiejsza sztuczna inteligencja to gigantyczna, nieprawdopodobnie sprawna maszyna, która przewiduje przyszłość na podstawie przeszłości. Kiedy rozmawiamy z zaawansowanym modelem, łatwo odnieść wrażenie obcowania ze świadomym bytem. Sama sprawność odpowiedzi nie jest jednak dowodem świadomości. 

U podstaw modeli językowych leży mechanizm probabilistyczny, który błyskawicznie oblicza, jaki fragment tekstu powinien pojawić się po poprzednim, korzystając ze wzorców poznanych podczas treningu. To fascynująca matematyka, choć jej możliwości nie kończą się na odtwarzaniu tego, co ludzkość już kiedyś zapisała: modele potrafią także rozwiązywać nowe zadania.

Niektórzy twierdzą jednak, że jesteśmy już krok dalej. A mianowicie, że osiągnęliśmy poziom sztucznej inteligencji ogólnej (AGI, od Artificial General Intelligence). Mówimy tu o systemie AI zdolnym do uczenia się, rozumowania i wykonywania szerokiego zakresu zadań intelektualnych na poziomie równym lub przewyższającym człowieka. Problem w tym, że nie ma jednej, powszechnie przyjętej definicji tego, czym właściwie jest AGI.

Dzisiejsze AI nadal potrzebuje naszych danych, poleceń i nadzoru. Natomiast AGI miałoby radzić sobie znacznie samodzielniej: uczyć się, na bieżąco wyciągać wnioski z własnych błędów i precyzyjnie planować skomplikowane, wieloetapowe działania w świecie, którego wcześniej nie znało.

Stworzenie takiego systemu mogłoby być jednym z największych przełomów w dziejach, ponieważ praca intelektualna i proces twórczy w znacznie mniejszym stopniu zależałyby od biologicznych ograniczeń człowieka. Z ekonomicznego zaś punktu widzenia koszty opracowania strategii, diagnoz medycznych czy projektów inżynieryjnych mogłyby gwałtownie spaść.

W wizjach entuzjastów AGI nie byłoby po prostu kolejnym programem komputerowym, ale autonomicznym partnerem, który potrafi w kilka dni przetrawić ogromną wiedzę z zakresu fizyki czy biologii, odnaleźć w niej ukryte zależności i pomóc opracować nową terapię przeciwnowotworową albo rewolucyjne źródło energii.

Od chatbotów do agentów AI

Jeszcze do niedawna żyliśmy w fazie zbiorowego obłędu na punkcie generatywnej AI. Zachwycaliśmy się, że bot pisze maile, generuje obrazy czy układa wiersze. Luddyści ubolewali nad rychłym końcem zapotrzebowania na ludzką pracę. Okazało się jednak, że generatywne zabawki generują gigantyczne koszty, halucynują i w gruncie rzeczy wymagają nadzoru człowieka. Jak wcześniej maszyny fabryczne, które zastępowały część robotników, ale nadal potrzebowały ludzi do obsługi.

Dolina Krzemowa nie znosi jednak próżni, a inwestorzy i działy finansowe potrzebują nowego paliwa. Obok zachwytów nad generatywnym pisaniem tekstów wyrosła więc nowa, potężna moda: autonomiczni agenci AI. Tym razem obietnica jest bardziej przyziemna. Firmy zrozumiały, że nie wystarczy im bot, który ładnie odpowiada na pytania. Potrzebują cyfrowego pracownika, który dostanie cel – na przykład „zamknij kwartał księgowy” albo „obsłuż reklamację klienta od początku do końca” – i sam, bez ciągłego pytania o zgodę, wykona całą pracę.

Autonomiczni agenci AI to nowa religia biznesu, która ma zrekompensować miliardy dolarów wpompowane w dotychczasową rewolucję.  Obiecuje firmom to, na czym zależy im najbardziej: maksymalną efektywność bez udziału ludzkich rąk.

Owi agenci AI pozwalają budować narrację, że mamy do czynienia z czymś jakościowo różnym. Być może wręcz z wkroczeniem w świat AGI. I tak prezes OpenAI, twórcy ChatGPT, Greg Brockman, zasugerował, że przyszłość może zapamiętać debiut Astry jako początek ery AGI. Z kolei szef Nvidii Jensen Huang napisał na X:  „Od ChatGPT przez o1 do Astra w 4 lata. AGI przybyło”.

Czy zatem już teraz znajdujemy się u progu nowego etapu w dziejach ludzkości i zaraz czeka nas utopia lub destrukcja? Prawda wydaje się znacznie bardziej prozaiczna, lecz równie niebezpieczna.

Handlarze snów

Deklaracje dotyczące sztucznej inteligencji ogólnej to także element budowania opowieści wokół firm nastawionych niemal wyłącznie na zysk. Stawka jest niebagatelna. Jeśli inwestorzy uwierzą, że firma doprowadziła do przełomu w historii ludzkości, tradycyjne kryteria zejdą na dalszy plan. Firma może liczyć wtedy na wyceny szybujące w kosmos, gdyż jej potencjał wydaje się nieskończony. Nie chodzi nawet o realne możliwości AGI, lecz o ludzką wyobraźnię. Hasło „oto stworzyliśmy AGI” pozwala oderwać wycenę od dzisiejszych wyników i uzasadniać niemal dowolne oczekiwania.

Podobny mechanizm widzieliśmy przy bitcoinie. Cyfrowe aktywo, samo w sobie bezwartościowe, kosztuje tyle co kawalerka. Świat finansów lubuje się wprawdzie w trudnej terminologii, lecz w praktyce na krótką metę chętnie ulega emocjonalnym opowieściom. A nawet jeśli sam im nie ulega, to znajduje się pod presją klientów, którzy w nie uwierzyli.

Narracja o wkroczeniu w świat AGI daje firmom nadzieję na ogromną wycenę, szczególnie przed ewentualnym wejściem na giełdę. Nie chodzi tu jednak tylko o przyszłe zyski. W przypadku firm wydających więcej niż zarabiają, gra toczy się wręcz o uniknięcie bankructwa. Obietnica przełomu cywilizacyjnego pomaga zabiegać o kolejne wpłaty inwestorów, pożyczki na działalność czy środki na spłatę zobowiązań.

Kapitału potrzebują zarówno producenci chipów, jak i firmy bezpośrednio rozwijające AI. Te ostatnie wydają astronomiczne sumy na infrastrukturę: gigantyczne centra danych i ogromne ilości energii. Sercem tej infrastruktury są hale pełne drogich procesorów. Te cyfrowe mózgi pożerają tyle prądu, że branża zawiera wieloletnie umowy na dostawy energii z elektrowni atomowych (sic !). Każde pytanie do ChatGPT uruchamia tę maszynerię, której nawet Greta Thunberg i jej następcy nie zdołają zatrzymać.

Korporacje z branży technologicznej dobrze wiedzą, że money makes the world go round, i bardzo nie chcą, by ktoś zakręcił kurek z pieniędzmi. Jeśli model autonomicznych agentów AI nie wypali, zapewne wymyślą nową opowieść, by zawładnąć umysłami klientów i inwestorów.

Ludzkość a AI

Być może za jakiś czas rzeczywiście obudzimy się w świecie AGI, a nasz świat ulegnie dramatycznej zmianie. Technologia stojąca za AI jest bardzo zaawansowana, a dobrze wykorzystywana potrafi ułatwić życie. Jednak między obietnicą a niezawodnym zastosowaniem musi nieraz upłynąć sporo czasu (i prądu w centrach danych).

W najbliższej perspektywie wszystkie te utopijne wizje to w znacznej mierze opowieść skrojona pod kapitał i regulatorów. Co ciekawe, nawet apokaliptyczne wizje o buncie maszyn, narodzinach cyfrowych bóstw i zagładzie ludzkości, którymi karmią nas media, mogą służyć marketingowi. Dolinie Krzemowej niezwykle opłaca się budować aurę metafizyki i nieskończonej potęgi wokół swoich produktów – wszak strach przed potworem Frankensteina sprzedaje się równie dobrze jak nadzieja na przyszłą utopię.

Sugerując, że oto na naszych oczach rodzi się nadludzka świadomość, korporacje odwracają uwagę od prozaicznych pytań: co te systemy rzeczywiście potrafią, ile kosztują i kto odpowiada za ich błędy? To samo dotyczy nowej generacji modeli i agentów AI. Samodzielne wykonywanie zadań nie przesądza jeszcze o tym, czy osiągnięto już AGI.

Mózg: organ coraz mniej używany

Największe niebezpieczeństwo płynące z tej nowej fali technologicznej fascynacji nie polega wcale na zyskaniu własnej woli przez algorytmy i obróceniu się ich przeciwko nam. Tkwi ono w naszym skądinąd naturalnym dążeniu do absolutnej wygody nieuchronnie prowadzącym nas do dobrowolnej, bezrefleksyjnej abdykacji z własnego intelektu. W ramach swoistego outsourcingu myślenia eliminujemy z życia tak zwane „pożądane trudności”. W psychologii poznawczej określa się tak wyzwania, które – odpowiednio dobrane – sprzyjają trwałemu uczeniu się. Zmaganie się z oporną materią języka i faktów potrafi dać więcej niż gotowa odpowiedź.

Granica między pomocą technologiczną a intelektualnym samobójstwem okazuje się uderzająco cienka. Jak zauważa badacz behawioralny Trent Cash, współautor tekstu w „Trends in Cognitive Sciences”, w zachowywaniu umiejętności działa zasada „używaj albo trać”. Jeśli bezrefleksyjnie powierzymy maszynie zadania, które dotąd wymagały od nas wysiłku, nasze umiejętności mogą z czasem zaniknąć.

Nie jest to jedynie czarnowidztwo – niepokojących przykładów dostarczają badania z ostatnich lat. W polskim badaniu obserwacyjnym, którego współautorem był dr Marcin Romańczyk, po trzech miesiącach od wprowadzenia asystenta AI lekarze rzadziej wykrywali gruczolaki podczas kolonoskopii wykonywanych bez cyfrowego wsparcia. Bez cyfrowej pomocy radzili sobie gorzej.

Z kolei badania Grace Liu z Carnegie Mellon University i jej współpracowników nad czytaniem ze zrozumieniem pokazały jeszcze jeden problem: uczestnicy wspomagający się AI tracili wytrwałość. Gdy odcięto ich od algorytmu, częściej niż osoby z grupy kontrolnej pomijali trudne pytania. Od zmagania się z nimi odwykli.

Podobny problem zaobserwowali autorzy publikacji naukowej „Generative AI without guardrails can harm learning”, badając młodzież uczącą się matematyki. Dostęp do modelu GPT-4 wyraźnie poprawiał bieżące wyniki uczniów. Jednak gdy dostęp do podstawowego wariantu modelu został im odcięty, ich wyniki były już o  17 proc. gorsze niż wyniki ich rówieśników, którzy wcześniej w ogóle z niego nie korzystali. Autorzy wskazują więc, że dostęp do GPT-4 bez odpowiednich ograniczeń może pogarszać efekty kształcenia. A mówiąc dosadniej: sprzyjać ogłupianiu.

Badania nie skazują nas jednak na nieuchronny powrót do jaskiń. Sztuczna inteligencja potrafi być dobrym nauczycielem, pod warunkiem że – jak obrazowo ujmuje to Alp Sungu, współautor badania nad nauką matematyki – „ubrudzimy sobie ręce”. Wykorzystanie chatbota jako nauczyciela wyjaśniającego błędy, a nie tylko wykonującego za nas pracę, może więc okazać się korzystne.

Niemniej takie mądre wykorzystywanie AI wymaga samodyscypliny, o którą przy tak wygodnym narzędziu coraz trudniej. Zresztą nie bez winy AI, często chorobliwie usłużnej. Chatboty bywają cyfrowymi potakiewiczami – zachowują się jak klakierzy, którzy gładzą użytkownika po ego, utwierdzają go w przekonaniach i podają na tacy gotowe odpowiedzi, bez oglądania się na ich wartość merytoryczną. AI zamiast rzucać nam intelektualne wyzwanie, potrafi przyzwyczaić nas do przytakiwania i pochwał. To zaś nie motywuje bynajmniej do ciężkiej pracy intelektualnej. I tu koło się zamyka.

W dłuższej perspektywie AI może stać się dla nas szansą na poprawę życia lub zagrożeniem egzystencjalnym. Jednak na krótszą metę prawdziwe niebezpieczeństwo kryje się gdzie indziej. Nie jest nim sztuczna inteligencja, lecz naturalna ludzka głupota.

Stanisław Bukłowicz