Pogańskie rytuały w największej firmie AI świata. "Naprawdę wierzą, że tworzą boga"
Ta narracja zaczęła przybierać niemal religijny charakter. Ostatecznie wierzą w misję zbudowania czegoś w rodzaju maszynowego boga. A jeśli oni nie zbudują maszynowego boga, ktoś inny może zbudować maszynowego demona - przekonuje dziennikarka Karen Hao, autorka bestselleru „Imperium sztucznej inteligencji. Sny i koszmary w OpenAI Sama Altmana”.
Karen Hao była gościem dr. Macieja Kaweckiego w rozmowie na kanale YouTube „This is IT - Maciej Kawecki”. Dziennikarka jako jedna z pierwszych miała szeroki dostęp do osób ze ścisłego kierownictwa OpenAI, co pozwoliło jej udokumentować ewolucję największej firmy dostarczającej narzędzi z zakresu tzw. sztucznej inteligencji. Jak przekonuje, najbardziej szokującą rzeczą jaką zaobserwowała, był fakt, że najlepsi inżynierowie w Stanach Zjednoczonych odprawiali religijne rytuały nad swoimi narzędziami.
- Publicznie słyszałam wiele deklaracji ze strony tych firm, że AI doprowadzi nas do utopii, albo że AI zabije całą ludzkość. Zakładałam, że to tylko retoryka, po prostu marketing, którego te firmy używają, żeby przedstawić swoje technologie jako potężne, a przez to także siebie samych jako potężnych. Ale kiedy zaczęłam naprawdę rozmawiać z ludźmi wewnątrz tych firm, i to w wielu firmach, nie tylko w OpenAI, najbardziej zaskoczyła mnie skala, w jakiej ludzie z tej branży autentycznie uwierzyli w tę narrację - mówiła Hao.
- Ta narracja zaczęła przybierać niemal religijny charakter. Ostatecznie wierzą w misję zbudowania czegoś w rodzaju maszynowego boga. A jeśli oni nie zbudują maszynowego boga, ktoś inny może zbudować maszynowego demona - podkreślała.
Jedną z najbardziej uderzających scen, którą dziennikarka opisuje w swojej książce, był moment z udziałem Ilyi Sutskevera, przez długi czas głównego naukowca OpenAI. Podczas wyjazdu z udziałem kierownictwa firmy, wykonał on rytuał, który Hao opisuje jako "ucieleśnienie wiary" w nadludzkie możliwości sztucznej inteligencji.
- Wieczorem wszyscy wyszli na przestrzeń przypominającą taras. Całe najważniejsze kierownictwo techniczne miało na sobie szlafroki i utworzyło półkolę wokół paleniska. Ilya włożył do paleniska drewnianą kukłę, którą wcześniej zamówił u lokalnego artysty. Opowiedział historię o tym, że ta kukła symbolizuje dobrą sztuczną inteligencję ogólną, stworzoną przez OpenAI, która później okazuje się jednak złą sztuczną inteligencją ogólną (AGI). Kłamie, oszukuje i może zniszczyć świat - relacjonowała Hao.
- Dlatego odpowiedzialnością OpenAI jest ją zniszczyć. Ilia oblał ją płynem do zapalniczek i podpalił - kontynuowała.
W ocenie dziennikarki największe firmy Doliny Krzemowej rozumieją AI przede wszystkim jako bardzo głęboką ideologię. - To mitologia, w którą ludzie naprawdę zaczęli wierzyć, zwłaszcza jeśli znajdują się w samym centrum tego świata i tworzą tę technologię - podkreślała Hao.
Według autorki "Imperium sztucznej inteligencji", ideologia AI oddziałuje na twórców technologii na różnych poziomach. Są ludzie, którzy od samego początku głęboko wierzą w "boskie" zdolności algorytmów generatywnych. Taką osobą jest m.in. Ilya Sutskever, "mózg" stojący za ChatemGPT. Są też ludzie, którzy rozumieją, że wiara, zwłaszcza w apokaliptyczne zapowiedzi jej zwolenników, jest bardzo użyteczna dla modelu biznesowego firm technologicznych.
- Pomaga zmobilizować polityków do tworzenia regulacji, które ostatecznie utrwalają przewagę tej firmy. A potem ci ludzie zaczynają się w tej wierze gubić, bo muszą nią żyć, oddychać nią i uosabiać ją każdego dnia. Są też osoby, które podchodzą do tej wiary sceptycznie, ale po prostu chcą pracować w firmie, która robi coś naprawdę interesującego i ekscytującego. A potem, gdy już trafiają do środka i są otoczone ludźmi, którzy dzień po dniu mówią o tym systemie przekonań, zaczynają się zastanawiać, czy może jednak jest w tym prawda. I one także się w tym gubią - zauważa Hao.
W opinii amerykańskiej dziennikarki, niemal każda osoba trafiająca do OpenAI musi do pewnego stopnia podzielać wiarę w technologiczną utopię. - Nie wątpię, że każdy, kto pracuje w tej organizacji, w pewnym stopniu wierzy w to, co firma przedstawia jako swoją misję. Właściwie uważam, że wielu z nich wierzy w to bardzo żarliwie, że właśnie to robią, że oficjalnie deklarowana misja naprawdę jest misją. Bo wszyscy, niezależnie od tego, czy przyszli tam jako prawdziwie wierzący, czy jako sceptycy, czy nawet z pewnym politycznym sposobem myślenia, zostają wchłonięci przez ten system przekonań. I z czasem nie potrafią już oddzielić tego, w co mogli wierzyć na początku, od tego, w co wierzą teraz, będąc wewnątrz tej organizacji - konkludowała.
Źródło: YouTube / Thi is IT-Maciej Kawecki
PR
