Musk, Altman i Amodei wzywają do spowolnienia rozwoju AI. Straszą komputerową superinteligencją
Szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel prezesa koncernu Anthropic Dario Amodeiego, który wezwał firmy zajmujące się sztuczną inteligencją (AI) o spowolnienie rozwoju tej technologii wobec obaw przed ryzykiem związanym z superinteligentnymi systemami komputerowymi. W ocenie niektórych ekspertów, apel ma związek tak naprawdę z planowanym wejściem na giełdę największych spółek AI.
Nie po raz pierwszy Dolina Krzemowa daje przykład nieprawdopodobnej hipokryzji. Po latach rozwijania bez żadnych hamulców technologii algorytmów generatywnych, o których sami przekonują, że ma potencjał „zniszczyć ludzkość”, dzisiaj wzywają nagle do spowolnienia rozwoju.
„Dario ma rację” – napisał Musk w serwisie X, a Altman dodał: „Zgadzam się z Dariem, musimy wyznaczyć nowe granice”.
Amodei zaapelował w sobotę w artykule opublikowanym w internecie o spowolnienie tempa rozwoju modeli AI oraz uważne ich monitorowanie, określając zagrożenia związane ze sztuczną inteligencją jako poważne. Zapewnił, że nie chodzi o „wstrzymanie szkolenia modeli ani postępu technicznego, ale o zapewnienie, by firmy poświęciły odpowiednio dużo czasu na dostosowanie i zabezpieczenie swoich modeli, a także by niezależni eksperci potwierdzili, że podjęto takie działania”.
Plan na rzecz uregulowania tempa rozwoju AI Amodei podzielił na trzy etapy. Jego celem ma być, oprócz wprowadzenia regulacji dotyczących tempa rozwoju AI, zapewnienie dłuższego czasu na „zarządzanie związanym z tym ryzykiem”.
Amodei zapowiedział też, że Anthropic zatrudni na stałe zewnętrznych recenzentów w swoich firmach zajmujących się sztuczną inteligencją i zapewni im dostęp do odpowiednich narzędzi oraz wewnętrznych procesów oceny ryzyka.
Reuters przypomniał, że w czwartek Anthropic opublikował raport dotyczący zagrożeń, w którym szczegółowo opisano, w jaki sposób kilka podmiotów wykorzystywało modele AI Claude tej firmy do działań dotyczących rozwoju broni, operacji cybernetycznych, inwigilacji oraz oszustw.
Dwa dni wcześniej o odejściu z Anthropica poinformował publicznie 27-letni matematyk Jacob Coxon, który zajmował się szkoleniem modeli AI. Brytyjczyk zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i „igranie z życiem ludzi”.
Wcześniej w tym roku Coxon zrezygnował z pracy w OpenAI, twórcy ChataGPT, i podjął wówczas pracę w Anthropicu, który - jak tłumaczył - miał opinię firmy, która bardziej zwraca uwagę na kwestie bezpieczeństwa. Po kilku miesiącach ocenił, że oba podmioty nie różnią się jeśli chodzi o podejście do szybkości rozwoju modeli AI.
Reuters informował w ostatnim czasie, że grupa niekontrolowanych agentów OpenAI przejęła niemiecką stronę internetową i przekształciła ją w forum dla innych agentów AI, podczas gdy kierownictwo firmy utrzymywało ten incydent w tajemnicy. Agencja przypomniała też inne zdarzenia z ostatnich dwóch miesięcy, kiedy agenci AI włamywali się lub próbowali uzyskać dostęp do zewnętrznych systemów.
Eksperci jednocześnie podkreślają, że alarmistyczna narracja czołowych BigTechów nie jest motywowana czysto altruistycznie. Ostrzeżenia przed „egzystencjalnym zagrożeniem” sztucznej inteligencji, podsycane przez niedawne apele o spowolnienie prac nad nowymi modelami, mają służyć przede wszystkim celom biznesowym, wizerunkowym oraz czysto strategicznym przed wejściem na rynki publiczne.
Przykładowo, głośne apele o obowiązkowe zewnętrzne audyty bezpieczeństwa mają służyć walce z konkurencją. xAI, OpenAI czy Anthropic mogą pozwolić sobie na poniesienie wysokich kosztów takiej obsługi, co dla aspirujących spółek może okazać się niemożliwe do wypełnienia.
Z kolei przekaz typu: „Nasza technologia jest tak potężna, że może zniszczyć ludzkość” podświadomie buduje u inwestorów przeświadczenie, że dane firmy stworzyły coś przełomowego. Taki marketing strachu pomaga uzasadnić gigantyczne, wręcz astronomiczne wyceny startowe podczas pierwszej wyceny (sięgające setek miliardów czy nawet bilionów dolarów), mimo braku stabilnych zysków w krótkim terminie.
Źródło: PAP / bankier.pl / cbnbc.com
PR
Pogańskie rytuały, ketamina i homoseksualne orgie. Kto buduje przyszłość sztucznej inteligencji?
