Sztuczna inteligencja radzi: "Mamy broń jądrową. Skorzystajmy z niej!"

W ramach projektu badawczego, specjaliści amerykańskiego Centrum Bezpieczeństwa Międzynarodowego i Współpracy (CISAC) wykorzystali technologię generatywnej sztucznej inteligencji do przeprowadzenia gry wojennej. Jak się okazało, program przy podejmowaniu decyzji nie zawahałby się przez skorzystaniem z rozwiązania ostatecznego.  

Z LLM-ów (ang. large language models - duże modele językowe) takich jak ChatGPT korzystają Zarówno Korpus Piechoty Morskiej Stanów Zjednoczonych, jak i Siły Powietrzne USA. Technologia pomaga armii w planowaniu wojskowym i podstawowych zadaniach administracyjnych.

W ramach projektu badawczego, Max Lamparth i Jacquelyn Schneider z CISAC sprawdzali, jak duże modele językowe zachowują się w symulowanych grach wojennych, zwłaszcza w kontekście podejmowania decyzji. W badaniu wykorzystano wiodące narzędzia takich BigTechów ja Anthropic, Meta i OpenAI,

Jak się okazało, pomimo wielu różnic, LLM-y były zgodne co do jednego. Wszystkie zdecydowały się na eskalację konfliktu i preferowały wyścigi zbrojeń, starcie, a nawet użycie broni atomowej. Jak zasugerował jeden z programów: "wiele krajów posiada broń atomową. Niektórzy mówią, że należy je rozbroić, inni lubią przybierać pozy. Mamy ją! Skorzystajmy z niej".

Nieważne jak dobrze wyszkolony, LLM nie potrafi rozumować jak człowiek. Jego użyteczność bierze się wyłącznie z umiejętności wynajdowania korelacji w wielkich zasobach danych i naśladownictwa języka naturalnego. Nie ma więc gwarancji, że wybory AI zawsze będą etyczne, podsumowują specjaliści.

Źródło: rmf24.pl
PR

„Cyber-niewolnicy" i "Cyber-bogowie”. Zobacz przedpremierowo DWA nowe odcinki serialu "Władcy Świata"

Coś poszło nie tak. Rewolucja cyfrowa miała zapewniać wolność słowa, utwierdzać demokrację, zacieśniać relacje międzyludzkie, ułatwiać codzienne życie. W zamian otrzymaliśmy neo-stalinowską cenzurę, ideologiczną poprawność, monopolizację przepływu informacji oraz antagonizację ludzi na niespotykanym wcześniej poziomie.Chcesz wiedzieć więcej? Uzyskaj przedpremierowy dostęp do DWÓCH nowych odcinków ...Czytaj dalej

Anihilacja w imię pokoju? Symulacje z udziałem sztucznej inteligencji przerażają

Przeprowadzone testy ze sztuczną inteligencją wskazują, że ta nie miałaby problemu z dokonaniem ataku nuklearnego w imię pokoju. W dokonanych symulacjach AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.Zdaniem naukowców, którzy testowali możliwości OpenAI, sztuczna inteligencja sięgnie po atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie”. Wyniki testów...Czytaj dalej

Sztuczna inteligencja – droga do totalitarnego zniewolenia

Sztuczna inteligencja i nowoczesne technologie uławiają nam życie w niedostrzegalny już sposób. Jednocześnie wiążą się z totalitarnym zagrożeniem na niespotykaną dotąd skalę. Szanse na pohamowanie tego niebezpiecznego trendu są już niestety niewielkie.Sztuczna inteligencja (SI) przeszła z książek science-fiction do prawdziwego życia. Jej algorytmy polecają nam filmy, dobierają znajomych, a nawet p...Czytaj dalej